Создадена е отровна пилула за вештачка интелигенција?
Алатката е создадена за да спречи еден од најголемите проблеми што креаторите на содржини и уметниците го имаат со обуката за вештачка интелигенција.
Обуката за вештачка интелигенција сè уште е донекаде сива зона, така што некои алгоритми се обучени за содржина заштитена со авторски права. Голем број уметници и музичари бараат итна регулација за да се стави крај на ваквите практики, бидејќи не сакаат нивните дела да се користат за обука на вештачката интелигенција на платформи како DALL-E, Stable Diffusion и Midjourney. Веќе се поднесени неколку тужби против такви компании кои развиваат платформи за вештачка интелигенција за претворање на текстуални барања во слики за користење на податоци заштитени со авторски права, па ќе биде интересно да се види нивниот исход.
Професорот Бен Жао од Универзитетот во Чикаго најде потенцијално решение за овој проблем. Во соработка со своите колеги, тој креираше специјална алатка наречена Nightshade, која, како што коментираат медиумите, може да ги „отруе“ податоците за обуката за вештачка интелигенција.
Nightshade дури може да ги уништи идните модели на наведените платформи за вештачка интелигенција за создавање слики врз основа на текстуално барање, објаснија тие на The Verge. Имено, оваа алатка ги менува дигиталните слики, односно пикселите во нив, така што оваа промена не е видлива за човечкото око, додека тие изгледаат поинаку од моделите со вештачка интелигенција – на пр. некои обични слики можат да препознаат како кубистичка апстракција, па не можат да ја имитираат оригиналната слика.
Затоа моделот со вештачка интелигенција може да даде сосема поинаква слика на желбите на корисникот на одредено барање за текст? Во еден случај, моделите за генерирање на вештачката интелигенција применети на оваа алатка прикажуваа слики од мачки, иако текстуалното барање беше поврзано со куче. Умерен број такви напади со користење на Nightshade, верува Жао, може да ги дестабилизира општите функции во генеративниот модел на конвертирање на текстуално барање во слика, така што платформите за вештачка интелигенција повеќе нема да можат да создаваат значајни слики врз основа на преференциите на корисниците.
Жао и тимот зад Nightshade велат дека креаторите на содржини треба да ја користат оваа „отровна пилула“ како последна линија на одбрана против оние што ја користат нивната содржина за да тренираат вештачка интелигенција без дозвола. Тој, исто така, верува дека компаниите кои ги обучуваат нивните модели за содржина заштитена со авторски права, ќе ги променат своите навики и повеќе нема да користат таква содржина за нивните модели со вештачка интелигенција.
