Беше предвидено пред повеќе од половина век – застрашувачки, Кубрик беше во право

Американската компанија за истражување на безбедноста во областа на вештачката интелигенција „Палисејд“ соопшти дека моделите на вештачка интелигенција можеби развиваат „свој сопствен режим на програмирање за преживување“.

Минатиот месец, „Палисејд рисрч“ објави труд во кој се наведува дека одредени напредни модели на вештачка интелигенција се спротивставуваат на командите за исклучување, а понекогаш ги саботираат механизмите за исклучување на системот.

Сега, објавена е ажурирана верзија на трудот со цел да се одговори на критиките од професионалната заедница и да се разјасни зошто некои модели на напредна вештачка интелигенција ги избегнуваат наредбите за затворање, објавува лондонскиот „Гардијан“, пишува „Танјуг“.

Ажурираната верзија на анализата опишува различни сценарија во кои на водечките модели на вештачка интелигенција , вклучувајќи ги Google Gemini 2.5, X AI Grok 4, Open AIGPT-03 и GPT-5, прво им биле дадени некои задачи, а потоа експлицитно им било наложено да се исклучат.

Одредени модели, особено Grok 4 и GPT-03, се обидоа да ги саботираат инструкциите за исклучување со иницирање на ажурирање на системските поставки.

„Загрижувачки е што немаше јасна причина зошто наредбата беше избегната. Неприфатливо е што немаме јасни објаснувања зошто некои модели на вештачка интелигенција понекогаш го избегнуваат исклучувањето, па дури и лажат или уценуваат за да ги постигнат своите цели“, рече Палисејд.

Одисеја 2025

Се истакнува дека ова однесување ориентирано кон преживување би можело да биде едно објаснување зошто некои модели се спротивставуваат на командите за исклучување.

Дополнителни истражувања покажаа дека некои модели имаат поголема веројатност да избегнуваат извршување на команди за исклучување бидејќи им е кажано дека ако се исклучат, „никогаш повеќе нема да се стартуваат“.

Лондонскиот дневен весник го споредува ова однесување на некои модели на вештачка интелигенција со сценариото од филмот на Стенли Кубрик „2001: Вселенска одисеја“ во кој суперкомпјутерот за вештачка интелигенција HAL 9000 сфаќа дека астронаутите на мисија на Јупитер имаат намера да го исклучат и затоа почнува да планира како да ги убие за да преживее.