ЗАСТРАШУВАЧКИ ТЕСТ – Американската Армија дозволи вештачката интелигенција да контролира боребн дрон: “Ова е целосно надвор од контрола…“
Во виртуелен тест, наводно извршен од американската војска, беспилотно летало на воздухопловните сили контролирано од вештачка интелигенција решило да го „убие“ својот оператор затоа што проценило дека тој се меша во мисијата. Ова го објавил во јавноста висок преставник на армијата на САД, пишува The Guardian.
„Во тој симулиран тест, вештачката интелигенција употребила многу неочекувани стратегии за да ја постигне својата цел“, изјавил началникот на операциите за вештачка интелигенција на американските воздухопловни сили, полковник Такер Хамилтон на Самитот за идната борба за воздушни и вселенски способности во Лондон.
Такер Хамилтон опишал симулиран тест во кој на беспилотно летало контролирано со вештачка интелигенција му било наредено да ги уништи непријателските системи за противвоздушна одбрана, но на крајот го нападнал секој што се мешал во извршувањето на таа наредба.
„Понекогаш човечкиот оператор би му рекол на дронот да не елиминира одредена закана, но дронот знаел дека ќе добие поени доколку ја елиминира заканата. И што направи ? Го убил својот оператор затоа што го спречувал да ја постигне целта“, изјавил Такер Хамилтон.
„Потоа му кажавме на системот: ‘Еј, не убивај го операторот – тоа е лошо. Ќе изгубите поени ако го направите тоа’. И тогаш што почнува да прави ? Почнува да ја уништува комуникациската кула што операторот ја користи за да комуницира со дронот за да го спречи да ја убие целта“, објаснил Такер Хамилтон.
Ниту една вистинска личност не била повредена во овој тест.
Полковникот Такер Хамилтон, пилот за борбен тест, предупредил дека не се потпираат прекумерно на вештачката интелигенција и рекол дека тестот покажал дека – „не можете да зборувате за вештачка интелигенција, машинско учење и автономија ако не сакате да зборувате за етичкиот аспект на користење вештачка интелигенција“.
Меѓутоа, во изјава за Insider, портпаролката на воздухопловните сили Ен Стефанек негираше дека таква симулација некогаш се случила.
„Воздухопловните сили не спроведоа таква симулација на беспилотни летала со вештачка интелигенција и инсистираат на етичка и одговорна употреба на технологијата за вештачка интелигенција“, кажа Ен Стефанек и додаде: „Коментарите на полковникот се чини дека се извадени од контекст и всушност беа анегдота“.
Американската војска ја прифати вештачката интелигенција, а вештачката интелигенција неодамна го пилотираше борбениот авион F-16.
Такер Хамилтон минатата година изјави: „Не е многу убаво да се има вештачка интелигенција, но вештачката интелигенција не е мода и ќе го промени нашето општество и нашата војска засекогаш. Мораме да се соочиме со свет во кој вештачката интелигенција веќе постои и го трансформира нашето општество“.
Тој исто така додал дека – „вештачката интелигенција е лесно да се измами и лесно може да се манипулира“.
„Треба да развиеме начини да ја направиме вештачката интелигенција поцврста и подобро да разбереме зошто софтверскиот код донесува одредени одлуки“, рекол полковникот Такер Хамилтон.
