Нобеловецот предупреди дека технологијата би можела да биде блиску до тоа да предизвика голем инцидент, како што е колапсот на енергетскиот или банкарскиот систем.
Еден од „кумовите на вештачката интелигенција“, Џефри Хинтон, рече дека можеби ќе се покаже дека би било подобро за човештвото доколку технологијата никогаш не била развиена, предупредувајќи дека таа би можела да предизвика инцидент од големи размери оваа или следната година, како што е привремен прекин на финансиските или енергетските системи.
Компјутерскиот научник и добитник на Нобелова награда за „Гардијан“ изјави дека не е „катастрофист“ кога станува збор за технологијата зад неговото револуционерно истражување за вештачки невронски мрежи и дека верува дека вештачката интелигенција (ВИ) има потенцијал да доведе до „прекрасна иднина“, но додаде: „Можеби би било подобро никогаш да не ја развиеме“.
Хинтон (78) рече дека во рок од една деценија, а можеби и порано, човештвото ќе знае дали може да управува со ризиците од оваа технологија и да овозможи она што тој го нарече „радикална изобилство“ или дали „ќе не успееме да ги управуваме ризиците и ќе имаме огромен јаз меѓу богатите и сиромашните, огромни културни проблеми, масовна невработеност – само општество кое се распаѓа“.
Хинтон зборуваше пред проекцијата на новиот долгометражен документарец „Вештачка интелигенција: Веројатно нема потреба од грижа“ – чиј наслов го предложи чет-бот со вештачка интелигенција – во кој се појавуваат тој и неговиот поранешен колега во „Гугл“, Демис Хасабис. Во филмот, Хинтон им кажува на авторите: „Чувствувам дека имам должност. Имам репутација што ме прави портпарол и морам да вложам сè во ова“.
Во разговор за „Гардијан“, Хинтон го критикуваше преземањето ризици од страна на лидерите на некои големи компании за вештачка интелигенција кои продолжуваат да промовираат сè помоќни модели во трката за превласт и пазарен удел, велејќи дека „воопшто не му верува на Сем Алтман, извршен директор на OpenAI, компанијата зад ChatGPT“. „Мислам дека Закерберг, Маск и Сем Алтман ги разбираат ризиците и воопшто не им е грижа. Тие би сакале да ги земат парите. Тоа е мое верување.“
Научникот роден во Лондон, кој пораснал во Бристол и поголемиот дел од својата кариера го поминал на Универзитетот во Торонто, рече дека е „крајно загрижувачки“ што Алтман е на чело на една од неколкуте водечки американски компании за вештачка интелигенција кои моментално се натпреваруваат со Кина за развој на најмоќната вештачка интелигенција. Алтман во септември инсистираше: „Светот треба да верува дека ќе го направиме вистинското нешто затоа што тоа е правилното нешто што треба да се направи и затоа што ја чувствуваме големината на ова“.
Хинтон се занимава со вештачка интелигенција околу 44 години, а во 1970-тите години го смислил концептот на невронска мрежа – математички систем кој може да учи и да стекнува искуство слично на луѓето. Во 2023 година, тој го напуштил Google за слободно да зборува за ризиците од вештачката интелигенција, предупредувајќи: „Ако овие работи се однесат во преземање поголема контрола, ќе имаме проблеми“.
Тој рече дека инцидентите од ова лето, во кои агентите на вештачката интелигенција на OpenAI заеднички се обидоа да ја хакнат веб-страницата „Hugging Face“, ги гледа како нешто слично на делумната нуклеарна криза во електраната Три Мајл Ајленд во Пенсилванија во 1979 година – практично како предупредувачки истрел.
„Или подоцна оваа или следната година ќе го видиме Чернобил, а тоа можеби ќе биде доволно за луѓето навистина да обрнат внимание“, рече тој.
Според примерите што ги наведе, тој настан сличен на Чернобил нема да биде нуклеарен инцидент, туку би можел да вклучува напад врз систем за производство на енергија овозможен од вештачка интелигенција што „предизвикува масовно затемнување“ или инцидент што го нокаутира финансискиот систем една недела.
„Можете ли да замислите што би се случило? Можеме да се опоравиме од тоа, но тоа би ги натерало да се налутат и да обрнат внимание.“
Кога го прашале кои се „тие“, тој одговорил: „Светските лидери, освен Трамп“.
Американскиот претседател Доналд Трамп изјави дека „апсолутно отфрла секаков обид за создавање глобалистичка шема“ за контрола на вештачката интелигенција и сака водечките компании за вештачка интелигенција сами да се регулираат, поради загриженоста дека правилата би можеле да ги попречат САД во нивната трка со Кина. Хинтон поддржува построг план поддржан од претседателот на Финска и уште 32 земји, вклучувајќи ги Сингапур, Германија, Канада и Австралија, кој повикува на задолжително тестирање на најнапредните модели на вештачка интелигенција, независна евалуација и заеднички меѓувладини стандарди.
Британскиот премиер Енди Бернам изјави дека ќе го искористи претседателствувањето на Велика Британија со Г20 следната година за да се постигне договор за „единствен сет глобални принципи и стандарди кои во голема мера се насочени кон отклучување на целосниот потенцијал, а воедно и заштита од ризик“.
Хинтон рече: „Ни треба нешто како Американската администрација за храна и лекови (FDA), каде што компаниите мора да обезбедат многу добри статистички докази до независно тело дека моделот на вештачка интелигенција прави повеќе добро отколку штета пред да биде пуштен во употреба. Со талидомидот [лек развиен во 1950-тите што предизвика тешки вродени дефекти], откривме дека неговото пуштање во употреба, а потоа тужба, не е вистинскиот пат. Она што го велат големите технолошки компании е да се третира ова на начинот на кој ние го третиравме талидомидот.“
Улогата на Хинтон како еден од пионерите на вештачката интелигенција доведе до споредби со Роберт Опенхајмер, кој беше инструментален во создавањето на нуклеарно оружје. Еден од пријателите на Хинтон дури му купи и шапка во стилот на Опенхајмер. Но, тој инсистира: „Јас не бев Опенхајмер“, цитирајќи илјадници други научници кои исто така работеле во истата област на невронските мрежи.
И покрај неговите предупредувања, Хинтон во суштина останува надежен дека катастрофата може да се избегне.
„Моето чувство е дека сè уште имаме контрола“, рече тој. „Сосема е можно да можеме да направиме нешто. Ќе функционира само ако вложиме голем напор, но сосема е можно да вложиме голем напор“.
