„Кумот“ на вештачката интелигенција верува дека постои само еден начин да се спречи нејзината доминација над луѓето

Џефри Хинтон, познат како „кум“ на вештачката интелигенција, се плаши дека технологијата чие создавање тој помогнал да го уништи човештвото. Тој верува дека „технолошките браќа“ имаат погрешен пристап во обидот да го спречат ова.

Хинтон е добитник на Нобелова награда за наука и беше директор во Google. Тој претходно предупреди на 10 до 20 проценти веројатност вештачката интелигенција да го уништи човештвото. Тој исто така се сомнева во тоа како технолошките компании се стремат да обезбедат доминација на луѓето над вештачката интелигенција.

„Нема да функционира. Вештачката интелигенција ќе биде многу попаметна од нас. Ќе има различни начини да нè надмине“, рече тој вчера на индустриската конференција Ai4 во Лас Вегас.

Според него, вештачката интелигенција би можела да ги контролира луѓето на ист начин како што возрасен може да искуша тригодишно дете со слатки. Порано оваа година, беше можно да се види вештачка интелигенција подготвена да измами, измами и краде за да ги постигне своите цели. На пример, таа уценувала инженер со афера за која дознала преку е-пошта.

Хинтон не мисли дека принудувањето на вештачката интелигенција да ги почитува луѓето е решението. Имено, тој се залага за интригантно решение – вградување на „мајчински инстинкти“ во вештачката интелигенција за да може навистина да се грижи за луѓето, дури и кога е помоќна и попаметна од нив.

Тој очекува дека вештачката интелигенција ќе развие, како што забележа, две подцели. Едната е таа да остане жива ако е попаметна од човекот, а другата е да има поголема контрола. За него, постои добра причина да се верува дека вештачката интелигенција ќе се стреми да се одржи.

Според тоа, како што тој посочи, важно е да се развие сочувство кон луѓето во неа. Како аргумент во поддршка на оваа позиција, тој се повика на фактот дека мајките имаат инстинкт и се под општествен притисок да се грижат за своите деца.

„Единствениот добар исход“

Тој признава дека дури ни нему самиот не му е јасно како е тоа технички можно, но тврди дека експертите веќе работат на тоа.

„Тоа е единствениот добар исход. Ако не се однесуваат кон мене како кон родител, ќе ме заменат. Повеќето суперинтелигентни, грижливи мајки базирани на вештачка интелигенција нема да сакаат да се ослободат од своите мајчински инстинкти затоа што нема да сакаат да умреме“, рече Хинтон.

Тој е познат по својата пионерска работа во невронските мрежи, отворајќи го патот за подемот на вештачката интелигенција. Пред две години, тој го напушти Google и почна да зборува за опасностите од вештачката интелигенција.

Емет Шир, поранешен привремен извршен директор на OpenAI, чија алатка за вештачка интелигенција е ChatGPT, рече дека не е изненаден што некои системи за вештачка интелигенција се обиделе да уценуваат луѓе или да ги заобиколат наредбите за исклучување.

„Ова се случува постојано и нема да престане да се случува. Вештачката интелигенција е релативно слаба во моментов, но многу брзо станува посилна“, забележа Шир, кој моментално е директор на стартапот за вештачка интелигенција Softmax, на конференцијата Ai4.

Тој е на мислење дека наместо да се инкорпорираат човечките вредности во системите за вештачка интелигенција, би било попаметно да се воспостави соработка меѓу луѓето и вештачката интелигенција.

Развој побрз од очекуваното

Многу експерти очекуваат дека вештачката интелигенција ќе биде суперинтелигентна (AGI) во следните неколку години, т.е. ќе може да учи самостојно. Хинтон претходно претпоставуваше дека тоа ќе трае помеѓу 30 и 50 години, но сега претпоставува дека тоа ќе се случи порано.

„Разумна проценка е дека ова ќе се случи за пет до 20 години“, додава тој.

Иако се грижи што ќе тргне наопаку со вештачката интелигенција, се надева дека тоа ќе го отвори патот за медицински откритија. Покрај тоа, тој не верува дека вештачката интелигенција ќе ги направи луѓето бесмртни.

„Не верувам дека ќе живееме вечно. Вечниот живот би бил грешка. Дали сакате светот да го водат 200-годишни белци“, рече Хинтон.

Кога го прашале што би направил поинаку во својата кариера доколку знаел колку брзо ќе се развива вештачката интелигенција, тој одговорил дека жали што се фокусирал само на тоа да ја направи вештачката интелигенција да функционира. Имено, како што рекол, би претпочитал да размислува за безбедносните прашања на вештачката интелигенција, пишува CNN .