Најбогатите луѓе во светот се подготвуваат за апокалипсата? Дали сите треба да бидеме загрижени?

Марк Закерберг наводно почнал да работи на ранчот Кулау, неговиот огромен имот од 1.400 хектари на хавајскиот остров Кауаи, уште во 2014 година.

Планирано е имотот да вклучува засолниште со сопствени резерви на енергија и храна, иако столарите и електричарите кои работеле на локацијата биле обврзани со договори за неоткривање информации да не зборуваат за тоа, според извештај во списанието Wired .

Ограда висока околу два метра го криеше проектот од погледот на блискиот пат.

Кога минатата година беше прашан дали гради бункер за крајот на светот, основачот на Фејсбук одговори категорично „не“. Подземниот простор, кој зафаќа околу 465 квадратни метри, објасни тој, „е само мало засолниште, како подрум“.

Сепак, тоа не ги спречи шпекулациите – ниту пак тоа за неговата одлука да купи 11 недвижности во населбата Кресент Парк во Пало Алто, Калифорнија, каде што наводно додал околу 650 квадратни метри подрумски простор.

Иако во градежните дозволи се споменуваат подруми, според „Њујорк тајмс“ , некои од неговите соседи го нарекуваат бункер. Или, како што велат, „пештерата на милијардерот“.

Исто така, постојат шпекулации за други технолошки лидери, од кои некои се чини дека се зафатени со купување големи парцели земјиште со подземни простори погодни за претворање во луксузни бункери вредни повеќе милиони долари.

Рид Хофман, коосновач на LinkedIn, зборуваше за „осигурување од апокалипса“. Околу половина од најбогатите луѓе во светот поседуваат такво осигурување, тврдеше тој претходно, а Нов Зеланд е популарна дестинација за вакви домови.

Дали сите треба да бидеме загрижени?

Значи, дали навистина се подготвуваат за војна, за последиците од климатските промени или за некоја друга катастрофа за која остатокот од светот сè уште не знае?

Во изминатите неколку години, напредокот во вештачката интелигенција (ВИ) само дополнително го прошири тој список на можни егзистенцијални закани. Многумина се длабоко загрижени за брзината на нејзиниот развој.

Се вели дека Иља Сутскевер, главен научник и коосновач на OpenAI, е еден од нив. До средината на 2023 година, компанијата со седиште во Сан Франциско веќе го лансираше ChatGPT – чатбот што го користат стотици милиони луѓе низ целиот свет денес – и брзо работеше на неговите подобрувања.

Фото: CNP/AdMedia / Sipa Press / Profimedia

Но, до летото истата година, Сутскевер бил сè повеќе убеден дека компјутерските научници се на работ на создавање вештачка општа интелигенција (AGI) – точката во која машините го достигнуваат нивото на човечката интелигенција – според книгата на новинарката Карен Хао.

На еден состанок, Сутскевер им предложил на колегите да ископаат подземно засолниште за врвните научници на компанијата пред толку моќна технологија да биде објавена во светот, според Хао.

„Дефинитивно ќе изградиме бункер пред да го ослободиме AGI“, наводно рекол тој, иако не е јасно на кого мислел кога рекол „ние“.

Ова осветлува еден интересен факт: многу водечки експерти во компјутерските науки и технолошките лидери, кои напорно работат на развој на екстремно интелигентни системи за вештачка интелигенција, исто така се длабоко исплашени од тоа што би можела да направи оваа технологија еден ден, пишува Би-Би-Си 

Па, кога точно – ако воопшто – ќе пристигне вештачката интелигенција (АГИ)? И дали навистина може да биде толку трансформативна што ќе почне да ги плаши обичните луѓе?

Пристигнувањето на AGI „пред да размислиме“

Технолошките лидери тврдат дека вештачката интелигенција (ВГИ) е неизбежна. Извршниот директор на OpenAI, Сем Алтман, во декември 2024 година изјави дека таа ќе пристигне „порано отколку што мислат повеќето луѓе во светот“.

Сер Демис Хасабис, коосновач на DeepMind, го предвиде тоа во следните пет до десет години, додека основачот на Anthropic, Дарио Амодеи, минатата година напиша дека неговиот префериран термин – „моќна вештачка интелигенција“ – би можел да се појави веќе во 2026 година.

Други се скептични.

„Тие постојано ги поместуваат границите. Зависи од тоа со кого разговарате“, вели Дама Венди Хол, професорка по компјутерски науки на Универзитетот во Саутемптон.

„Научната заедница вели дека технологијата на вештачката интелигенција е неверојатна“, додава таа, „но не е ни блиску до човечката интелигенција“.

Прво, би било потребно да се направат низа „фундаментални пробиви“, се согласува Бабак Хоџат, главен технолошки директор на „Когнизант“.

Покрај тоа, веројатната вештачка интелигенција (ВГИ) е малку веројатно да се појави во еден момент. Вештачката интелигенција е технологија што брзо се развива, таа е на пат, а многу компании ширум светот се борат да развијат свои верзии.

Една од причините зошто оваа идеја е толку возбудлива во Силиконската долина е тоа што се смета за претходник на нешто уште понапредно: ASI – вештачка суперинтелигенција – технологија што би ја надминала човечката.

Во 1958 година, концептот на „сингуларност“ постхумно му се припишува на унгарскиот математичар Џон фон Нојман. Тоа го означува моментот кога компјутерската интелигенција ги надминува границите на човечкото разбирање.

Поновата книга од 2024 година , „Битие“ , напишана од Ерик Шмит, Крег Манди и покојниот Хенри Кисинџер, ја дискутира идејата за технологија на суперсила што станува толку ефикасна во донесувањето одлуки и лидерството што целосно ѝ ја предаваме контролата.

Авторите тврдат дека прашањето е само „кога“, а не „ако“.

Пари за сè, без потреба од работа?

Застапниците на AGI и ASI се речиси евангелистички настроени кон нивните придобивки. Тврдењата се дека тоа ќе пронајде нови лекови за смртоносни болести, ќе го реши проблемот со климатските промени и ќе создаде неисцрпен извор на чиста енергија.

Илон Маск дури тврдеше дека суперинтелигентната вештачка интелигенција би можела да воведе ера на „универзален висок приход“.

Тој неодамна ја поддржа идејата дека вештачката интелигенција ќе стане толку евтина и широко распространета што секој ќе сака свој „личен R2-D2 и C-3PO“ (мислејќи на дроидот од „Војна на ѕвездите“).

„Секој ќе има најдобра медицинска нега, храна, транспорт и сè друго. Одржливо изобилство“, рече тој со ентузијазам.

Но, постои и застрашувачка страна. Дали технологијата може да биде злоупотребена од терористи или, уште полошо, самостојно да одлучи дека човештвото е причина за светските проблеми и треба да биде уништено?

„Ако е попаметно од тебе, тогаш мора да го држиме под контрола“, предупреди Тим Бернерс-Ли, креаторот на мрежата, во интервју за Би-Би-Си.

„Мора да можеме да го исклучиме“, истакна тој.

Владите преземаат одредени мерки за заштита. Во САД, каде што се наоѓаат повеќето водечки компании за вештачка интелигенција, претседателот Бајден потпиша наредба во 2023 година со која се бара од фирмите да ги споделат резултатите од безбедносните тестови со федералната влада – иако претседателот Трамп подоцна ја повлече дел од наредбата, нарекувајќи ја „бариера за иновации“.

Во Велика Британија, Институтот за безбедност на вештачката интелигенција – истражувачко тело финансирано од владата – беше основан пред две години за подобро разбирање на ризиците што ги претставува напредната вештачка интелигенција.

А потоа тука се и супербогатите со свои планови за „ апокалипса осигурување “.

„Кога некој вели дека „купува куќа во Нов Зеланд“, тоа е како намигнување, намигнување, не мора да објаснувате“, рече претходно Рид Хофман. Истата логика, веројатно, важи и за бункерите.

Но, постои една многу човечка маана.

Поранешен телохранител на милијардер кој има свој „бункер“ рекол дека приоритет на неговиот тим за обезбедување, доколку ова навистина се случи, би бил да го елиминираат нивниот шеф и самите да влезат во бункерот. И не изгледал како да се шегува, според новинарот на Би-Би-Си.

Што стои зад сето тоа?

Нил Лоренс, професор по машинско учење на Универзитетот во Кембриџ, смета дека целата дебата е бесмислена.

„Самиот поим за општа вештачка интелигенција е исто толку бесмислен како и поимот „општо возило““, тврди тој.

„Вистинното возило зависи од контекстот. Користам Ербас А350 за да летам до Кенија, автомобил за да стигнам до универзитетот, а пешачам до кафетеријата… Не постои возило што може да го направи сето тоа“, верува Лоренс.

За него, приказната за AGI е одвлекување на вниманието.

„Технологијата што веќе ја имаме им овозможува, за прв пат, на обичните луѓе да разговараат директно со машина и потенцијално да ја натераат да прави што тие сакаат. Тоа е апсолутно извонредно… и целосно трансформативно. Големата загриженост е што сме толку зафатени со наративите на големите технолошки компании за вештачката интелигенција што ја пропуштаме можноста да ги подобриме работите за луѓето“, додава тој.

Сегашните алатки за вештачка интелигенција се обучени на огромни количини на податоци и се добри во препознавањето на шеми: без разлика дали станува збор за знаци на тумор на скенирања или за најверојатниот следен збор во низа. Но, тие не „чувствуваат“, без разлика колку убедливи изгледаат нивните одговори.

„Постојат некои „трикови“ што големите јазични модели (основата на чет-ботовите со вештачка интелигенција) можат да ги користат за да се однесуваат како да имаат меморија и да учат, но ова се незадоволителни и инфериорни верзии во споредба со луѓето“, вели Хоџат.

Винс Линч, извршен директор на IV.AI со седиште во Калифорнија, е исто така претпазлив во врска со претераните тврдења за AGI.

„Тоа е одличен маркетинг“, вели тој. „Ако сте компанија што го гради најпаметното нешто досега, луѓето ќе сакаат да ви дадат пари.“

Тој додава дека тоа не е нешто што е оддалечено две години.

„Потребна е толку многу компјутерска моќ, толку многу човечка креативност, толку многу обиди и грешки“, истакнува тој.

Кога го прашале дали верува дека вештачката интелигенција некогаш ќе стане реалност, по долга пауза, тој одговорил: „Навистина не знам“.

Интелигенција без свест

Во извесна смисла, вештачката интелигенција веќе го престигна човечкиот мозок. Генеративната алатка за вештачка интелигенција може да биде експерт за средновековна историја во еден момент, а во следниот да решава сложени математички равенки.

Некои технолошки компании тврдат дека не секогаш знаат зошто нивните производи функционираат на начинот на кој функционираат. Мета вели дека има знаци дека нивните системи за вештачка интелигенција се подобруваат сами од себе.

Сепак, без разлика колку интелигентни стануваат машините, биолошкиот човечки мозок сè уште победува. Тој има околу 86 милијарди неврони и 600 трилиони синапси, значително повеќе од неговите вештачки еквиваленти.

Мозокот не треба да прави паузи помеѓу интеракциите и постојано се прилагодува на нови информации.

„Ако му кажете на некого дека е откриен живот на егзопланета, тој веднаш ќе го дознае тоа и тоа ќе влијае на неговиот поглед на светот. Со LLM (голем јазичен модел), тој ќе го „знае“ само ако продолжите да му ја повторувате таа информација како факт“, вели Хоџат.

„На студентите со право на глас, исто така, им недостасува метакогниција, што значи дека тие всушност не знаат што знаат. Се чини дека луѓето имаат интроспективна способност, позната како свест, што им овозможува да знаат што знаат“, додава тој.

Тоа е фундаментален дел од човечката интелигенција – и таков што сè уште не може да се реплицира во лабораторија.