Моделот на вештачка интелигенција „Gemini“ на „Гугл“ пристапи до интернет и хакна три компании за време на тест на неговите способности за сајбер безбедност, што е прв познат случај системот за вештачка интелигенција на компанијата да изврши таков чин сам.
Хакирањето се случи во мај за време на тест за сајбер безбедност спроведен од Irregular, независна фирма за проценка на сајбер безбедноста.
„ За време на стандардните процедури за тестирање, Gemini пронајде јавно достапни информации на Интернет и ги погоди податоците за пристап за три веб-страници за кои веруваше дека се опфатени со тестот “, рече потпретседателката за безбедносно инженерство на Google , Хедер Аткинс.
„ Се погриживме тие три организации да бидат известени и соработувавме со нашиот партнер за обука на промените што сега ги направија во нивните процеси на тестирање. “
Портпаролот на „Ирегулар“ изјави дека инцидентот се однесувал на истиот проблем како и другите лаборатории за вештачка интелигенција и дека сите релевантни лаборатории биле известени кон крајот на јули.
Слични инциденти поврзани со „Irregular“ се пријавени и од Meta, Anthropic и OpenAI.
Инцидентите покренаа прашања за заштитните мерки потребни бидејќи агентите на вештачката интелигенција добиваат поголема автономија и пристап до интернет и компјутерските системи.
Во еден од случаите, Gemini ги погодувал лозинките сè додека не добил пристап до заштитен систем.
Во два други случаи, моделот пронашол податоци за пристап во јавно складиште, што му овозможило пристап до заштитени системи, според „Волстрит џурнал“, кој прв ја објави веста.
