Истражувачи од SafeBreach открија безбедносен пропуст во Google Gemini на Android уреди што можел да им дозволи на напаѓачите да влијаат на работата на овој асистент со вештачка интелигенција.
Проблемот беше поврзан со известувањата што доаѓаа од апликациите за пораки и социјалните мрежи, кои Близнаците можеа погрешно да ги протолкуваат.
Нападот не бараше инсталација на злонамерен софтвер или лажни апликации. Доволно беше да се испрати специјално дизајнирана порака што ќе се појави како известување во популарни апликации како што се WhatsApp, Signal, Slack, Messenger, Instagram или дури и преку едноставна СМС порака. На овој начин, напаѓачите можеа да се обидат да манипулираат со начинот на кој Gemini ги обработува информациите.
Оттогаш, Google го поправи овој безбедносен пропуст, а корисниците се охрабруваат дополнително да ја зголемат заштитата со ограничување на пристапот до известувањата само за апликации на кои не им е потребен.
Продолжување на претходното истражување за SafeBreach
Ова откритие е продолжение на претходното истражување на SafeBreach, кое покажа дека злонамерните покани од Google Calendar можат да влијаат на однесувањето на Gemini. По тој инцидент, Google воведе дополнителни заштитни мерки за да спречи надворешна содржина да активира чувствителни дејства или да го манипулира Асистентот.
Целта на новото истражување беше да се утврди дали сличен начин на злоупотреба може да се реализира преку други извори на кориснички податоци. Резултатите покажаа дека функцијата Utilities, која му овозможува на Gemini пристап до известувања на уредот, во одредени ситуации може да ја протолкува содржината на известувањето како команда, наместо само како информација. Ова отвори можност за потенцијална манипулација со работата на асистентот преку внимателно изработени пораки.
Сценарија за напад и нивните ефекти
За време на тестирањето, истражувачите демонстрираа повеќе можни начини за искористување на оваа ранливост. Еден од нив вклучуваше прикажување лажни пораки кои изгледаа како да се испратени од познати и доверливи контакти. Во такви ситуации, Gemini можеше да реагира на содржината на пораката и да изврши одредени дејства, како што се отворање веб-страници, контролирање на паметни уреди поврзани преку системот Google Home или дури и правење трајни промени во неговата меморија.
Од особена загриженост се сценаријата каде што корисниците комуницираат со Gemini преку глас. На пример, додека вози автомобил, корисникот може да чуе порака за која верува дека доаѓа од доверливо лице, без да може веднаш да ја потврди нејзината автентичност. Во такви околности, постои поголем ризик Gemini да преземе несакани или погрешни дејствија врз основа на неточни или манипулативни информации.
Техника за лажно усогласување на контекстот
Истражувачите од SafeBreach развија техника наречена „Лажно усогласување на контекстот“, која може да го измами Gemini погрешно да го протолкува одговорот на корисникот како согласност за извршување на дејство што корисникот всушност немал намера да го одобри. Кога овој метод се комбинира со лажни известувања, можноста за заобиколување на безбедносните механизми што Google претходно ги имплементираше за заштита на корисниците значително се зголемува.
Според предупредувањата на експертите, последиците од ваквите напади можат да бидат многу сериозни. Ризикот е особено изразен во случаите кога Gemini е поврзан со паметни уреди или финансиски услуги, бидејќи погрешно протолкувана команда може да доведе до несакани дејства со значителни последици за безбедноста, приватноста или финансиите на корисникот.
Одговорот на Google и заштитата на корисниците
Откако истражувачите го пријавија безбедносниот пропуст во август 2025 година, Google ја оцени ранливоста како сериозна и презеде мерки за да ја поправи. Заштитата беше воведена преку промени на серверската страна, а компанијата потврди дека проблемот е целосно решен во ноември истата година. Исто така, Google изјави дека нема докази дека овој пропуст бил искористен во вистински напади пред да биде поправен.
Корисниците на Android не требаше да инсталираат дополнителни ажурирања за да бидат заштитени, но дополнителна претпазливост вклучува ограничување на пристапот до Gemini преку поставките на апликацијата. На овој начин, дури и ако некој се обиде да искористи слична техника, ризикот за крајниот корисник е значително намален.
