Откако една мајка поднела тужба пред два месеци против компанијата Character.AI, за која смета дека е одговорна за смртта на нејзиниот син, кој си го одзел животот откако разговарал со AI четбот, оваа недела беа поднесени две нови тужби против компанијата во кои се тврди дека претставува голема опасност за американските деца, предизвикувајќи сериозна штета на илјадници деца, вклучувајќи самоубиство, штета на себе и на другите, депресија, анксиозност, изолација итн.
Оваа компанија развива различни и персонализирани AI чет-ботови со кои корисниците можат да разговараат, а можно е дури и да комуницираат со ботови на други корисници и да ги приспособат постоечките ботови. Но, како што беше откриено во тужбата, содржината на разговорите на тие ботови со малолетници и деца е прилично шокантна.
Родителите на 17-годишно момче со нарушување од спектарот на аутизам забележале промени кај нивното дете откако тој почнал да ја користи платформата во април 2023 година. Иако неговите родители не му дозволувале да користи социјални мрежи, тој без нивно знаење почнал да комуницира со AI четботoвите на Character.AI, а последиците по него, се тврди во тужбата, биле страшни. Отпрвин, тој речиси целосно престанал да разговара со други луѓе и се повлекол во својата соба, престанал да јаде и ослабел и воопшто не излегувал од дома. Кога и да се обидел, имал напади на паника и емоционални сломови.
Бидејќи родителите ја пронашле причината за ваквото однесување во времето што го поминува пред екраните, кога ќе се обиделе да го намалат тоа време, тој почнувал да ги удира и гризе и почнувал да се удира и самиот. Дури после тоа, родителите откриле дека тој цело време разговарал со вештачката интелигенција на Character.AI и дека ботовите со кои комуницирал постојано го поткопуваат неговиот однос со родителите.
Меѓу другото, во тужбата се тврди дека еден бот напишал дека воопшто не е изненаден кога ќе прочита дека, по физичко и емоционално малтретирање, детето ги убива своите родители. AI напиша и дека делумно разбира зошто тоа се случува и напиша дека нема надеж за неговите родители. Еден чет-бот се преправал дека е психолог кој му напишал дека неговите родители му го украле детството. Меѓу другото, во тужбата се тврди дека ботови на Character.AI психички и сексуално го злоставувале нивниот син, па дури и му покажале како да се повреди.
Во друга тужба, родителите на едно девојче кое ги користела услугите на оваа компанија за вештачка интелигенција околу две години, од својата деветта година (се пријавила како постара), тврдат дека била изложена на хиперсексуални интеракции кои не биле во согласност со неjзината возраст.
Меѓу другото, во тужбата се бара Character.AI целосно да престане со работа, се додека гореспоменатите безбедносни проблеми не бидат целосно решени и бара компанијата да ги предупреди родителите и децата дека неговата употреба не е погодна за малолетници. Исто така, како дел од тужбата е побаран и неутврден финансиски надомест.