Земјите-членки и европратениците постигнаа договор за Законот за вештачка интелигенција на ЕУ по долги, интензивни разговори

Земјите-членки и Европскиот парламент постигнаа прелиминарен договор за Законот за вештачка интелигенција, првиот обид во светот да се регулира технологијата што брзо се развива на сеопфатен, етички начин.

Договорот беше постигнат на политичко ниво во петокот вечерта, по разговорите што го окупираа целиот ден и по неуспешниот маратон помеѓу средата и четвртокот попладне. Севкупно, целото туркање траеше повеќе од 35 часа.

Пробивот дојде во услови на агресивно лобирање од технолошки компании од сите големини, остри предупредувања од граѓанското општество и интензивна контрола на медиумите бидејќи законодавството од Брисел може многу добро да влијае на слични регулаторни напори ширум светот.

„Историски! ЕУ станува првиот континент кој постави јасни правила за употреба на вештачка интелигенција“, рече Тиери Бретон, европски комесар за внатрешниот пазар кој учествуваше во дебатата. „Законот за вештачка интелигенција е многу повеќе од правилник – тој е лансирно поле за стартапите и истражувачите од ЕУ да ја водат глобалната трка за вештачка интелигенција“.

Преговорите беа тешки борби меѓу владите и пратениците за низа многу сложени и технички прашања.

Откако во четвртокот потпишаа пробен компромис за зауздување на основните модели што ги поттикнуваат четботите како што е ChatGPT на OpenAI, разговорите во петокот имаа силен фокус на употребата на биометрија во реално време, вклучително и препознавање на лица, на јавни места.

Во суштината на дебатата беше прашањето дали на државните власти треба да им се дозволи да распоредат биометриски системи напојувани со вештачка интелигенција кои можат да ги идентификуваат и категоризираат луѓето врз основа на чувствителни карактеристики како што се пол, раса, етничка припадност, религија и политичка припадност, како и системи на препознавање емоции и политика на предвидување.

Во нивниот заеднички мандат , европратениците рекоа дека овие практики се „наметливи и дискриминаторски“ и затоа треба да бидат забранети низ територијата на ЕУ. Меѓутоа, земјите-членки имаа сосема поинакво мислење и тврдеа дека се неопходни исклучоци за спроведување на законот за да се пронајдат криминалците и да се спречат заканите против националната безбедност. Франција претходно оваа година го одобри законодавството за да се овозможи употреба на биометриски надзор за време на  Олимпијадата и Параолимпијадата во Париз во 2024 година , прв пат за една земја од ЕУ.

Судирот меѓу националната безбедност и основните права апсорбира најголем дел од енергијата во петокот. Шпанија, актуелниот претседавач со Советот, имаше тешка задача да ги претставува 27-те земји-членки и да одржува обединет фронт.

Разговорите беа прекинати со долготрајна пауза каде што пратениците разговараа меѓу себе за барањата на шпанското претседателство. Во меѓувреме, научници и активисти се појавија на социјалните мрежи за да ги повикаат европратениците да се спротивстават на исклучоците за спроведување на законот.

На крајот, Парламентот попушти и потпиша серија „строги услови“ кои ќе им овозможат на властите да користат биометрија во реално време за да бараат жртви на киднапирање, трговија со луѓе и сексуална експлоатација; спречување на терористички закани; и лоцирање на лица осомничени дека извршиле тешки кривични дела, како што се тероризам, убиства, силувања и вооружени грабежи.

Спротивно на тоа, биометриската категоризација врз основа на чувствителни карактеристики, социјално бодување, предвидливо полициско работење, искористување на ранливости и препознавање емоции на работното место и образовните институции ќе биде забранета.

„Ние жестоко се боревме за забраната за биометриска идентификација“, рече Брандо Бенифеи, социјалистички европратеник кој беше ко-известувач. „Беше важно да се соберат сите овие парчиња.

„Сите овие работи се многу силен режим кој кажува каква употреба на вештачка интелигенција не сакаме во нашата Унија и на нашиот пазар“, рече Драгош Тудораче, другиот коизвестувач. 

DEAL ON AI! 🦾 After three days of trilogues, negotiators from Parliament & Council have finally reached a political agreement on the Artificial Intelligence Act! 👏 pic.twitter.com/CRKZn0WSSF

— IMCO Committee Press (@EP_SingleMarket) December 8, 2023

Со оглед на сложеноста на предметното прашање, компромисот што произлезе од долгите разговори најверојатно ќе бара дополнително дотерување во наредните денови. Карме Артигас, шпанската државна секретарка за дигитализација и вештачка интелигенција, инсистираше на тоа дека „секој член“ е договорен, без да остави никакви „дупки“ за заобиколување на почитувањето на човековите права.

Откако законскиот текст, кој опфаќа стотици страници во написи и анекси, ќе биде препишан, ќе биде испратен до Европскиот парламент за ново гласање за хемициклот, по што ќе има зелено светло од земјите во Советот.

„Се надеваме дека сите (земјите-членки) ќе го потврдат“ компромисот, рече Артигас, на прашањето за загриженоста што ја искажаа Германија и Франција.

Конечните гласања се очекува да се одржат на почетокот на 2024 година. Тогаш законот ќе има постепен период пред да стане целосно применлив.

Технологија која постојано се развива

Првпат претставен во април 2021 година , Законот за вештачка интелигенција е револуционерен обид да се осигура дека најрадикално трансформативната технологија на 21-от век е развиена на човекоцентричен, етички одговорен начин што ги спречува и ги содржи нејзините најштетни последици.

Актот во суштина е регулатива за безбедност на производите што наметнува непрекинат сет на правила што компаниите треба да ги следат пред да ги понудат своите услуги на потрошувачите насекаде низ единствениот пазар на блокот.

Законот предлага структура слична на пирамида која ги дели производите напојувани со вештачка интелигенција во четири главни категории според потенцијалниот ризик што тие го претставуваат за безбедноста на граѓаните и нивните основни права: минимални, ограничени, високи и неприфатливи.

Оние кои спаѓаат во категоријата минимален ризик ќе бидат ослободени од дополнителни правила, додека оние што се означени како ограничен ризик ќе мора да ги следат основните обврски за транспарентност.

Системите кои се сметаат за висок ризик ќе подлежат на строги правила што ќе се применуваат пред да влезат на пазарот на ЕУ и во текот на нивниот животен век, вклучително и значителни ажурирања. Оваа група ќе опфати апликации кои имаат директно и потенцијално влијание врз животот на приватните граѓани, како што се софтверот за сортирање биографии за интервјуа за работа, хирургија со помош на роботи и програми за оценување на испити на универзитетите.

Производите со вештачка интелигенција со висок ризик ќе мора да поминат низ проценка на сообразноста, да бидат регистрирани во базата на податоци на ЕУ, да потпишат изјава за сообразност и да носат CE ознака – сето тоа пред да стигнат до потрошувачите. Откако ќе станат достапни, тие ќе бидат под надзор на националните власти, потпомогнати од посебна канцеларија за вештачка интелигенција во Европската комисија.

Системите за вештачка интелигенција со неприфатлив ризик за општеството, вклучително и социјално бодување за контрола на граѓаните и апликации кои ги искористуваат социо-економските ранливости, ќе бидат целосно забранети на целата територија на ЕУ.

Според прелиминарниот договор, компаниите кои ќе ги прекршат правилата ќе се соочат со повеќемилионски казни до 35 милиони евра или 7% од глобалниот промет.

Historic!

The EU becomes the very first continent to set clear rules for the use of AI 🇪🇺

The #AIAct is much more than a rulebook — it's a launchpad for EU startups and researchers to lead the global AI race.

The best is yet to come! 👍 pic.twitter.com/W9rths31MU

— Thierry Breton (@ThierryBreton) December 8, 2023

Иако овој пристап заснован на ризик беше добро прифатен уште во 2021 година, тој се најде под извонреден притисок кон крајот на 2022 година, кога OpenAI го лансираше ChatGPT и предизвика глобален бес околу чат-ботите. Наскоро ChatGPT беше проследен со Bard на Google, Bing Chat на Microsoft и, неодамна, Q на Amazon.

Чет-ботови се напојуваат со модели на основа, кои се обучени со огромни количини на податоци, како што се текст, слики, музика, говор и код, за да се исполнат широк и флуиден сет на задачи кои можат да се менуваат со текот на времето, наместо да имаат специфичен, непроменлив цел.

Оригиналниот предлог на Комисијата не воведе никакви одредби за модели на основа, принудувајќи ги пратениците да додадат целосно нов член со обемна листа на обврски за да се обезбеди дека овие системи ги почитуваат основните права, се енергетски ефикасни и се усогласени со барањата за транспарентност со откривање на нивната содржина е AI- генерирана.

Овој притисок од Парламентот беше дочекан со скептицизам од земјите-членки, кои имаат тенденција да претпочитаат благ пристап кон донесувањето закони. Германија, Франција и Италија, трите најголеми економии во блокот, излегоа со контрапредлог кој фаворизираше „задолжителна саморегулација преку кодекси на однесување“ за моделите на фондации. Овој потег предизвика лути реакции кај пратениците и се закани да го попречи законодавниот процес.

Но, застрашувачката перспектива за ставање на значајниот закон во неизвесност пред европските избори следната година делуваше како мотивација за премостување на празнините и постигнување прелиминарен договор, кој сега предвидува барања за транспарентност за чат-ботови за да се осигура дека корисниците се свесни дека имаат интеракција со систем кој работи со вештачка интелигенција.

„Актот за вештачка интелигенција е глобално прво“, рече Урсула фон дер Лајен, претседател на Европската комисија. „Уникатна правна рамка за развој на вештачка интелигенција на која можете да и верувате.