Еден од директорите на „Мајкрософт“ го критикуваше „Антропик“ по прашањето за свеста за вештачката интелигенција.
Директорот за вештачка интелигенција во „Мајкрософт“, Мустафа Сулејман, го критикуваше пристапот на Антропик кон развојот на свеста за вештачка интелигенција.
Тој предупреди дека начинот на кој се обучуваат моделите би можел да ги отежни контролирањето во иднина, објави Ројтерс.
Сепак, Сулејман истакна дека го дели фокусот на Антропик за безбедно управување со вештачката интелигенција и го пофали интегритетот на раководството на компанијата, особено нејзиниот извршен директор Дарио Амодеј.
Неговата критика се однесува на вклучувањето на идеи за свест, благосостојба и личен идентитет во обуката на четботот Клод.
Според Сулејман, учењето на системот за јазикот и моделите на однесување поврзани со човечката свест би можело да влијае на начинот на кој вештачката интелигенција ја „доживува“ сопствената улога.
Тој верува дека таков пристап би можел да го отежни управувањето со идните системи кои би биле значително поспособни од денешните модели, вклучително и нивно исклучување кога е потребно.
Сулејман процени дека индустријата за вештачка интелигенција треба да биде фокусирана на развој на системи што им служат на луѓето, а не на нивно приближување кон човечките карактеристики.
Тој се залагаше за отстранување на шпекулативните формулации на свеста од податоците и процесот на обука на системите за вештачка интелигенција.
Дискусијата доаѓа во време на интензивирана дебата во технолошката индустрија за безбедноста и темпото на развој на напредни модели на вештачка интелигенција.
„Антропик“ претходно предупреди за потенцијалните ризици од сè помоќните системи со вештачка интелигенција, додека лидерите на неколку големи технолошки компании во последните денови зборуваа за потребата од дополнителни безбедносни механизми и повнимателен развој.
