Вештачката интелигенција може да објасни симптоми, но не може да дијагностицира, а потпирањето на вештачката интелигенција наместо одењето на лекар може да доведе до сериозни последици.
Сè повеќе луѓе денес бараат здравствени совети од четботови, но експертите предупредуваат дека навидум прецизен одговор не е исто што и сигурна медицинска проценка.
Проблемот е што вештачката интелигенција може да звучи многу самоуверено дури и кога обезбедува нецелосни или неточни информации.
Наместо да одат на лекар, некои корисници прво ги внесуваат своите симптоми во разговор со асистент за вештачка интелигенција , очекувајќи дијагноза или совет за терапија.
Сепак, алгоритмот не го гледа пациентот, нема увид во целосната здравствена историја, резултатите од анализите или не може да изврши преглед, поради што неговите одговори можат погрешно да се протолкуваат како професионална препорака.
Кога самоуверениот одговор станува опасен
Еден од најголемите проблеми со модерните системи со вештачка интелигенција е тоа што тие можат да генерираат одговори што звучат професионално и веродостојно, дури и кога не се целосно точни.
Овој феномен е познат како „халуцинација“ на вештачката интелигенција, кога моделот ги поврзува информациите на начин што изгледа логично, но всушност може да содржи грешки.
Во медицината, ваквите грешки можат да бидат особено ризични. Погрешните совети за симптомите, лековите или одложувањето на прегледот може да предизвикаат лицето да игнорира сериозен проблем и да изгуби драгоцено време.
Вештачката интелигенција не е доктор и не може да ја преземе таа улога
Со години, лекарите предупредуваат за опасностите од самодијагностицирање преку Интернет, а развојот на четботовите донесе нова верзија на истиот проблем.
Дијагностиката не е само препознавање на симптомите, туку вклучува и разговор со пациентот, физички преглед, тестови и медицинско искуство.
Вештачката интелигенција може да помогне во пронаоѓањето општи информации, објаснувањето медицински термини или подготовката на прашања за лекар, но не треба да биде замена за професионална проценка.
Кој е одговорен кога вештачката интелигенција ќе тргне наопаку?
Со зголемената употреба на генеративна вештачка интелигенција, се отвора и прашањето за одговорност. Дали последиците од погрешен одговор ги сноси компанијата што ја направила алатката, корисникот што го применил советот или никој?
Овие прашања стануваат сè поважни како што системите со вештачка интелигенција стануваат дел од секојдневниот живот, особено во областите каде што грешките можат да имаат сериозни последици.
Компаниите воведуваат заштитни мерки, но корисниците треба да бидат внимателни
Компаниите што развиваат технологија за вештачка интелигенција постојано работат на подобрување на заштитните мерки, така што системите ќе препознаваат ризични медицински прашања и ќе ги насочуваат корисниците кон стручно мислење.
Сепак, ниеден систем не е совршен, па затоа одговорноста останува кај корисниците.
