OpenAI подготвува невидлив дигитален печат за текстови од ChatGPT и Codex, но системот не може сигурно да ја препознае секоја содржина.
OpenAI подготвува технологија што би можела да помогне во откривањето текстови генерирани со помош на ChatGPT.
Невидливиот дигитален печат нема да го промени изгледот на текстот, но би можел да ја детектира трагата оставена од вештачката интелигенција. Сепак, постои една важна забелешка, системот не е непогрешлив .
Денес, вештачката интелигенција пишува е-пошта, составува извештаи и им помага на учениците, студентите и вработените. Ова го отежнува разликувањето на текст напишан од човек од содржина креирана со помош на четбот.
OpenAI работи на технологија што би можела да го олесни препознавањето на текстовите генерирани од неговите алатки, но тоа не значи дека секој текст од ChatGPT автоматски ќе добие ознака.
Како функционира невидлив воден печат?
Технологијата наречена TextGrain е дизајнирана да остави дигитална трага во текстовите генерирани од ChatGPT и алатката за програмирање Codex.
За разлика од ознаката на фотографиите, оваа ознака не е видлива за читателот. Системот се потпира на статистички шеми во изборот на зборови, кои специјализиран софтвер може да ги анализира и процени дали моделот на OpenAI учествувал во креирањето на текстот.
Сепак, последователното уредување и преформулирање на текстот може да ја ослабне способноста за негово препознавање.
Може ли да детектира речиси секој текст?
Не. Иако OpenAI наведува дека технологијата покажала ветувачки резултати во тестовите, тоа не значи дека ќе биде подеднакво сигурна во сите ситуации.
Кратките одговори и математичките објаснувања можат да бидат посебен предизвик. Освен тоа, присуството на трговската марка не докажува дека текстот е напишан целосно од вештачка интелигенција, исто како што неговото отсуство не значи дека човекот не користел вештачка интелигенција.
Дали ChatGPT ќе даде полоши одговори?
Едно од главните прашања е дали новата технологија ќе влијае на квалитетот на содржината. Според резултатите објавени од OpenAI, тестовите не покажаа значително влошување на перформансите на моделот со воден печат.
Ова би значело дека текстовите би можеле полесно да се проверат без значително да се наруши квалитетот на одговорите.
Што значи ова за Србија?
Според објавениот план, OpenAI има намера постепено да го воведе невидливиот знак во поддржаните верзии на ChatGPT и Codex во Европската Унија. Засега нема потврда дека промената автоматски ќе ги опфати сите корисници во Србија.
Оваа технологија би можела да биде особено интересна за училиштата и колеџите, каде што сè повеќе се поставува прашањето за користење на вештачка интелигенција при пишување семинарски и други трудови.
Сепак, резултатот од детекторот не треба да биде единствената основа за обвинување на некого за кршење на правилата.
Важно е да се направи разлика помеѓу потеклото на текстот и неговата точност. Дури и ако содржината е создадена со помош на ChatGPT, тоа не значи дека информациите во неа се неточни. Невидливиот печат може да го олесни потврдувањето на потеклото на текстот, но не е непогрешлив доказ за авторство.
