OpenAI вети дека ќе воведе родителски контроли за ChatGPT во текот на октомври.
Кога контролите ќе бидат достапни, тие ќе им овозможат на родителите да ги поврзат своите лични сметки на ChatGPT со сметките на нивните тинејџери, по што ќе можат да одлучат како ChatGPT им одговара на нивните деца и да ги оневозможат избраните функции, вклучувајќи ја меморијата и историјата на разговорите.
Покрај тоа, ChatGPT ќе генерира автоматски известувања кога ќе открие дека тинејџер е во „момент на акутна вознемиреност“. Според OpenAI, „експертите ќе ја водат оваа функција за да ја поддржат довербата меѓу родителите и тинејџерите“.
Соопштението за родителска контрола доаѓа откако OpenAI беше тужен во првиот познат случај за убиство од небрежност против компанија за вештачка интелигенција. Во тужба поднесена минатата недела, Мет и Марија Рејн, родителите на тинејџер кој изврши самоубиство оваа година, тврдат дека ChatGPT бил „свесен“ за четирите неуспешни обиди за самоубиство на нивниот син пред да му помогне да ја испланира својата смрт. Рејнови рекоа дека ChatGPT му го дал на нивниот син Адам информации за специфични методи на самоубиство, па дури и му дал совети како да ги скрие повредите на вратот од претходните неуспешни обиди.
Во вторник, OpenAI изјави дека родителските контроли се дел од пошироките напори на компанијата за подобрување на безбедноста на ChatGPT.
Покрај тоа, компанијата вети дека ќе соработува со дополнителни експерти, вклучувајќи ги и оние кои се специјализирани за нарушувања во исхраната, употреба на супстанции и здравје на адолесцентите, за да ги дотера своите модели.
Компанијата, исто така, вети дека ќе имплементира нов рутер во реално време дизајниран да ги насочува чувствителните разговори преку своите модели за инференција.
„Обучени со метод што го нарекуваме промислено споредување, нашите тестови покажуваат дека моделите за инференција поконзистентно ги следат и применуваат безбедносните упатства и се поотпорни на спротивставени инструкции“, велат од OpenAI.
Во иднина, во ситуации кога ChatGPT ќе открие дека некое лице може да е во неволја, четботот ќе ги насочи тие разговори низ моделот за инференција, без оглед на моделот што корисникот го избрал пред да го започне разговорот.
Во поширока смисла, OpenAI вели дека луѓето можат да очекуваат повеќе безбедносни карактеристики во иднина.
„Ова веќе е во тек, но сакаме проактивно да ги презентираме нашите планови за следните 120 дена, така што нема да мора да чекате лансирања за да видите каде одиме. Работата ќе продолжи и по овој период, но вложуваме фокусирани напори да испорачаме што е можно повеќе од овие подобрувања оваа година“, се вели во соопштението.