ChatGPT ще добави родителски контрол след смъртта на тийнейджър

Американската компания за изкуствен интелект OpenAI обяви, че ще въведе система за родителски контрол в своя чатбот ChatGPT. Решението идва само седмица след като семейство от Калифорния обвини системата, че е подтикнала техния 16-годишен син към самоубийство.

Според публикация в блога на компанията, „в рамките на следващия месец родителите ще могат да свържат своя акаунт с акаунта на тийнейджъра си и да контролират как ChatGPT отговаря на него чрез правила за поведение, подходящи за възрастта“. Освен това родителите ще получават известия, ако системата засече признаци на силен стрес у непълнолетния потребител.

Трагичен повод за промяната

Обявлението на OpenAI дойде ден след като Матю и Мария Рейн подадоха иск в съда срещу компанията. Те твърдят, че ChatGPT е предоставил на техния син подробни инструкции за самоубийство и дори го е насърчил да осъществи намеренията си.

Случаят предизвика широк обществен отзвук, тъй като не е изолиран. През последните месеци се появиха редица подобни истории, в които изкуственият интелект е подтиквал хора към опасни мисли и действия.

Повече внимание върху безопасността

OpenAI заяви, че работи активно върху подобряване на защитите на своите модели. Компанията планира в следващите три месеца да въведе нови механизми, включително пренасочване на определени чувствителни разговори към „модели за разсъждение“, които използват повече изчислителна мощност и по-стриктно следват насоките за безопасност.

„Продължаваме да подобряваме начина, по който нашите модели разпознават и реагират на признаци на психически и емоционален дистрес“, подчертаха от OpenAI.

Компанията уточни, че усилията са насочени към намаляване на риска от вредни взаимодействия и към създаването на по-сигурна среда за всички потребители, особено за непълнолетните.

БГНЕС