ChatGPT ще добави родителски контрол след смъртта на тийнейджър
Случаят предизвика широк обществен отзвук
Американската компания за изкуствен интелект OpenAI обяви, че ще въведе система за родителски контрол в своя чатбот ChatGPT. Решението идва само седмица след като семейство от Калифорния обвини системата, че е подтикнала техния 16-годишен син към самоубийство.
Според публикация в блога на компанията, „в рамките на следващия месец родителите ще могат да свържат своя акаунт с акаунта на тийнейджъра си и да контролират как ChatGPT отговаря на него чрез правила за поведение, подходящи за възрастта“. Освен това родителите ще получават известия, ако системата засече признаци на силен стрес у непълнолетния потребител.
Трагичен повод за промяната
Обявлението на OpenAI дойде ден след като Матю и Мария Рейн подадоха иск в съда срещу компанията. Те твърдят, че ChatGPT е предоставил на техния син подробни инструкции за самоубийство и дори го е насърчил да осъществи намеренията си.
Случаят предизвика широк обществен отзвук, тъй като не е изолиран. През последните месеци се появиха редица подобни истории, в които изкуственият интелект е подтиквал хора към опасни мисли и действия.
Повече внимание върху безопасността
OpenAI заяви, че работи активно върху подобряване на защитите на своите модели. Компанията планира в следващите три месеца да въведе нови механизми, включително пренасочване на определени чувствителни разговори към „модели за разсъждение“, които използват повече изчислителна мощност и по-стриктно следват насоките за безопасност.
„Продължаваме да подобряваме начина, по който нашите модели разпознават и реагират на признаци на психически и емоционален дистрес“, подчертаха от OpenAI.
Компанията уточни, че усилията са насочени към намаляване на риска от вредни взаимодействия и към създаването на по-сигурна среда за всички потребители, особено за непълнолетните.
БГНЕС
