ChatGPT задейства тревога: OpenAI подаде сигнал до ФБР за баща, заподозрян, че планира убийството на 8-годишния си син
Разговори с ChatGPT се превърнаха в ключов сигнал за предотвратяването на предполагаем план за убийството на 8-годишно дете в Бразилия. 36-годишен фермер от щата Еспирито Санто е бил арестуван, след като OpenAI установила тревожна активност в акаунта му и предала информацията на ФБР. Американската служба уведомила бразилското Министерство на правосъдието, а оттам сигналът достигнал до местната полиция. Според разследващите мъжът обсъждал убийството на собствения си син и посочвал конкретна дата, на която възнамерявал да действа.
Случаят е необичаен не само заради тежестта на подозренията, а и заради начина, по който полицията стига до мъжа. Този път цифровите следи не са открити след извършено престъпление. Те задействат международна верига за реакция още преди предполагаемият план да бъде осъществен.
Официалната информация на полицията в Еспирито Санто показва, че сигналът е получен на 16 юни. OpenAI е предала на ФБР информация за постоянни търсения и разговори, свързани с намерение за убийство на детето. След това американската служба се е свързала с CyberLab - специализираното звено за кибероперации към бразилското Министерство на правосъдието, което на свой ред е уведомило полицията в Еспирито Санто.
Три дни по-късно, на 19 юни, разследващите пристигнали в селски район край Сао Габриел да Паля и изпълнили заповедите за обиск и предварително задържане на 36-годишния мъж. Според полицията в разговорите му била посочена датата 20 юни. Така операцията е проведена само ден преди момента, в който според разследващите предполагаемият план е можел да бъде осъществен.
Ани Владимирова предупреди за другата страна на ChatGPT - опасностите при тежки психологически кризи
Основната версия на полицията е потресаваща. Според разследването мъжът искал да убие 8-годишния си син, с когото не поддържал отношения, за да избегне плащането на издръжка. В разговорите с изкуствения интелект той твърдял, че е обмислял и привличането на друг човек за извършване на престъплението.
Случаят обаче не се ограничавал до детето. Бразилските разследващи съобщиха, че в разговорите са открити и твърдения за намерения за нападения срещу училища, църкви и представители на властта. Според полицията мъжът говорел за причиняване на възможно най-много жертви. Именно съвкупността от тези послания е била възприета като достатъчно сериозен риск за незабавна реакция.
След задържането си фермерът отрекъл да е възнамерявал да реализира написаното. Той признал, че е извършвал търсенията и е водил разговорите с платформата, но заявил пред полицията, че не планирал действително да убива сина си или други хора.
Разследващите са иззели телефона му и други материали за експертиза. Задачата им е била да установят къде свършват мрачните фантазии в интернет и дали са предприемани реални действия за превръщането им в престъпление. Полицията изрично подчертава, че трябва да бъдат сравнени разговорите с данните от устройството и да се провери дали е имало конкретни контакти или подготовка.
Именно това разграничение е ключово и от юридическа гледна точка. Разговорът с чатбот сам по себе си не доказва автоматично, че човек непременно ще извърши престъплението, което описва. В конкретния случай властите са поискали предварително задържане заради комбинацията от съдържанието, конкретната предполагаема мишена, посочения времеви хоризонт и останалите данни, с които са разполагали.
Седем дела срещу OpenAI поставиха въпроса за поведението на ChatGPT при хора в тежка психична криза
Случаят показва и една по-малко позната страна на системите за сигурност зад ChatGPT. OpenAI официално обяснява, че използва автоматизирани механизми, които могат да засичат активност, свързана с потенциално планиране на насилие. Ако даден разговор бъде маркиран като рисков, той може да бъде разгледан в контекст от специално обучени служители.
Компанията посочва, че огромната част от подобни случаи се решават чрез ограничения или прекратяване на достъпа до услугата. Когато обаче след оценка бъде установена непосредствена и достоверна опасност от сериозно физическо насилие срещу други хора, OpenAI може да сезира правоохранителните органи. Именно такъв механизъм според бразилската полиция е задействан в този случай.
Това поставя и неизбежния въпрос за границата между неприкосновеността на личните разговори и предотвратяването на непосредствено престъпление. Милиони хора използват чатботове за лични теми, които никога не водят до намеса на властите. При крайни случаи с конкретни признаци за непосредствена опасност обаче платформите са изправени пред съвсем различна отговорност.
Историята е особено показателна и на фона на критиките към компаниите за изкуствен интелект през последните години. В съдебни производства и публични дискусии вече многократно беше поставян въпросът дали чатботовете разпознават достатъчно добре продължителните разговори на хора в криза и кога трябва да задействат по-сериозна защита. Тук развръзката е обратната - тревожният модел е засечен преди предполагаемото насилие.
Трагедията с 14-годишно момче показа колко сложни могат да бъдат отношенията между човек и чатбот
Според BBC News Brasil след продължилия близо два месеца арест 36-годишният мъж е бил освободен на 13 август. Причината, посочена от съда, е забавяне на разследването. Свободата му обаче е придружена от ограничения - той трябва да носи електронно устройство за проследяване и няма право да се приближава до детето и неговата майка.
Защитата оспорва интерпретацията на разговорите му. Адвокатът Педро Песи защити тезата, че хората могат да пишат всякакви абсурдни неща на изкуствен интелект, без това непременно да означава реално намерение за престъпление. Именно този спор вероятно ще бъде в центъра на последващото производство - каква тежест трябва да получат разговорите с чатбот и как се доказва границата между думи, фантазия и действителна подготовка.
За полицията в Еспирито Санто обаче резултатът от операцията е ясен - потенциалният риск за едно 8-годишно дете е бил поставен под контрол преди посочената в разговорите дата. И в този случай международната система е работила с необичайна скорост: сигналът стига до Бразилия на 16 юни, а само три дни по-късно заподозреният е задържан.
Така една от най-интимните форми на комуникация в дигиталната епоха - разговорът насаме с изкуствен интелект - се превърна в началната точка на международна полицейска операция. А казусът оставя след себе си два еднакво трудни въпроса: колко поверителен трябва да бъде разговорът с една машина и кога защитата на човешкия живот оправдава намесата.