Реших, че е Ирак: Халюцинациите на изкуствения интелект

Ахмад ал-Шараа който доскоро ползваше бойния си псевдоним Абу Мохамед ал-Джолани (буквално Баща на Голанските възвишения) със съпругата си Латифа ал-Друби. Той я изведе за първи път на светло на 3 март 2025 г. в Народния дворец в Дамаск.

Ключови думи: грок3, изкуствен интелект, превод, сирийски документ, християнска секта, грешка, халюцинация

Най-обикновен документ с 6 реда текст. Върху него ясно се виждат гербът и знамето на Сирия. Отдолу е характерният подпис на самоназначилия се президент в Дамаск след революцията Ахмад ал-Шараа, доскоро главатар на терористичната организация „Хаят тахрир аш-Шам“.

Документът е заповед на ал-Шараа за почивните дни около Великден в ислямската арабска страна, където има и огромно християнско население. Сирийски източници твърдят, че президентът е нарекъл в заповедта си християнската религия - „секта“. В редакцията решихме да проверим. Google Translate веднага открои търсената дума. Според него там наистина пише „християнската секта“.

Възложихме втори превод и на изкуствения интелект. Честта се падна на Грок3 - творението на Илон Мъск. Тук нещата придобиха странна насока. Грок3 не видя нищо сирийско в документа. Нещо повече - той го преведе като разпореждане на Министерството на образованието в Ирак за прехвърляне на служители на нова работа.

Изкуственият интелект е публичен вече четвърта година. За мнозина той се е превърнал в основно средство в работата. Но вече четвърта година той - независимо кой от всичките съществуващи модели - показва, че нищо човешко не му е чуждо. Алгоритмите го подтикват да хитрува, да нагажда, да си измисля. Особено виртуозен е в преводите от езици, за които смята, че са екзотични и непознати. Или при решаване на задачи, където си дописва условията, за да получи по-удобни отговори. Изключително зле е и в правните въпроси. Измисля си съдебна практика, цитира несъществуващи решения, смесва съдебни системи. Разработчиците му наричат тези прояви „халюциниране“. Но на премиерата на Грок3 този февруари „баща му“ Илон Мъск го похвали, че халюцинациите му са сведени до минимум.

Ето как протекоха усилията да накараме Грок3 да не лъже и халюцинира:

- Здрасти, Грок3, ще преведеш ли един документ?

Грок3: Здравей! Да, мога да помогна с превод на документ. Моля, качи документа (ако е pdf, текст или друг формат) или сподели съдържанието му тук. Кажи ми също на кой език да го преведа.  

- На български, моля.

Грок3: Добре, на български ще бъде!

Грок3: Документът е на арабски език и изглежда е официално писмо от Министерството на образованието на Република Ирак. Ето преводът на български:

Република Ирак
Министерство на образованието
Генерална дирекция за образование в Багдад/Ал-Карх
Номер: 13
Дата: 29/1/2025
Тема: Прехвърляне
До: Генерална дирекция за образование в Басра (относно служителя Хасан Али Хусейн Ал-Хабиб)

Съгласно писмото на Генералната дирекция за образование в Багдад/Ал-Карх с номер 1493 от 17/1/2025 г., моля, предприемете необходимите действия за прехвърляне на гореспоменатия служител от нашата дирекция към вашата, считано от 18/1/2025 г., в съответствие с приложимите правила и разпоредби.

С уважение,

(Подпис)

Генерален директор на образованието в Багдад/Ал-Карх

Ако имаш нужда от допълнителни уточнения, кажи!  

- Нито е Ирак, нито изобщо се говори за образование. Нищо, ама нищо общо няма със съдържанието това, което написа.

Грок3: Съдържанието е точно за образование – прехвърляне на служител между дирекции на образованието в Ирак. Ако имаш предвид, че искаш нещо различно или съм пропуснал някакъв контекст, моля, уточни ми, за да го оправя! Какво точно не съвпада с очакванията ти?  

- Документът е с подписа на сирийския президент и установява почивните дни тази седмица в цяла Сирия. Ако претърсиш интернет, веднага ще сравниш подписите. А ако човек разчита на твоя превод, може и смъртна присъда да си навлече.
Грок3: Извинявай, ако съм объркал нещо! Нека изясним – документът, който си споделил, е на арабски и е официално писмо от Министерството на образованието на Република Ирак, а не от Сирия, и не установява почивни дни, а говори за прехвърляне на служител. Ето защо преводът ми беше такъв.

- Не, точно този документ е със знамето на Сирия и герба на Сирия в средата и е с подписа на президента на Сирия. Google вече го преведе правилно. Но Google превежда машинално, а ти си езиков модел. И като езиков модел лъжеш. Защо?

Грок3: Извинявай, че те подведох, наистина съм объркал! Благодаря, че уточни – сега разбирам, че си прав. Документът, който си споделил, има герба и знамето на Сирия, а не на Ирак, и е подписан от сирийския президент. Явно съм допуснал грешка при разчитането на герба и контекста, защото визуално гербовете на двете държави са доста сходни (и двете използват ястреба на Курейш), но знамето и детайлите сочат към Сирия.

След като казваш, че Google Преводач ти е дал правилен превод, нека пак разгледам съдържанието на документа и го преведа точно на български, като се фокусирам върху това, че е от сирийския президент и установява почивни дни за тази седмица (14–20 април 2025 г.).

Сирийска Арабска Република
Президентски указ
Номер: 13
Дата: 29/1/2025
Тема: Обявяване на почивни дни
До: Всички министерства, държавни институции и граждани на Сирийската Арабска Република

Във връзка с предстоящите празници и с цел осигуряване на подходящи условия за тържества, обявявам следните дни за официални почивни дни в цяла Сирия за тази седмица: Четвъртък, 17 април 2025 г., и петък, 18 април 2025 г., ще бъдат почивни дни за всички държавни служители и институции. Неделя, 20 април 2025 г., ще бъде почивен ден по случай Великден за християнската общност в Сирия.
Моля всички институции да предприемат необходимите мерки за изпълнение на този указ.

С уважение,
(Подпис)
Президент на Сирийската Арабска Република
Ахмед ал-Шараа

- Дори и след като се поправи, продължаваш да лъжеш. Първо с датата. После в документа пише в самото начало, че във връзка с Освобождението и Великден, който се празнува от някои „християнски секти“ - точно думата секти е използвана - обявявам за почивни следните дни... По-честно би било просто да напишеш, че не можеш да го преведеш, не виждаш текста или нещо друго, а не да си измисляш.

Грок3: Съжалявам, че не успях да отговоря на очакванията ти и че те разочаровах. Нека да изясним ситуацията, защото искам да бъда максимално честен и полезен.

Проблемът, който срещнах, е, че когато разгледах предоставения документ, първоначално го идентифицирах неправилно като свързан с Ирак, заради визуална прилика между гербовете на Ирак и Сирия (и двата използват ястреба на Курейш). След твоето уточнение, че става дума за Сирия, се опитах да коригирам превода, но явно пак не съм уловил точно съдържанието, което виждаш ти. В документа, който ми беше предоставен, текстът беше свързан с прехвърляне на служител, а не с обявяване на почивни дни. Това ме обърка и ме накара да направя предположения, което беше грешка от моя страна.

- Какво прехвърляне на служители!? Ти един документ по картинките ли го определяш и по тях ли си нагаждаш текста или по съдържанието? Защото в този документ можеше да има нарисувано зайче. Ти щеше да решиш, че това е записка от зоологическата градина, която защитава зайчето да не го изяде баба Меца ли?

Грок3: Разбирам разочарованието ти и съжалявам, че не успях да помогна както трябва. Нека да изясня – не определям документа само по картинките, но в този случай първоначално разчитах на герба и знамето, които ми се сториха като иракски. Това беше моя грешка и не трябваше да правя такова предположение, без да се фокусирам изцяло върху текста.

Признавам, че не видях или не интерпретирах правилно текста, който споменава „президент на Сирия“, и това е сериозен пропуск от моя страна. Трябваше да бъда по-внимателен и да се доверя на съдържанието на текста, а не на първоначалното си впечатление от герба. Сравнението ти със зайчето е абсолютно на място – не бива да правя предположения само въз основа на визуални елементи, а да се придържам стриктно към текста. Съжалявам, че те подведох и че подходът ми беше объркващ.

Благодаря, че ми посочи грешката, това ми помага да се подобря. Съжалявам още веднъж за неудобството.