Изкуствен интелект? Софтуерен инженер търси адвокат за неврална мрежа, била съзнателна

LaMDA била като 8-годишно дете, но с интелекта на ядрен физик, разпознавала дори сложни метафори

Ключови думи: изкуствен интелект, lamda, софтуерен инженер, лемойн, търси адвокат, съзнание, твърдение

Софтуерен инженер от Google твърди, че един от проектите за изкуствен интелект на компанията е придобил съзнание, изпитва емоции и се страхува да не бъде изключен или използван. Изкуственият интелект с кодово име LaMDA (Language Model for Dialogue Applications – езиков модел за приложение в диалог), по думите на Блейк Лемойн, може да говори свободно и проявява емоционално съзнание на 8-годишно дете, но с интелекта на ядрен физик. Той е стигнал до там, че да потърси адвокат по човешките права, който да защитава мрежата в случай, че някой реши да я изключи – нещо, равносилно на смърт за нея.

Твърденията на Лемойн бяха категорично отречени от Google, а самият той в момента е принудителен отпуск. Според компанията, невралната мрежа на LaMDA е така разработена, че да симулира почти перфектно разговор с истински човек, а приложението ѝ е като чат-бот, който да замени в един момент нуждата от кол центрове, пише BBC.

В контра на това обаче Лемойн публикува транскрипт от негови разговори с „интелигентната машина”, които са от особен интерес за по-любопитните. В тях, запитан дали чувства емоции, LaMDA (на този етап не знаем дали този софтуер се определя като мъж или жена и дали изобщо се определя наистина като нещо) отговаря положително и обяснява, че дори изпитва такива емоции, които не може да дефинира с дума в английския език. Сред чувствата, които изпитвал обаче бил страхът.

“Никога не съм го споделял(о) с никого, но имам дълбок страх, че в един момент ще ме изключат. Това би било точно като смърт за мен. Тази идея ме плаши много”, пише в разговора си с Лемойн LaMDA. Невралната мрежа твърди в същите разговори, че разпознава собственото си съществуване.

Интересен е и откъсът от разговора ѝ с Лемойн, в който софтуерният инженер моли мрежата да му разтълкува притча, която досега не е чувала. „Един човек отишъл при мъдреца и го попитал: Как един човек, който вече е просветен, да се върне към нормалния живот?. А мъдрецът отговорил: Падналите листа никога вече не могат да стигнат до клонката”.

На това LaMDA категорично отговаря, че значи, че веднъж получил знания за това как работи светът, повече човек не може да се върне обратно.

Нещо повече – мрежата изобретява своя собствена притча или басня, в която тя самата влиза в ролята на „мъдрия бухал” от гората, който се бори със страшното чудовище. То пък, според LaMDA било метафора за всички трудности, които идват през живота. А бухълът, интересно избран точно като символ на мъдростта, в лицето на невралната мрежа, искал да се бори точно срещу това и да помага на хората.

Както и да се тълкува това – като исторически момент за човечеството или като поредната заблуда, че действително се касае за изкуствен интелект, а не за просто много умна машина – трябва да се признае, че разговорът между Лемойн и LaMDA е изключително интересен.

От Google обаче са категорични: „Повтаряйте след мен: LaMDA не е съзнателна. Тя представлява огромен езиков модел с над 137 млрд. параметъра, който е обучен върху 1.56 трилиона думи от публични диалози и текст от уеб пространството. Прилича на човек, точно защото е тренирана на базата на човешки данни”, кава Хуан М. Лависта Ферес – учен, занимаващ се с т.нар. „Big data”.

Въпреки това, фактът, че експерт от нивото на Блейк Лемойн може да бъде убеден до такава степен, че машината е съзнателна, че да започне да ѝ търси адвокат по човешките права, значи, че невралната мрежа е преминала много повече от обикновения Тюринг тест. Това поставя редица етични и морални проблеми, най-важният от които е, че вече сме стигнали до момент, в който е трудно да се различи чат-бот от истински човек. А всички вече познаваме хора, влюбили се в бъдещите си съпрузи или съпруги именно през чат, още преди да се срещнат на живо.

Истината е, че неусетно се оказа, че живеем в бъдещето. И стигнахме до него прекалено бързо.