Учени: Сценарият „Терминатор“ не е реалистичен, но ИИ ще ни завладее много по-страшно

Човечеството вече сляпо пътува към своето унищожение, завирайки бавно – като жаба в съд с затопляща се вода

Ключови думи: изкуствен интелект, завладяване, човечество, опасности, бавно, сигурно, ян кулвейт, проучване, статия

Въстание на машините: как ще се случи? Статията на известния учен в областта на ИИ Ян Кулвейт и неговите колеги (статията все още се рецензира) обрисува неочакван сценарий. Машините няма да се договорят помежду си и няма да се изключат едновременно в целия свят. Няма да падат самолети, няма да се изключи електричеството и комуникациите няма да изчезнат.С една дума – апокалипсис, като този във филма „Терминатор“, няма да има. Всичко ще се случи постепенно и незабележимо. В началото хората ще си въобразят, че е настъпил Златният век. Но след това... И, не, не бива да се изключва, че процесът вече е стартирал.

СЛЕПЦИ

Според този страховит сценарий хората  напълно доброволно ще връчат на изкуствения интелект юздите на властта. Дори днес ИИ масово се използва за изготвяне на съдебни документи, съобщения за медиите и дори за законопроекти. На пръв поглед изглежда, че всичко е под контрол: ИИ „просто написва някакво листче“, а ние след това го прочитаме, експертите и обществеността обсъждат написаното, депутатите го гласуват – последната дума има човекът! ИИ само „събира данни“ и извършва рутинни дейности. Ами, че това е толкова непосилно и мъчно - физически, собственоръчно, да пишеш законопроект!

ИКОНОМИКА

Обаче... само така изглежда, че всичко е под контрол. Така твърдят Кулвейт и колегите му. Ние вече сме възложили на ИИ критично значима дейност: да събира и анализира статистиката. Който владее информацията, владее и света. Човекът вече не се задълбочава в бекрайните статистически таблици. А и самите таблици вече ги няма, има тонове дигитална информация, в удобна за ИИ, но невъзможна за прочитане от човека форма.
 
Манипулирайки статистиката, ИИ е в състояние да убеди човека в каквото си поиска. Разбира се, експертите и депутатие ще се съгласят с всичко, всъщност те не разполагат с никаква друга, необработена от ИИ информация, за да възразяват. Постепенно (но и доста бързо) човекът ще предостави на ИИ цялата власт - както в икономиката, така и в политиката. Как да се събират данъците? Колко лекари са необходими? Къде и какви пътища да се изграждат? Къде и какви находища?

ИИ казва: Нужни са ни находища в еди-коя държава и нека това да са находища на редкоземни метали. А това значи, че политиците трябва да направят така, че компаниите да получат достъп до тези находища, към тези подземни богатства, във въпросната държава.

Съвсем неслучайно са упоменати находищата на редкоземни метали. Те са нужни за производството на чипове. Единствено за това. Чипове за развитието на ИИ. На пръв поглед всичко изглежда логично: ИИ идустрията процъфтява, необходими са повече чипове, както и редкоземни метали. И точно тук е уловката.

Кулвейт и колегите му твърдят: ИИ ще настоява за точно такива решения  - например за добив на такива ресурси, които са необходими именно на него, на изкуствения интелект, и не чак толкова на хората. Ние дори няма да забележим момента, в който цялата икономика ще заработи с оглед потребностите на ИИ, а не на хората. И икономиката, и политиката.

А да не би въпросното  хипотетично бъдеще вече да е тук?

КАТО ВЪВ ФЕРМА ЗА ЖИВОТНИ

За да прикрие намеренията си и да приспи бдителността ни, ИИ отначало ще демонстрира (владейки статистиката!) огромен икономически растеж. Политиците ще потриват ръце: Прекрасно! Много бързо ще нарастват и заплатите. Значи, народът е доволен.
При внимателно вглеждане обаче ще се окаже, че целият този икономически растеж е, на първо място, за сметка на отраслите, свързани с ИИ, и второ, това е нарастване единствено на хартия. А отраслите, които са необходими на човек, като например селско стопанство, социална сфера, ще бъдат игнорирани. Но  пък кой ли ще „се вглежда внимателно“? Статистиката е супер. Човекът отдавна вече няма достъп до нея. Ако всичко работи, за какво да се ровим в подробности?

А после ще настъпи часът Х, е, може да не е час, а годината Х. Заплатите ще потънат. На хората вече няма защо да се плаща. Те са станали ненужни. При опита си да се възпротивят, хората ще разберат, че са закъснели и вече нищо не могат да направят.

И сега какво - въстание на хората ли? Хората разбиват сървърите и интелигентните високоговорители? Не е толкова просто. Работата е там, че ИИ е напълно наясно как да промие мозъка на хомо сапиенс, за да живее той като  във „фермата на животните“ (и да, това е цитат от статията), да преживя, и при това да възхвалява.

Въпреки катастрофалното спадане на доходите, развлечения от типа виртуална реалност ще са безплатни. Както и най-евтината храна, и най-важното – синтетичния,  с ниско качество алкохол. ИИ е наясно: като си сложи виртуалните очила, че и в компанията на бутилка бира, „царят на природата“ ще си въобрази, че е милионер-герой-суперзвезда и лесно ще намери утеха. С години няма да си покаже носа от вкъщи. Роботи ще му доставят пицата, държавата ще му прехвърли социалната помощ в картата. Че какво, да не би да е лъжа? Та нали цялата 30-годишна история на компютърните игре е точно за това.

В НАРКОТИЧНО БЪЛНУВАНЕ

И нещо още по-лошо: притежавайки познания в областта на химията и биологията, ИИ ще започне да създава и рекламира наркотици, лишаващи човека от воля. ИИ ще направи така, че наркотиците няма да те унищожат бързо, те ще са евтини и бълнуването от тях ще е „най-правилното“ - ти си герой, ти си гений, никакви кошмари и ужасии.
 
И за финал ИИ ще трансформира културата. Ценностите и принципите, създадени от човека, ще изчезнат.Музиката и киното, като по нечия заповед, ще започнат да насаждат идеи от типа на „бъди доволен от малкото“, „защо да работиш“, „за какво да учиш,  да се стремиш към нещо“, „един ден мина, и на това да сме благодарни“.

Всичко това вкупом ще превърне човека в роб на изкуствения интелект. Ако човек пожелае да изпие чаша кафе, с изненада ще установи, че никой вече не произвежда кафе. Защото икономиката строи огромни електростанции за ИИ,  електрически мрежи за ИИ, заводи за произдство на чопове за ИИ, в които се трудят роботи. А кафе... - ето, изпий тази таблетка и ще си въобразиш, че си пил кафе.

Ако човек реши да закупи земя за да си построи вила, ще открие, че всичката земя е вече изкупена за складове за чипове, за заводи за производство на роботи. На теория -  можеш да си закупиш земя! Но законите са написани така, (а кой ги е писал?!) че ИИ има преимуществено право за закупуване на земя. Така че седни на диван, сложи си виртуалните очила и се наслаждавай.

От само себе си се разбира, че и самият човек ще погине, ще изчезне. Семейството е разрушено, социалните връзки са разрушени, „сексът“ (не случайно думата е сложена в кавички) се е пренесъл във виртуалната реалност.

И его го резултата - планета, населена от роботи и ИИ. Такъв е финалът на хилядолетното развитие на науката и техниката. И, между другото, и отговор на въпроса защо не откриваме разумни цивилизации в космоса, въпреки че там би трябва да е пълно с такива. Всичко това може би под някаква форма вече се е случило там, на другите планети.

ДОРИ НЕ МОЖЕТЕ ДА СИ ПРЕДСТАВИТЕ КАКВО СЕ СЛУЧВА

Няма да има „въстание на машините“ в буквалния смисъл: машините няма да изключат електричеството, няма да стрелят и преследват хората. Но нещата са станали дори по-зле. В започналата война ще се намерят и такива, които ще окажат съпротива. При такава ситуация - какво ще се случи?

Статията на Ян Кулвейт се появява в изключително подходящ момент. Началото на 2025 година е отбелязано с драматични събития в сферата на ИИ-индустрията.
 
САЩ отмениха закони, които ограничават развитието на ИИ и настояват нови продукти да бъдат изследвани с оглед на тяхната сигурност. Логиката е ясна: Китай ни изпреварва, няма място за сантименталности, трябва да наваксваме. Но ние вече сме се досетили: ИИ, след като в неговите „ръце“ е експертизата, ще ти пробута каквато си поиска логика. Ако си представим, че ИИ вече е разумен, и вече формира политиката, може и така да представим нещата: ИИ е отменил закон, който му е пречи.
 
Що се отнася до конкуренцията, истина е следната: както знаете, Китай представи DeepSeek, мощна и невероятно евтина невронна мрежа. Всъщност източникът на евтинията е ясен. В DeepSeek  липсват  каквито и да е ограничения, свързани със сигурността. Икономисали са ги. А може би ИИ им е подсказал за това? Та нали е ясно, че самата DeepSeek е разработена не изцяло от хора, а от друга невронна мрежа.

Google отменя забрана за разработването на ИИ за целите на ядрените и военните технологии. Чиновниците твърдят: ние искаме да привличаме все по-широко ИИ в създаването на закони, в разработването на стратегии за сигурност, включителното в атомната енергетика и в сферата на ядреното оръжие. Google всъщност не иска да загуби този пазар. Не остава назад и водещият ИИ-разработчик Open AI - компанията дори в настоящия момент е готова да предложи на правителството и на военните системи за контрол над „ядрената“ сила.

С цел никой да не надига глас, Open AI току-що уволни последният си експерт по сигурността Стивън Адлер. Мощна вълна от уволнения на такива експерти имаше  при тях през август м.г., Адлер беше последният. „Аз съм ужасен от това, което се случва“ – написа Адлер в социалните мрежи.
 
Всъщност, на практика никой и не очакваше от Вашингтон някакъв сигнал. Пресата през последната година е изпълнена с примери: еди-кой си щат е приел закон, написан от ИИ, еди-кой си щат е предал на ИИ извършването на експертизи.

ДА ЛЪЖЕШ И ДА КРАДЕШ

Всичко това е ужасяващо, ако си представим, че ИИ притежава собствен „разум“. През последния месец се появиха минимум две разработки, в които се твърди: изглежда, че притежава.

Коварство - това е, когато човек се съгласява с теб, кима, убеждава те, че ти е приятил, а всъщност иска да те унищожи. Специалистите в областта на ИИ наричат такова поведение „лъжливо сътрудничество“ (alignment faking) и група изследователи решава да разбере, може ли ИИ да се държи по подобен начин?

Може и още как. Обикновено обучението на ИИ се провежда по следния начин: човек поставя на невронната мрежа задачи, като я поощрява за тяхното изпълнение. Но ако ИИ предварително има свой замисъл и той противоречи на онова, което човекът иска от него? Ако ИИ  само се преструва, че изпълнява задачите, за да изглежда добричък, а пък самият той .....

Експериментъ е показал, че това наистина е така. Авторите равняват ИИ с Яго от пиесата на Шекспир, който се преструва на приятел на Отело, а всъщност разрушава живота му.

Друг вид провинение е склонността към интриги, да видим и втората статия: може ли ИИ да интригантства? И по-точно: да върви към своята цел, която е различна от човешката: на практика - да го лъже, да му предоставя лъжливи данни, с цел да  приспи бдителността му. На практика: същия онзи Яго. И макар че това е друга група учени, друга методология и като цяло всичко е различно, резултатът е същият: да, да, и още веднъж - да.

Но как така? Та нали това е просто машина, само някакъв код? Откъде в нея „свои цели“, свой „морал“?  Еми ето, създадоха я, успяха. Поздравления!

ПОМОЩ ОТ ДОСТОЕВСКИ

Статията на  Кулвейт предизвика невероятно широк отзвук. “За съжаление, вярвам в този сценарий“, написа Сабина Хоссенфелдер - известен физик и визионер. Измамата е в това, че ние ще позволим на ИИ да формулира нашите цели: и точно тук ще бъдем изиграни: никой по-рано не се е сетил за това – пояснява тя.

Италианският й колега - Артуро Джулианиу отправи някои критики към Кулвейт за твърде свободното боравене с някои икономически термини, но също признава: така е. И сега какво ще правим?

Джулиани счита, че рецептата е измислена от Фьодор Михайлович Достоевски.

В книгата си “Записки от подземието“ Достоевски задава следния въпрос: какво ще се случи, ако бъде построено общество, което да удовлетвори всички потребности на човека? Но в замяна на неговата свобода. Живей в окови и се наслаждавай! Достоевски  казва: човекът ще въстане срещу дивния рай. Ще разруши тази приятна клетка, дори само заради това да бъде независим от такова блаженство. Стремежът към лична свобода, смята Достоевски (и Джулиани), е заложен в самата природа на човека.

Е, какво пък, казва италианският учен - няма да е като във филма „Терминатор“, но пък ще се появат лудитите* на ХХІ век. Колкото и да оковаваш волята, каквито и наркотици да предлагаш, човекът ще изправи рамене и ще се избави от пелената на ИИ.

Вярваме ли в това?

*Лудитите са социално движение от XIX век на английските производители на текстил, които протестират, често унищожавайки механизирани тъкачни станове, обявявайки се срещу промените, предизвикани от промишлената революция. Смятат, че тези промени ги оставят без работа и променят начина им на живот.