AI може да убие всички ни до края на десетилетието

Предупрежденията за изкуствения интелект вече не идват само от футуролози и автори на научна фантастика. Бил Гейтс смята, че AI е достатъчно мощен, за да предизвика събития с до един милиард жертви, бивш изследовател на OpenAI и Anthropic предупреди, че неконтролируем свръхинтелект може да застраши цялото човечество още до края на десетилетието, а САЩ и Китай вече създават двустранен канал за комуникация при сериозни AI инциденти. Тези три събития се случиха в рамките на броени седмици и показват нещо съществено - спорът вече не е дали AI носи риск, а какъв риск сме готови да приемем и кой ще има право да натисне спирачката. 

„AI със сигурност е достатъчно мощен, за да предизвика събития, които да доведат до смъртта на един милиард души“, заяви Гейтс в интервю за NBC News. След това той формулира риска още по-рязко - според него никога досега не е съществувало оръжие, сравнимо по потенциал с комбинацията между злонамерени хора и най-мощните инструменти с изкуствен интелект. Гейтс не твърди, че подобен сценарий непременно ще се случи. Предупреждението му е, че технологията вече дава на сравнително малък брой хора способности за кибератаки, биологични злоупотреби, манипулация и автоматизация на действия, чиито последици могат да бъдат огромни. 

Затова съоснователят на Microsoft вече не приема тезата, че компаниите могат сами да определят правилата. „Никой не смята, че саморегулацията е достатъчна“, каза той и настоя законодатели, правоохранителни органи и държавни институции да участват в определянето на задължителните предпазни механизми. Това е важна промяна в тона на човек, който остава сред най-големите поддръжници на практическото приложение на AI в медицината, образованието и развиващите се държави. Само дни по-рано Гейтс отново говори за „умно използване“ на технологията и фондацията му обяви мащабни инвестиции именно в такива приложения. 

Във Флагман.БГ: Бил Гейтс вече посочи трите големи риска от изкуствения интелект

Още по-тежко прозвуча предупреждението на Джейкъб Коксън. Той не е „създателят на изкуствения интелект“, както понякога се представя в социалните мрежи, а изследовател, работил по обучението на модели в OpenAI и Anthropic. Коксън напусна Anthropic и заяви публично: „Хората, които създават AI, искрено вярват, че той може да убие всички ни до края на десетилетието.“ Според него двете компании се движат към самоусъвършенстващ се свръхинтелект, без да разполагат с доказан механизъм, който гарантира, че подобна система ще остане под човешки контрол. 

Особено важно е, че Коксън не остана изолиран глас. Евън Хюбингър, който работи по проблема с т.нар. alignment в Anthropic - съгласуването на поведението на AI с човешките цели, публично заяви, че лично оценява риска от унищожителен сценарий на над 10% в рамките на следващото десетилетие. Друг изследовател на компанията - Самюъл Маркс, също посочи, че страховете от катастрофални последствия се споделят от хора вътре в индустрията. Това не е научен консенсус и подобни вероятности не могат да бъдат измерени като прогноза за времето. Но е показателно, че предупреждението идва от хора, които работят непосредствено върху най-мощните системи.

Във Флагман.БГ: Бивш служител на OpenAI и Anthropic предупреди, че AI може да застраши човечеството до края на десетилетието

Ръководителят на Anthropic Дарио Амодей вече поиска индустрията съзнателно да забави увеличаването на възможностите на най-мощните модели. Предложението му включва независими оценители с постоянен достъп до системите, координация между водещите лаборатории и международно сътрудничество. Към идеята за по-бавно развитие публично се присъединиха и Сам Алтман от OpenAI и Илон Мъск. С други думи, необичайното през септември 2026 г. не е самото предупреждение, а фактът, че хората, чиито компании печелят от ускоряването на AI, започнаха да говорят за необходимост от спирачка. 

На този фон срещата между Доналд Тръмп и Си Дзинпин във Вашингтон придоби далеч по-голямо значение. Само дни преди нея американската страна предложи механизъм, при който Вашингтон и Пекин да се уведомяват при сериозни инциденти с изкуствен интелект. Идеята беше обсъдена между финансовия министър Скот Бесент и китайския вицепремиер Хъ Лифън като възможна основа за постоянен двустранен диалог по рисковете, националната сигурност и прозрачността. 

След срещата Белият дом потвърди, че двете държави създават т.нар. U.S.-China Super Intelligence Dialogue и отделен двустранен комуникационен канал за инциденти, свързани със свръхинтелигентни системи. Това все още не е международен договор за контрол над AI и не трябва да бъде представяно като такъв. По-скоро става дума за начална архитектура, напомняща кризисните линии за комуникация между големи сили - механизъм, чрез който едната страна да може бързо да уведоми другата, ако мощна система причини сериозен инцидент или възникне опасност от ескалация. 

Във Флагман.БГ: Тръмп и Си обсъдиха изкуствения интелект сред основните спорни теми между САЩ и Китай

Си Дзинпин формулира китайската позиция пределно ясно: „AI трябва да остане под човешки контрол.“ Според официалното съобщение на китайското външно министерство той е заявил пред Тръмп, че двете страни трябва да обменят информация за ползите и рисковете от технологията и заедно да предотвратяват злоупотребата с нея. Тръмп от своя страна е казал, че AI засяга бъдещето на човечеството и че САЩ и Китай трябва да продължат диалога и сътрудничеството. 

Тук се появява и голямото противоречие. Само два дни преди срещата Тръмп отново демонстрира нежелание да поставя широки регулаторни ограничения върху американската AI индустрия. Reuters съобщи, че той отхвърля призивите за забавяне и вижда технологичното лидерство на САЩ като въпрос на национална сигурност и конкуренция с Китай. В същото време собствената му администрация вече създава механизми за реакция при инциденти и през юни прие национална рамка, изискваща военните AI системи да бъдат надеждни, управляеми и контролируеми. 

Именно тук предупрежденията на Гейтс, Коксън и Амодей се срещат с геополитиката. Ако единствената цел на Вашингтон е да изпревари Пекин, а единствената цел на Пекин е да не изостане от Вашингтон, всяка предпазна мярка започва да изглежда като стратегическо отстъпление. Това е класическа надпревара, при която и двете страни могат да смятат забавянето за разумно, но нито една да не иска да го направи първа. Тъкмо затова двустранният канал между САЩ и Китай е важен - не защото решава проблема, а защото за първи път двете водещи AI сили признават институционално, че съществува риск, който не може да бъде управляван единствено от технологичните компании.

Във Флагман.БГ: AI надпреварата между САЩ и Китай вече влиза в опасна фаза

Най-сериозният въпрос не е дали машините утре ще се „събудят“ и ще решат да унищожат хората. Подобна картина остава спекулативна. По-близките рискове са далеч по-конкретни - автоматизирани кибератаки, помощ при създаването на опасни биологични агенти, автономни оръжия, манипулиране на информационната среда, проникване в критична инфраструктура и AI агенти, способни да действат с все по-малко човешка намеса. Точно върху тези сценарии се концентрират и предложенията за независими тестове, задължително докладване на инциденти и човешки контрол.