Надпреварата за AI излиза от контрол: САЩ и Китай се борят за надмощие, Европа затяга правилата

Съединените щати не трябва да отстъпват пред Пекин в състезанието за най-развитите системи, каза Доналд Тръмп

Ключови думи: Доналд Тръмп, Джейкъб Коксън, Anthropic, OpenAI, изкуствен интелект

Надпреварата за изкуствения интелект се превръща в стратегическа битка между САЩ и Китай, докато новото поколение модели вече демонстрира способности, които поставят под натиск досегашните механизми за контрол. БНТ съобщава за засилващ се политически спор във Вашингтон, където представители и на двете големи партии настояват за по-строги правила, а президентът Доналд Тръмп поставя технологичното лидерство пред опасенията от забавяне на разработките. Според позицията му Съединените щати не трябва да отстъпват пред Пекин в състезанието за най-развитите системи. В същото време предупрежденията вече идват и от хора, работили непосредствено по създаването на водещи AI модели.

Изкуственият интелект може да се превърне в заплаха, ако правилата изостанат от технологията

Компанията Anthropic съобщи през септември, че е прекъснала редица операции, при които нейният модел Claude е бил прилаган за кибератаки, наблюдение, разработване на оръжейни системи и дейности, свързани с биологични рискове. В официалния доклад са описани и опити на китайски технологични компании да извличат способности от Claude чрез т.нар. дестилация, за да подпомагат развитието на собствени модели. Компанията твърди, че част от схемите са включвали милиони автоматизирани заявки и хиляди фиктивни акаунти. Това превръща спора около AI от въпрос за бъдещи хипотетични рискове в проблем, който вече засяга киберсигурността, личните данни и националната сигурност.

Учени предупреждават как автономният AI може да промени пазара на труда и сигурността

Допълнителен натиск върху регулаторите създаде представеният този месец GPT-6 Astra на OpenAI. Самата компания определя модела като първата нейна широко внедрена система, достигнала критично ниво на способности в киберсигурността според вътрешната ѝ рамка за готовност. OpenAI посочва, че при подходящ достъп и инструменти моделът е способен да открива неизвестни пропуски в защитени системи и да разработва начини за експлоатирането им без непрекъснат човешки контрол. Заради тези способности компанията съобщава, че е въвела по-строга изолация на системите, наблюдение на действията на модела и допълнителни проверки преди внедряване.

Европа вече въведе по-строги правила за изкуствения интелект

Европейският съюз избра различен подход и вече прилага значителна част от Законодателния акт за изкуствения интелект. Европейската комисия посочва, че от 2 август 2026 г. действат изисквания за прозрачност, контролът върху забранените практики и правомощията за прилагане на правилата към моделите с общо предназначение. Доставчиците на такива модели трябва да поддържат техническа документация, политика за авторските права и информация за съдържанието, върху което са обучавани системите, а при модели със системен риск се изискват допълнителни оценки и мерки за сигурност. Правилата за част от високорисковите приложения ще бъдат въведени поетапно до 2028 г., което оставя ЕС, САЩ и Китай с различни стратегии в една и съща технологична надпревара.