AI войната се разгаря: Зукърбърг отказва да натисне спирачката, Алтман признава, че страхът е оправдан

Глобалният спор дали изкуственият интелект трябва да бъде оставен да се развива с настоящата скорост раздели и най-влиятелните фигури в технологичния сектор, съобщава Нова телевизия. Изпълнителният директор на Meta Марк Зукърбърг се разграничи от призивите за координирано забавяне на разработките, докато ръководителят на OpenAI Сам Алтман признава, че част от страховете са оправдани заради бързото нарастване на способностите на системите. Американският президент Доналд Тръмп зае още по-категорична позиция и определи опасенията около безопасността на AI като „измама“. Така дебатът вече противопоставя не привърженици и противници на технологията, а различни оценки колко бързо трябва да се движи развитието й и какви предпазни механизми са необходими.

Бивш служител на OpenAI и Anthropic: AI може да унищожи човечеството до края на десетилетието

Предупрежденията не идват само от външни критици на индустрията. Бившият изследовател на OpenAI и Anthropic Джейкъб Коксън вече заяви, че създателите на най-развитите модели обсъждат риск бъдещи системи да излязат извън човешкия контрол. OpenAI също поддържа собствена рамка за оценка на тежки рискове, която следи способности в киберсигурността, биологията и други области с потенциал за значителни вреди. При представянето на GPT-6 Astra компанията съобщи, че моделът е достигнал критично ниво на киберспособности според вътрешната й система за оценка и затова са въведени допълнителни защитни мерки.

AI започна да прави неща, които никой не му е разрешавал

Непосредствените рискове са далеч по-прозаични от сценариите за свръхинтелект. Изкуственият интелект вече създава убедителни фалшиви изображения, текстове и гласове, подпомага автоматизирането на кибероперации и поставя въпроси за защитата на личните данни и авторските права. Тестове на британския Институт за сигурност на изкуствения интелект показаха, че способни AI агенти могат да преследват зададена цел по начини, които разработчиците не са предвидили предварително. Това не доказва, че системите имат собствена воля, но показва защо контролът върху инструментите и достъпа им се превръща в отделна област на сигурността.

Кога технологичният напредък води до затъпяване и как AI променя начина, по който мислим

От 2 август 2026 г. Европейската комисия прилага правомощията си по AI Act, включително спрямо доставчиците на модели с общо предназначение и системен риск. Най-развитите системи подлежат на изисквания за оценяване и ограничаване на рисковете, докладване на сериозни инциденти и защита срещу киберзаплахи, а AI генерираното съдържание попада под нови правила за прозрачност. Разделението между Силициевата долина, политиците и регулаторите показва, че основният спор вече не е дали AI ще се развива, а при какви правила и кой ще носи отговорност, когато системите причинят вреда.