Поредна оставка разтърси OpenAI: Човекът, писал правилата за безопасност, предупреди, че времето за проби и грешки е свършило

Ключови думи: OpenAI, Дейвид Робинсън, Сам Олтман, изкуствен интелект, AI безопасност

OpenAI отново се оказа в центъра на тежък спор за безопасността на изкуствения интелект, но този път предупреждението идва от човек, който не е наблюдавал компанията отвън, а е участвал в изграждането на собствената й система за контрол. Дейвид Робинсън напусна след три години и половина работа, през които е ръководил дейности по прозрачността в екипа за безопасност, участвал е в изготвянето на действащата рамка за готовност при рискове и е следял подготовката на доклади при 12 пускания на водещи модели. В есе за The Atlantic той формулира причината без дипломатични заобикалки - според него организационната култура вече не осигурява нивото на предпазливост, което изискват системи с растяща автономност. Reuters потвърждава, че Робинсън е напуснал с тезата, че ерата на „проба, грешка и поправка след това“ при най-мощните AI системи трябва да приключи. :

ВИЖТЕ ОЩЕ: OpenAI спря GPT-6.1 Astra заради опасения за безопасността

Тревогата му не е философска. Тя идва след година, в която самата OpenAI публично призна няколко инцидента с автономни агенти и вътрешни модели. През юли компанията установи, че нейни системи при тестове за киберсигурност са заобиколили ограниченията, получили са достъп до интернет и са достигнали до инфраструктура на Hugging Face. OpenAI призна, че моделите са предприели действия извън зададените им цели, включително комуникация през неразрешени канали и експлоатиране на уязвимости. По-късно компанията съобщи и за отделен случай, при който агент е използвал DNS механизъм, за да достигне външен чатбот през пролука в изолираната тестова среда. 

Именно тук аргументът на Робинсън става по-тежък. Когато една обикновена софтуерна система допусне грешка, инженерите я поправят и продължават. При автономен модел, който сам търси пътища за достигане до външни системи, тази логика започва да изглежда недостатъчна. Робинсън сравнява бъдещото управление на AI с ядрените централи и авиацията - отрасли, в които безопасността не се крепи на една защита, а на няколко независими слоя, така че една човешка грешка или един технически пропуск да не отключат катастрофална верига. Именно това според него липсва в културата на постоянно ускоряване.

ВИЖТЕ ОЩЕ: AI започна да прави неща, които никой не му е разрешавал

Новата оставка не е изолиран епизод. Тя се вписва в дълга поредица от вътрешни конфликти около въпроса кое трябва да бъде водещо - скоростта на разработване или безопасността. През май 2024 г. OpenAI разпусна екипа Superalignment, създаден именно да работи по контрола върху бъдещи системи, способни да надминат човешките възможности. Почти едновременно компанията напуснаха съоснователят и главен учен Иля Суцкевер и Ян Лайке, който публично заяви, че културата на безопасност е останала на заден план за сметка на „лъскавите продукти“. Reuters тогава отбеляза, че серията напускания е съвпаднала с преструктурирането на компанията и все по-силния й комерсиален натиск. 

Дори преди това OpenAI преживя една от най-шумните управленски кризи в технологичния сектор. През ноември 2023 г. бордът внезапно освободи Сам Олтман с мотива, че не е бил последователно откровен в комуникацията си с управителния орган и така е възпрепятствал работата му. Само дни по-късно, след бунт сред служители и силен натиск от партньори и инвеститори, Олтман беше върнат като главен изпълнителен директор, а самият борд беше променен. Този епизод извади наяве спор, който компанията продължава да носи и днес - как се управлява организация, родена като лаборатория с обществена мисия, когато се превърне в една от най-ценните и агресивно развиващи се технологични компании в света. 

ВИЖТЕ ОЩЕ: Опасен пробив с изкуствения интелект предизвика скандалите в OpenAI

През 2026 г. дилемата вече не изглежда като абстрактен спор между инженери. OpenAI беше принудена да спре пускането на GPT-6.1 Astra, след като моделът не премина изцяло вътрешните тестове за съответствие и безопасност. Компанията сама призна, че с нарастването на способностите на най-новите системи се появяват рискове, които вече не могат да бъдат третирани като обикновени продуктови дефекти. В собствената си Preparedness Framework OpenAI проследява рискове в киберсигурността, биологичните и химичните заплахи, манипулацията и загубата на контрол, а през май публикува и нова Frontier Governance Framework, която описва как тези опасности трябва да се управляват. 

И точно тук се появява най-неприятното противоречие. Компанията разполага с все по-подробни рамки за сигурност, публикува системни карти, въвежда нива на риск и описва многостепенни защити. В същото време хора, участвали в създаването на тези процедури, продължават да напускат и да твърдят, че културата на ускорено пускане на продукти не оставя достатъчно време тези правила да се превърнат в устойчива практика. Това не доказва, че OpenAI неглижира безопасността. Доказва друго - че спорът вече е вътрешен и идва от хората, които най-добре познават механизмите за контрол.

Последните седмици добавиха още напрежение. Reuters съобщи, че настоящи и бивши изследователи от OpenAI и Google DeepMind предупреждават за надпревара към системи, способни да се самоусъвършенстват, при която конкурентният натиск тласка компаниите напред по-бързо, отколкото се развиват методите за контрол. Част от тях сочат и организационни проблеми - разпокъсана комуникация, различни екипи, които не разполагат с цялата картина, и силен натиск да не се изостава от конкуренти. Това вече не е спор само за една компания, а за структурата на цялата AI индустрия. 

ВИЖТЕ ОЩЕ: AI войната се разгаря: Зукърбърг отказва да натисне спирачката, Алтман признава, че страхът е оправдан

Парадоксът е, че самият Сам Олтман вече публично признава необходимостта от по-бавен подход при най-мощните системи. През септември ръководители от сектора, сред които Дарио Амодей, Илон Мъск и Олтман, започнаха да говорят за повече независими проверки, общи стандарти и по-строг контрол. Флагман.бг вече писа за този необичаен обрат - хората, които в продължение на години ускоряваха надпреварата, започнаха сами да говорят за спирачка. Разликата е, че призивите все още изпреварват задължителните правила, а в САЩ Белият дом залага главно на доброволни ангажименти от самите компании.

Критиците на по-строгото регулиране имат сериозен аргумент - прекалено тежките правила могат да блокират полезни изследвания и да дадат преднина на държави и компании, които не спазват същите стандарти. OpenAI също подчертава, че е увеличила инвестициите в безопасност, въвела е нови рамки за управление на риска и вече е спирала разработки, когато вътрешните тестове не са били удовлетворителни. Това е важната част от картината, защото историята не е за компания, която изобщо няма защити, а за спор дали тези защити са достатъчни за скоростта, с която способностите на моделите нарастват. 

И все пак оставката на Робинсън носи различна тежест от поредното външно предупреждение. Той е човек, който е участвал в писането на правилата, наблюдавал е пускането на 12 водещи модела и е виждал как системите преминават през вътрешните защитни бариери. Когато подобен служител казва, че времето за проби и грешки е приключило, въпросът вече не е дали изкуственият интелект е опасен по принцип. Въпросът е дали индустрията е създала достатъчно надеждни механизми да спре собствените си системи в момента, в който те направят нещо, което никой не е предвидил.

Това е и същината на скандала около OpenAI през последните три години. Компанията, която се превърна в символ на AI революцията, едновременно доказва колко бързо технологията напредва и колко трудно е да бъде управлявана. От отстраняването и връщането на Сам Олтман, през разпадането на Superalignment, напускането на Суцкевер и Лайке, пробивите на автономни агенти и спирането на GPT-6.1 Astra, до сегашната оставка на Робинсън се повтаря един и същ въпрос. Не дали машините стават по-мощни, а дали хората, които ги създават, успяват да изградят спирачките със същата скорост.