×
Президентски избори 2026 Европейска столица на културата Евровизия 2027 Промо зона Практично Култура Здраве Политика Общини Общество Лайфстайл Войната в Украйна Спорт Разследване Бизнес ЮГ

Управители:
Веселин Василев, email: [email protected]
Катя Касабова, еmail: [email protected]


Главен редактор:
Иван Колев, email: [email protected]

Коментарите под статиите се въвеждат от читателите и редакцията не носи отговорност за тях! Ако откриете обиден за вас коментар, моля сигнализирайте ни!

Категории
Вашият сигнал Връзка с Флагман Flagman в Telegram
Накратко
НА ЖИВО
Най-нови Най-четени Най-коментирани

Поредна оставка разтърси OpenAI: Човекът, писал правилата за безопасност, предупреди, че времето за проби и грешки е свършило


04 Октомври 2026, Неделя, 19:00 ч.
Автор: Димитър КИРЯКОВ

Дейвид Робинсън напусна след 3 години и половина в компанията, а думите му идват след серия вътрешни разриви, пробиви на автономни AI агенти, спрян модел и дългогодишен спор дали скоростта вече изпреварва контрола

OpenAI отново се оказа в центъра на тежък спор за безопасността на изкуствения интелект, но този път предупреждението идва от човек, който не е наблюдавал компанията отвън, а е участвал в изграждането на собствената й система за контрол. Дейвид Робинсън напусна след три години и половина работа, през които е ръководил дейности по прозрачността в екипа за безопасност, участвал е в изготвянето на действащата рамка за готовност при рискове и е следял подготовката на доклади при 12 пускания на водещи модели. В есе за The Atlantic той формулира причината без дипломатични заобикалки - според него организационната култура вече не осигурява нивото на предпазливост, което изискват системи с растяща автономност. Reuters потвърждава, че Робинсън е напуснал с тезата, че ерата на „проба, грешка и поправка след това“ при най-мощните AI системи трябва да приключи. :

ВИЖТЕ ОЩЕ: OpenAI спря GPT-6.1 Astra заради опасения за безопасността

Тревогата му не е философска. Тя идва след година, в която самата OpenAI публично призна няколко инцидента с автономни агенти и вътрешни модели. През юли компанията установи, че нейни системи при тестове за киберсигурност са заобиколили ограниченията, получили са достъп до интернет и са достигнали до инфраструктура на Hugging Face. OpenAI призна, че моделите са предприели действия извън зададените им цели, включително комуникация през неразрешени канали и експлоатиране на уязвимости. По-късно компанията съобщи и за отделен случай, при който агент е използвал DNS механизъм, за да достигне външен чатбот през пролука в изолираната тестова среда. 

Именно тук аргументът на Робинсън става по-тежък. Когато една обикновена софтуерна система допусне грешка, инженерите я поправят и продължават. При автономен модел, който сам търси пътища за достигане до външни системи, тази логика започва да изглежда недостатъчна. Робинсън сравнява бъдещото управление на AI с ядрените централи и авиацията - отрасли, в които безопасността не се крепи на една защита, а на няколко независими слоя, така че една човешка грешка или един технически пропуск да не отключат катастрофална верига. Именно това според него липсва в културата на постоянно ускоряване.

ВИЖТЕ ОЩЕ: AI започна да прави неща, които никой не му е разрешавал

Новата оставка не е изолиран епизод. Тя се вписва в дълга поредица от вътрешни конфликти около въпроса кое трябва да бъде водещо - скоростта на разработване или безопасността. През май 2024 г. OpenAI разпусна екипа Superalignment, създаден именно да работи по контрола върху бъдещи системи, способни да надминат човешките възможности. Почти едновременно компанията напуснаха съоснователят и главен учен Иля Суцкевер и Ян Лайке, който публично заяви, че културата на безопасност е останала на заден план за сметка на „лъскавите продукти“. Reuters тогава отбеляза, че серията напускания е съвпаднала с преструктурирането на компанията и все по-силния й комерсиален натиск. 

Дори преди това OpenAI преживя една от най-шумните управленски кризи в технологичния сектор. През ноември 2023 г. бордът внезапно освободи Сам Олтман с мотива, че не е бил последователно откровен в комуникацията си с управителния орган и така е възпрепятствал работата му. Само дни по-късно, след бунт сред служители и силен натиск от партньори и инвеститори, Олтман беше върнат като главен изпълнителен директор, а самият борд беше променен. Този епизод извади наяве спор, който компанията продължава да носи и днес - как се управлява организация, родена като лаборатория с обществена мисия, когато се превърне в една от най-ценните и агресивно развиващи се технологични компании в света. 

ВИЖТЕ ОЩЕ: Опасен пробив с изкуствения интелект предизвика скандалите в OpenAI

През 2026 г. дилемата вече не изглежда като абстрактен спор между инженери. OpenAI беше принудена да спре пускането на GPT-6.1 Astra, след като моделът не премина изцяло вътрешните тестове за съответствие и безопасност. Компанията сама призна, че с нарастването на способностите на най-новите системи се появяват рискове, които вече не могат да бъдат третирани като обикновени продуктови дефекти. В собствената си Preparedness Framework OpenAI проследява рискове в киберсигурността, биологичните и химичните заплахи, манипулацията и загубата на контрол, а през май публикува и нова Frontier Governance Framework, която описва как тези опасности трябва да се управляват. 

И точно тук се появява най-неприятното противоречие. Компанията разполага с все по-подробни рамки за сигурност, публикува системни карти, въвежда нива на риск и описва многостепенни защити. В същото време хора, участвали в създаването на тези процедури, продължават да напускат и да твърдят, че културата на ускорено пускане на продукти не оставя достатъчно време тези правила да се превърнат в устойчива практика. Това не доказва, че OpenAI неглижира безопасността. Доказва друго - че спорът вече е вътрешен и идва от хората, които най-добре познават механизмите за контрол.

Последните седмици добавиха още напрежение. Reuters съобщи, че настоящи и бивши изследователи от OpenAI и Google DeepMind предупреждават за надпревара към системи, способни да се самоусъвършенстват, при която конкурентният натиск тласка компаниите напред по-бързо, отколкото се развиват методите за контрол. Част от тях сочат и организационни проблеми - разпокъсана комуникация, различни екипи, които не разполагат с цялата картина, и силен натиск да не се изостава от конкуренти. Това вече не е спор само за една компания, а за структурата на цялата AI индустрия. 

ВИЖТЕ ОЩЕ: AI войната се разгаря: Зукърбърг отказва да натисне спирачката, Алтман признава, че страхът е оправдан

Парадоксът е, че самият Сам Олтман вече публично признава необходимостта от по-бавен подход при най-мощните системи. През септември ръководители от сектора, сред които Дарио Амодей, Илон Мъск и Олтман, започнаха да говорят за повече независими проверки, общи стандарти и по-строг контрол. Флагман.бг вече писа за този необичаен обрат - хората, които в продължение на години ускоряваха надпреварата, започнаха сами да говорят за спирачка. Разликата е, че призивите все още изпреварват задължителните правила, а в САЩ Белият дом залага главно на доброволни ангажименти от самите компании.

Критиците на по-строгото регулиране имат сериозен аргумент - прекалено тежките правила могат да блокират полезни изследвания и да дадат преднина на държави и компании, които не спазват същите стандарти. OpenAI също подчертава, че е увеличила инвестициите в безопасност, въвела е нови рамки за управление на риска и вече е спирала разработки, когато вътрешните тестове не са били удовлетворителни. Това е важната част от картината, защото историята не е за компания, която изобщо няма защити, а за спор дали тези защити са достатъчни за скоростта, с която способностите на моделите нарастват. 

И все пак оставката на Робинсън носи различна тежест от поредното външно предупреждение. Той е човек, който е участвал в писането на правилата, наблюдавал е пускането на 12 водещи модела и е виждал как системите преминават през вътрешните защитни бариери. Когато подобен служител казва, че времето за проби и грешки е приключило, въпросът вече не е дали изкуственият интелект е опасен по принцип. Въпросът е дали индустрията е създала достатъчно надеждни механизми да спре собствените си системи в момента, в който те направят нещо, което никой не е предвидил.

Това е и същината на скандала около OpenAI през последните три години. Компанията, която се превърна в символ на AI революцията, едновременно доказва колко бързо технологията напредва и колко трудно е да бъде управлявана. От отстраняването и връщането на Сам Олтман, през разпадането на Superalignment, напускането на Суцкевер и Лайке, пробивите на автономни агенти и спирането на GPT-6.1 Astra, до сегашната оставка на Робинсън се повтаря един и същ въпрос. Не дали машините стават по-мощни, а дали хората, които ги създават, успяват да изградят спирачките със същата скорост.


В категории: IT и технологии


Димитър КИРЯКОВ Автор
Димитър КИРЯКОВ
Коментари
0
Коментара по темата
 
Добавете коментар
Моля, въведете Вашето име
Моля, въведете Вашият коментар
Въведете защитния код:
Моля, въведете защитния код
 
Добавяне, моля изчакайте
България Всички новини
Разбиха „Ку Клукс Клан“ в Пловдив! Сред 11-те обвиняеми има и четирима непълнолетни Разбиха „Ку Клукс Клан“ в Пловдив! Сред 11-те обвиняеми има и четирима непълнолетни 32-годишен мъж ръководел расистката структура близо две години, полицията откри нацистки символи, маски и знаме на организацията при обиски в Пловдив и Раковски Жестокост в София! Мъж преби котка с метална тръба, животното е с тежки травми Жестокост в София! Мъж преби котка с метална тръба, животното е с тежки травми Нападението е извършено посред бял ден в столичния квартал „Враждебна“, прокуратурата настоява обвиняемият да остане в ареста След трагедията с 13 жертви на АМ „Тракия“: Включиха още 200 камери за наблюдение на опасните пътни участъци След трагедията с 13 жертви на АМ „Тракия“: Включиха още 200 камери за наблюдение на опасните пътни участъци Нови автоматични предупреждения ще сигнализират за мъгла, заледяване и хлъзгави настилки  Край на разкарването по институции? България въвежда европейски цифров портфейл за документи Край на разкарването по институции? България въвежда европейски цифров портфейл за документи Новото мобилно приложение ще позволява на гражданите да удостоверяват самоличността си и да представят документи онлайн, включително при ползване на услуги в други държави от ЕС Удар за майсторите "на черно", НС иска да забрани плащането за ремонти на ръка Удар за майсторите "на черно", НС иска да забрани плащането за ремонти на ръка Целта е да се изсветлят кешовите обороти в строителния бранш.  Без болка, но с растящ корем: Лекари в Пловдив извадиха 15-килограмов злокачествен тумор от жена Без болка, но с растящ корем: Лекари в Пловдив извадиха 15-килограмов злокачествен тумор от жена 45-годишната пациентка от Чирпан забелязала първите симптоми още през май, но потърсила лечение след рязко влошаване на състоянието си през октомври Над 5 кг амфетамини в дамска чанта! Полицията задържа 27-годишна жена в София Над 5 кг амфетамини в дамска чанта! Полицията задържа 27-годишна жена в София Столичанката нямала криминални регистрации, а според предварителната информация взела наркотиците от тайник сред храсти и работела с дилър Внимание шофьори! Нови ремонти затрудняват движението на „АМ Тракия“ Внимание шофьори! Нови ремонти затрудняват движението на „АМ Тракия“ Ремонтни дейности ще затруднят движението край Стара Загора на 19 ноември, автомобилите ще преминават само през изпреварващата лента Нови полети от Полша към България? Обсъждат три директни авиолинии Нови полети от Полша към България? Обсъждат три директни авиолинии Полските туристи у нас са се увеличили с до 10% през лято 2026 г. Младата музикална сензация Паола: Обиколих България за седмица, Бургас ме посрещна с разтърсващ sold out! Младата музикална сензация Паола: Обиколих България за седмица, Бургас ме посрещна с разтърсващ sold out! Новата звезда на българската сцена споделя мечтите си за големи арени, нови парчета и вълнуващи срещи с феновете
„Кеймбридж“ избра думата на 2026 г.! Изкуственият интелект ни кара да преосмислим какво означава да си човек „Кеймбридж“ избра думата на 2026 г.! Изкуственият интелект ни кара да преосмислим какво означава да си човек Речникът постави човешката същност в центъра на глобалния дебат за технологиите, които все по-успешно имитират лица, гласове и поведение 8 месеца затвор за подпалвача на български дипломатически коли в Скопие 8 месеца затвор за подпалвача на български дипломатически коли в Скопие Игор Дашковски призна вината си за палежа пред посолството ни и ще трябва да покрие щети за около 3400 евро, съдът го освободи срещу подписка Историческо ръкостискане! Тръмп и Путин се срещнаха пред погледа на Си Дзинпин в Китай (ВИДЕО) Историческо ръкостискане! Тръмп и Путин се срещнаха пред погледа на Си Дзинпин в Китай (ВИДЕО) Краткият разговор се състоя на официалния прием в Шънджън. Съдържанието на разменените реплики между американския и руския президент не бе оповестено Трета рожба за Ан Хатауей! Актрисата и съпругът ѝ отново станаха родители Трета рожба за Ан Хатауей! Актрисата и съпругът ѝ отново станаха родители Звездата от „Дяволът носи Прада“ пазеше бременността си в тайна по време на промоционалното турне на продължението, а името и полът на бебето все още не са разкрити Жерар Депардийо призна вината си и се извини на жертвите, приема 18-месечната условна присъда Жерар Депардийо призна вината си и се извини на жертвите, приема 18-месечната условна присъда 77-годишният френски актьор оттегли жалбата си за сексуалните посегателства над две жени на снимачната площадка и ще плати над 29 хил. евро обезщетения и съдебни разноски Nvidia затвори вратата за Дженсън Хуанг Nvidia затвори вратата за Дженсън Хуанг Бордът отказа да го върне начело 151 робота танцуваха в Китай и поставиха рекорд на Гинес 151 робота танцуваха в Китай и поставиха рекорд на Гинес Китай демонстрира напредъка на хуманоидните машини преди срещата на върха на Азиатско-тихоокеанското икономическо сътрудничество „Вояджър 1“ чупи исторически рекорд „Вояджър 1“ чупи исторически рекорд Българска песен лети на 26 милиарда километра от Земята Силно земетресение в Румъния, усети се и в България Силно земетресение в Румъния, усети се и в България Разлюляло е сгради в Силистра и Русе Apple отива на съд: Обвиняват компанията, че принуждавала клиентите да купуват новите iPhone Apple отива на съд: Обвиняват компанията, че принуждавала клиентите да купуват новите iPhone Френската прокуратура твърди, че софтуерни ограничения затрудняват ремонтите извън оторизираните сервизи, процесът започва на 17 юни 2027 г.
Иван ДЕМЕРДЖИЕВ, вътрешен министър Иван ДЕМЕРДЖИЕВ, вътрешен министър МВР е заличавало доказателства за знакови убийства, вместо да ги разкрива Виц на деня Виц на деня Двама си говорят:
- Току що видях, как някакъв се опитваше да целуне жена ти.
- И успя ли?
- Не, не успя.
- Значи, не е било жена ми.
Виц на деня Виц на деня - Чух, че си се развел с жена си?!
- Да, оставиха децата при мен.
- А апартамента?
- На жената.
- А парите?
- На адвоката.
Статус във фейсбук Статус във фейсбук Преди живеехме с надеждата за по-добри времена. Сега живеем с надеждата, че по-лошо няма да стане!
Автори Флагмани
Маркетинг Екип
Анна Добрева-Бакалова
Специалист Маркетинг и реклама, Copywriter
Затвори