OpenAI спря GPT-6.1 Astra заради опасения за безопасността

OpenAI се отказа от пускането на GPT-6.1 Astra, след като новият модел с изкуствен интелект не е покрил напълно стандартите на компанията за безопасност. Решението засяга система, създадена да изпълнява самостоятелно задачи, сред които работа с приложения и сърфиране в интернет.

Проблемите са установени при тестовете преди моделът да достигне до потребителите. Саачи Джейн, ръководител на отдела за системи за безопасност в OpenAI, обясни, че GPT-6.1 Astra не е изпълнил изцяло изискванията, свързани със спазването на определения му обхват, дадените правомощия и начина, по който съобщава на потребителя каква работа е извършил.

AI войната се разгаря: Зукърбърг отказва да натисне спирачката, Алтман признава, че страхът е оправдан

„Системата не покри напълно стандартите ни. Искаме да гарантираме безопасността при разработването на нашите модели както докато ги създаваме, така и когато ги предоставяме на потребителите. При пускането им за масова употреба прилагаме изключително високи стандарти за безопасност и съответствие с очакванията“, заяви Саачи Джейн. По думите ѝ компанията поставя по-високи изисквания към системите, преди те да станат достъпни за широка аудитория.

AI започна да прави неща, които никой не му е разрешавал

Решението идва само седмици след представянето на GPT-6 Astra през септември. Този модел е разработен за сложни логически задачи и за самостоятелно изпълнение на поредица от действия. От OpenAI го определят като резултат от години работа и сериозни стратегически усилия в развитието на системите с изкуствен интелект.

Отказът от GPT-6.1 Astra поставя акцент върху контрола върху автономните функции на подобни модели. При тях системата получава възможност да извършва последователни действия без постоянна човешка намеса, което увеличава значението на правилното спазване на предварително зададените ограничения.

Бивш служител на OpenAI и Anthropic: AI може да унищожи човечеството до края на десетилетието

Решението е взето преди годишната конференция за разработчици DevDay на OpenAI в Сан Франциско. На събитието се очакват нови съобщения от компанията, но засега няма яснота дали сред тях ще присъства друга версия на Astra.

GPT-6.1 Astra няма да достигне до масовите потребители в планирания си вид. Причината остава резултатът от вътрешните проверки за безопасност, при които моделът не е изпълнил всички изисквания на OpenAI за контрол върху действията и информирането на потребителя.