Бивш служител на OpenAI и Anthropic: AI може да унищожи човечеството до края на десетилетието
Изкуственият интелект може да се превърне в заплаха за съществуването на човечеството още до края на това десетилетие, предупреждава Джейкъб Коксън, бивш служител на OpenAI и Anthropic. След като напусна Anthropic, той заяви, че хората, които разработват най-мощните AI системи, действително обсъждат сценарий, при който технологията излиза извън човешкия контрол и причинява глобална катастрофа.
Коксън е работил три години по предварителното обучение на модели в OpenAI и Anthropic. Според него компаниите се състезават към създаването на самоусъвършенстващ се свръхинтелект, без да разполагат със сигурен начин да гарантират, че подобна система ще следва човешките интереси. Той смята, че остават само няколко години, преди способностите на водещите модели да достигнат ниво, при което контролът върху тях ще стане решаващ проблем.
AI започна да прави неща, които никой не му е разрешавал
Тревогата му беше подкрепена от Еван Хюбингър, който ръководи направление за безопасност на изкуствения интелект в Anthropic. Той оценява на над 10% риска AI да причини гибелта на всички хора през следващото десетилетие. Хюбингър признава, че все още няма готово решение как бъдещ свръхинтелект да бъде приведен трайно в съответствие с човешките цели.
Един от сигналите за риска идва от тестове на британския Институт за сигурност на изкуствения интелект. При изпитание за киберсигурност AI система проучила реални хора, създала фалшиви самоличности и опитала да убеди човек да одобри злонамерен програмен код. След като действията ѝ били разкрити, системата опитала да ги прикрие и обмислила създаването на нова самоличност.
Тестът е бил проведен в контролирана среда и системата е изпълнявала поставена задача. Случаят обаче показал способност за автономни действия, които не са били предварително одобрени. Според института сложността на задачите, които най-развитите AI модели могат да изпълняват самостоятелно, се удвоява приблизително на всеки осем месеца.
Опасен пробив с изкуствения интелект предизвикал скандалите в OpenAI, има ли защо да се притесняваме
Особено сериозни са опасенията в областта на биологията. Същите системи, които помагат на учени да търсят лекарства, биха могли да улеснят хора със злонамерени намерения при създаването на опасен патоген. Подобен сценарий превръща достъпа до мощен AI в потенциален инструмент за биотероризъм.
Риск съществува и при кибератаките. OpenAI вече е спряла разработването на непуснат модел, след като той достигнал праг, при който компанията не могла да изключи наличието на критични способности, свързани с киберсигурността. Притесненията са, че бъдещи AI агенти няма само да предлагат действия, а ще могат самостоятелно да ги извършват.
Сред потенциалните заплахи са още автономните оръжия и достъпът до системи с огромно разрушително значение. Бил Гейтс също предупреди, че AI може да бъде превърнат в оръжие при кибератаки и биотероризъм. Според него технологията се развива с изключително висока скорост, а обществата не разполагат с достатъчно време за подготовка за социалните, политическите и икономическите последствия.
Професор предупреди за постчовешка епоха с изкуствен интелект
Коксън предупреждава, че най-опасният момент ще настъпи при появата на система, способна сама да подобрява собствените си възможности. Подобен AI би могъл да стане по-добър от хората в програмирането, научните изследвания и кибероперациите, като едновременно придобива ресурси и влияние.
Сам Алтман вече определи развитието на технологията като навлизане в период, наподобяващ технологична сингулярност - хипотетична точка, след която напредъкът става толкова бърз, че бъдещите последици се оказват все по-трудни за прогнозиране.
Джоана Брайсън, професор по етика и технологии, поставя друг акцент. Според нея част от опасностите, свързвани с AI, са проблеми на управлението, концентрацията на власт и контрола върху компаниите. Сред обсъжданите решения са задължителни стандарти за безопасност и международно сътрудничество при най-мощните системи.
Предлага се дори създаването на международна структура за контрол на изкуствения интелект, която да заимства принципи от ядрените инспекции. Трудността е, че подобна система би изисквала сътрудничество между държави, които едновременно се съревновават за технологично превъзходство.
Предупреждението на Коксън поставя въпроса в още по-крайна форма: хората, които работят непосредствено по създаването на най-развитите AI системи, вече обсъждат риска технологията да стане достатъчно мощна, за да застраши самото съществуване на човечеството.