Опасен пробив с изкуственият интелект предизвикал скандалите в OpenAI, има ли защо да се притесняваме

Новата разработка можела да решава сравнително сложни математически задачи, чиито условия са зададени в текстови формат - немислимо постижение само допреди няколко месеца

Ключови думи: изкуствен интелект, open ai, разработка, кю стар, q*, опасност за човечеството

Опасен пробив в сферата на изкуствения интелект май ще се окаже причината за скандалите в OpenAI - компанията, която стои зад чатботът ChatGPT - която наскоро бе придобита от Microsoft. Новината бе съобщена от „Ройтерс” и е базирана на слуха, че до Борда с директорите е бил изпратен доклад от служителите, който представял пред тях „сериозния риск за бъдещето на човечеството”, ако технологията продължи да се развива с тези темпове.

Касае се за разработка на компанията, която засега държи кодовото име Q* (чете се „Кю стар”). Тя представлява изкуствен интелект, базиран на невронни мрежи, който владее математиката, решавайки правилно сравнително сложни алгоритмични задачи, чието условие е зададено с текст. Това звучи на първо четене, но всъщност е нещо, с което досега компютрите изобщо не можеха да се справят. За успешното решение на подобна задача не се изисква само разбиране на математиката, но и не езика и комплексните му форми на изразяване. Q* явно обаче се справя добре и това е уплашило разработчиците.

Най-опасното е случая - машината се учи да решава задачите сама, но и с помощта на оператор. Това би могло да означава, че в сравнително кратки срокове - да речем няколко месеца, ако тя функционира и се обучава постоянно, е напълно възможно да придобие интелект, доближаващ се, ако не и надвишаващ този на човека. С други думи - силен изкуствен интелект или крачка напред към синтентичното съзнание.

Засега няма официално потвърждение нито по отношение на естеството на Q*, нито за това дали действително този доклад, цитиран от Ройтерс, е причината за скандалите в OpenAI. Върнатият на поста си директор Сам Олтман обаче сега става ясно, че ще фокусира целия екип върху „разработката на изкуствен интелект, който да познава човешките идеали”.
Какво е „силен изкуствен интелект”

На английски терминът е Artificial General Intelligence или AGI. Това е машина, която има всички когнитивни способности на човека, може да се учи и да запазва информация, както и да предава такава и да я трансформира. Работи с данни, анализира ги и прави изводи за светът. Това е „светият граал” на индустрията, която опитва да разбере как е възможно да направи подобна машина. За пръв път в историята на човечеството, сега сме най-близко от всякога. Но какви са

Опасностите

Рискът от AGI не бива да се подценява. Както някои от най-големите разработчици на системи с изкуствен интелект написаха преди няколко месеца, нужно е при работата с тази технология да се подсигури, че крайният продкут ще харесва човечеството и ще е съгласен с неговите идеали. Филми като „Терминатор”, „Матрицата”, „Изкуствен интелект”, „Екс Макина”, дори анимации като „Wall-E”, добре показват какви може да са последиците от т.нар. „подивял ИИ”. Не е случайно, че дори сега, когато сме на ръба на историческо откритие, учените са предпазливи в разработките си. Дори повечето от „агентите” с изкуствен интелект, които и сега са пуснати за употреба, не работят с интернет или са допуснати до т.нар. „пясъчник” - ограничено поле за техните функции, което наподобява реалните условия, но е напълно откъснато от света.

Проблемът е, че машините от този тип имат способността да се самообучават. Съответно и да се самоподобряват, ако им бъде разрешено. В един хипотетичен случай, в който те бъдат „пуснати” на свобода, последиците са непредсказуеми. В рамките на часве или дни система, въоръжена с AGI може да научи всичко за човечеството чрез интернет. Може да разбере неща, които ние не разбираме, да направи неща, които ние не можем да спрем. Да стане „по-умно” от колективното съзнание на цялото човечество. Това, както пише Върнър Виндж още през 1983 г., се нарича

Синглуряност

Името идва от термина за центъра на астрономическите черни дупки. За него нямаме информация, защото след хоризонта на събитията, няма как да видим нищо, освен тъмнима. Хоризонтът на събитията при черните дупки е мястото, след което дори светлината, движеща се с приблизително 300 000 км/с във вакуум, не може да избяга заради огромното гравитационно поле, създадено от плътната маса в центъра на черната дупка - в сингуларността. Аналогията би следвало да е ясна от тук нататък.

Технологочната синглуряност е хипотетичната бъдеща точка от време, в която технологичният прогрес става неконтролируем от човечеството и в този смисъл - необратим. Няма модел, който да може с категоричност да предскаже кога ще стигнем до тази точка, но по пътя, по който сега сме тръгнали, това е неизбежно. Неизвестно е и какво ще се случи след това.

Един от възможните варианти за достигане на въпросната сингулярност е именно създаването на AGI - машина, която има капацитета на човешкия ум, но може да „разсъждава” много, много по-бързо и да съхранява и обработва много, много, много повече информация. Веднъж създадена, тя ще сложи край на досегашното общество, защото ще реши всички проблеми

Или ще го унищожи

Няма как да предложим какво ще „мисли” една такава машина за човечеството - за създателите си. Веднъж получила достъп до цялата информация, няма гаранция, че няма да реши, че ние сме чума за планетата и да открие най-лесният начин да ни изтреби напълно, за да спаси Земята. Това не е задължително да се случи чрез ядрени оръжия, както в много от фантастичните филми описват събитията от „края на света”. Има къде къде по-елегантни начини, някои от които самите ние вероятно няма да сме измислили в онзи хипотетичен момент. Макар да сме доста добри в измислянето на креатвни начини да се избиваме. Какъв обаче е до този момент

Прогресът

Към днешна дата в онлайн пространството има пуснати няколко модела на изкуствен интелект, ако може да се нарече така той, които са свободни за ползване. Писали сме за два от най-популярните - MidJourney и ChatGPT. Отделно от тях има и други „приложения”, които намират употреба за други неща извън генерирането на снимки по текст и нов текст по зададени критерии. Има например изкуствен интелект, който подобрява качеството на звук. Има такива, които променят глас. Има такива, които разпознават лица и ги свързват с хора.

Има и такива, за които нищо не подозираме. Но на този етап тези приложения, поне пуснатите за публична употреба, са далеч от опасни. Поне за цялостното съществуване на човечеството. Изглеждаме далеч от сингулярността.

Но със скоростта, с която се развива технолгоията и с финансите, които се наливат в нея в последните 2 години, това много драстично и много бързо може да се промени. Особено ако попадне в грешните ръце.