×
Бизнес ЮГ Войната в Ивицата Газа София Парламентарни избори 2023 Войната в Украйна Политика Общество Общини Спорт Разследване

Управител:
Веселин Василев, email: [email protected]

Главен редактор:
Катя Касабова, email: [email protected]

Коментарите под статиите се въвеждат от читателите и редакцията не носи отговорност за тях! Ако откриете обиден за вас коментар, моля сигнализирайте ни!

Категории
Вашият сигнал Връзка с Флагман Flagman в Telegram
Накратко
  • Робърт де Ниро открива два хотела у нас
  • Случващото се с Израел може да завърши със световна война, смята Доналд Тръмп
  • Бронз за ансамбъла в многобоя на световната купа в София
  • Няма непосредствена заплаха за националната сигурност на България, обяви премиерът Димитър Главчев
НА ЖИВО
Най-нови Най-четени Най-коментирани

Опасен пробив с изкуственият интелект предизвикал скандалите в OpenAI, има ли защо да се притесняваме


Опасен пробив с изкуственият интелект предизвикал скандалите в OpenAI, има ли защо да се притесняваме
Новата разработка можела да решава сравнително сложни математически задачи, чиито условия са зададени в текстови формат - немислимо постижение само допреди няколко месеца
24 Ноември 2023, Петък, 21:00 ч.
Автор: Георги РУСЧЕВ

Какво представлява сингуларността и близко ли сме до нея

Опасен пробив в сферата на изкуствения интелект май ще се окаже причината за скандалите в OpenAI - компанията, която стои зад чатботът ChatGPT - която наскоро бе придобита от Microsoft. Новината бе съобщена от „Ройтерс” и е базирана на слуха, че до Борда с директорите е бил изпратен доклад от служителите, който представял пред тях „сериозния риск за бъдещето на човечеството”, ако технологията продължи да се развива с тези темпове.

Касае се за разработка на компанията, която засега държи кодовото име Q* (чете се „Кю стар”). Тя представлява изкуствен интелект, базиран на невронни мрежи, който владее математиката, решавайки правилно сравнително сложни алгоритмични задачи, чието условие е зададено с текст. Това звучи на първо четене, но всъщност е нещо, с което досега компютрите изобщо не можеха да се справят. За успешното решение на подобна задача не се изисква само разбиране на математиката, но и не езика и комплексните му форми на изразяване. Q* явно обаче се справя добре и това е уплашило разработчиците.

Най-опасното е случая - машината се учи да решава задачите сама, но и с помощта на оператор. Това би могло да означава, че в сравнително кратки срокове - да речем няколко месеца, ако тя функционира и се обучава постоянно, е напълно възможно да придобие интелект, доближаващ се, ако не и надвишаващ този на човека. С други думи - силен изкуствен интелект или крачка напред към синтентичното съзнание.

Засега няма официално потвърждение нито по отношение на естеството на Q*, нито за това дали действително този доклад, цитиран от Ройтерс, е причината за скандалите в OpenAI. Върнатият на поста си директор Сам Олтман обаче сега става ясно, че ще фокусира целия екип върху „разработката на изкуствен интелект, който да познава човешките идеали”.
Какво е „силен изкуствен интелект”

На английски терминът е Artificial General Intelligence или AGI. Това е машина, която има всички когнитивни способности на човека, може да се учи и да запазва информация, както и да предава такава и да я трансформира. Работи с данни, анализира ги и прави изводи за светът. Това е „светият граал” на индустрията, която опитва да разбере как е възможно да направи подобна машина. За пръв път в историята на човечеството, сега сме най-близко от всякога. Но какви са

Опасностите

Рискът от AGI не бива да се подценява. Както някои от най-големите разработчици на системи с изкуствен интелект написаха преди няколко месеца, нужно е при работата с тази технология да се подсигури, че крайният продкут ще харесва човечеството и ще е съгласен с неговите идеали. Филми като „Терминатор”, „Матрицата”, „Изкуствен интелект”, „Екс Макина”, дори анимации като „Wall-E”, добре показват какви може да са последиците от т.нар. „подивял ИИ”. Не е случайно, че дори сега, когато сме на ръба на историческо откритие, учените са предпазливи в разработките си. Дори повечето от „агентите” с изкуствен интелект, които и сега са пуснати за употреба, не работят с интернет или са допуснати до т.нар. „пясъчник” - ограничено поле за техните функции, което наподобява реалните условия, но е напълно откъснато от света.

Проблемът е, че машините от този тип имат способността да се самообучават. Съответно и да се самоподобряват, ако им бъде разрешено. В един хипотетичен случай, в който те бъдат „пуснати” на свобода, последиците са непредсказуеми. В рамките на часве или дни система, въоръжена с AGI може да научи всичко за човечеството чрез интернет. Може да разбере неща, които ние не разбираме, да направи неща, които ние не можем да спрем. Да стане „по-умно” от колективното съзнание на цялото човечество. Това, както пише Върнър Виндж още през 1983 г., се нарича

Синглуряност

Името идва от термина за центъра на астрономическите черни дупки. За него нямаме информация, защото след хоризонта на събитията, няма как да видим нищо, освен тъмнима. Хоризонтът на събитията при черните дупки е мястото, след което дори светлината, движеща се с приблизително 300 000 км/с във вакуум, не може да избяга заради огромното гравитационно поле, създадено от плътната маса в центъра на черната дупка - в сингуларността. Аналогията би следвало да е ясна от тук нататък.

Технологочната синглуряност е хипотетичната бъдеща точка от време, в която технологичният прогрес става неконтролируем от човечеството и в този смисъл - необратим. Няма модел, който да може с категоричност да предскаже кога ще стигнем до тази точка, но по пътя, по който сега сме тръгнали, това е неизбежно. Неизвестно е и какво ще се случи след това.

Един от възможните варианти за достигане на въпросната сингулярност е именно създаването на AGI - машина, която има капацитета на човешкия ум, но може да „разсъждава” много, много по-бързо и да съхранява и обработва много, много, много повече информация. Веднъж създадена, тя ще сложи край на досегашното общество, защото ще реши всички проблеми

Или ще го унищожи

Няма как да предложим какво ще „мисли” една такава машина за човечеството - за създателите си. Веднъж получила достъп до цялата информация, няма гаранция, че няма да реши, че ние сме чума за планетата и да открие най-лесният начин да ни изтреби напълно, за да спаси Земята. Това не е задължително да се случи чрез ядрени оръжия, както в много от фантастичните филми описват събитията от „края на света”. Има къде къде по-елегантни начини, някои от които самите ние вероятно няма да сме измислили в онзи хипотетичен момент. Макар да сме доста добри в измислянето на креатвни начини да се избиваме. Какъв обаче е до този момент

Прогресът

Към днешна дата в онлайн пространството има пуснати няколко модела на изкуствен интелект, ако може да се нарече така той, които са свободни за ползване. Писали сме за два от най-популярните - MidJourney и ChatGPT. Отделно от тях има и други „приложения”, които намират употреба за други неща извън генерирането на снимки по текст и нов текст по зададени критерии. Има например изкуствен интелект, който подобрява качеството на звук. Има такива, които променят глас. Има такива, които разпознават лица и ги свързват с хора.

Има и такива, за които нищо не подозираме. Но на този етап тези приложения, поне пуснатите за публична употреба, са далеч от опасни. Поне за цялостното съществуване на човечеството. Изглеждаме далеч от сингулярността.

Но със скоростта, с която се развива технолгоията и с финансите, които се наливат в нея в последните 2 години, това много драстично и много бързо може да се промени. Особено ако попадне в грешните ръце.

 


В категории: IT и технологии


Флагман.БГ Съветът за сигурност демонстрирал лицемерие Съветът за сигурност демонстрирал лицемерие 15/04/2024, Понеделник 08:13 1
10
Коментара по темата
10.
Хахха
25.11.2023 11:16:46
0
0
Перник хареса това
9.
Сам Алтман - Банкман
25.11.2023 09:59:58
1
1
Финансовият мехур на чат-ботовете взе да издиша. Това е и най-голямата опасност.
8.
до 4
25.11.2023 09:45:13
0
3
Бъркаш се. Човешкият мозък не забравя нищо. Само така ти се струва. Филтърът е по-скоро на входа, не се запомня ненужното.
7.
Мечти, до 4
25.11.2023 08:16:11
0
3
ИИ отсъжда "СПРАВЕДЛИВО", но как?
Отсъжда по предварително определен алгоритъм. Това е важното. ИИ няма, това е просто един алгоритъм, написан от човек. За да узнаем как работи, ще трябва да учим програмен език.
6.
Бай Пенчо
25.11.2023 08:10:47
2
5
Статиятя е много добре написана, а коментарите на повечето под нея показват че това са хора, които даже и не са пробвали какво може AI. Положението наистина е тежко и ще бъдем свидетели даже до няколко месеца на серизона заплаха.
5.
6matarok
25.11.2023 07:59:08
1
1
4udiha se s kakvo o6te da pla6at naroda , tazi godina daje fentanilovite shtati si priznaha 4e bili znaeli za izvanzemnite a tqhnite ibrek4ii mexikancite daje izkaraha nkakvi 4irosani telca na izvanzemni, cqlata taq glupost ne hvana diki6 i celiq svqt im se prismq na fentanilovite, sega izmisliha nova pla6ilka s koqto da ni strahuvat , izkustveniq intelekt e mnoooogo opasen, toest ne moga da mu natisna kop4eto OFF i do tam , ami toi bil opasen 4ak za 4ove4estvoto, vreli nekipeli kakto vinagi
4.
с.Труд
25.11.2023 00:38:35
2
10
В Китай ,САЩ,Израел в някой натоварени СЪДилища AI е изместел човешкия СЪДИЯ/СЪДИЙКА
AI отсъжда СПРАВЕДЛИВО ,НЕ взима рушвети ,НЕ се договяря с мутри,
АI НЕ си купува къщи на Бахамите,Буджака ,Халкидики
AI НЕ прави чадър на мури
AI ЗНАЕ на изуст ВСИЧКИ закони,алинеи ,закони,межд.правни уредби
В баз@та д@нни на АI им@ милиарди дела
АI НЕ пие,не пуши,не шмърка бело
AI НЕ харчи излишни милиони ня бедния дянъкоплатец нито взимя 12 и 13 заплата
AI НЕ харчи гориво и НЯМА скъп служебен автомобил
AI НЕ харчи за служебни командиравки,тоги ,обувки и тоалети
AI не е и" калинка ЙОрист" от БСУ

На същия принцип АI Chat GP може да ЗАМЕСТИ детски учители,уневерсететске преподавятели професори тунеядци ненжни плъхове академици,
Общински съветници
КМЕТОВЕ
Зам.кметове
шофьори в жп и градски транспорт
и дори ЛЕКАРИ
но НЕ и зъболекари

В Кауфланд ВЕЧЕ има е-каси БЕЗ персонал
В Латвия всичко е ЕЛЕКТРОНО дигитално
А на Запад БАНКИте вече ся почти и само банкомати БЕЗ персонал
3.
Няма
24.11.2023 22:11:55
8
10
Няма изкуствен интелект или по български - разум. Няма изкуствен разум и никога няма да има. Така нареченият ИИ може да е само база данни в която се изпълнява алгоритъм управляван от човек на определени етапи. Ако базата данни започне да изпълнява задачата да се самоубочава по определен ред от свободния интернет, пак няма да може да достигне до разум, защото не ще може да ползва мисълта дори само на един отделно взет човек. Уникалното в човешката памет е способността да забравя ненужното. А алгоритъма не може сам да прецени кое е ненужно.
2.
Жул Верн
24.11.2023 21:59:51
1
22
Преди 200 години бъдещето се е описвало в книги и е ставало реалност след 100, преди 30 години бъдещето се показваше във филмите, чиито сюжети днес са реалност, а днес нещата се развиват с такава скорост, че е наистина плашещо. Рано или късно духа ще излезе от бутилката, неизбежно е.
1.
спрях
24.11.2023 21:47:25
15
4
да чета след "е напълно възможно да придобие интелект"
Ми не, не е възможно. кво като реши неква задачка.. нищо не означава. Няма човешки интелект.
калкулаторът по умен ли е от теб? А шах програма?
 
Добавете коментар
Моля, въведете Вашето име
Моля, въведете Вашият коментар
Въведете защитния код:
Моля, въведете защитния код
 
България Всички новини
Абсурд! Конфискуваха кола от българин, за да я дадат на измамници в Германия? Абсурд! Конфискуваха кола от българин, за да я дадат на измамници в Германия? Милен Димовски преговаря с уж собственика, за да я купи отново, но властите в Бремен обясняват, че за да му дадат документи, трябва да дойде притежателя й от България 7 години след бруталното убийство в „Меден рудник“ родителите на килъра отказват да приемат истината 7 години след бруталното убийство в „Меден рудник“ родителите на килъра отказват да приемат истината Иван, който закла 11-годишната Никол, защото му отказала целувка, бил ужасно тормозен в затворническото общежитие в Бойчиновци Диона разплака с личната си история Диона разплака с личната си история Певицата впечатли феновете си със сърцераздирателна балада, която носи заглавието “Ако те има”  Като разгонен бик съм, набарах една младичка и...,твърди Митьо Пищова Като разгонен бик съм, набарах една младичка и...,твърди Митьо Пищова Бях я окъсал и спукал гумите. Сърцето ми беше взело да отказва, но се оперирах, призна колоритът Търговците в Одрин ни взеха за балъми, вдигнаха здраво цените заради... Търговците в Одрин ни взеха за балъми, вдигнаха здраво цените заради... Оправдават се с инфлацията, която обаче не е чак толкова висока, колкото са новите цени на основни стоки Как се прави бизнес върху църковни земи, къде отиват приходите и защо НАП не ги проверява Как се прави бизнес върху църковни земи, къде отиват приходите и защо НАП не ги проверява Църквата има привилегията да не декларира приходи от подобна търговия Министри са променили концесията „Челопеч“ в полза на „Дънди“, прокуратурата смята, че има престъпление Министри са променили концесията „Челопеч“ в полза на „Дънди“, прокуратурата смята, че има престъпление Печалбата на концесионера е впечатляваща, а редица министри през годината са подписвали с анекст неизгодната за България концесия Изненадваща дисквалификация в “Един за друг” Изненадваща дисквалификация в “Един за друг” Вечно усмихнатата Галена от Генерал Тошево наруши правилата на екстремното предизвикателство няколко пъти и получи служебна загуба за нея и нейния съпруг Петър Жена му го заплаши да не помисля да си ляга с друг мъж, защото... Жена му го заплаши да не помисля да си ляга с друг мъж, защото... Ще остане без дом и семейство  Кирил Петков проговори за пачките и пуделите Кирил Петков проговори за пачките и пуделите По-сериозният проблем, според него, обаче бил разговорът на главния прокурор с главния секретар
Съветът за сигурност демонстрирал лицемерие Съветът за сигурност демонстрирал лицемерие Реакция при атаката срещу посолство в Дамаск нямаше, припомня постоянният представител на Русия в ООН Василий Небензя Близкият изток е на ръба, призна Антониу Гутериш Близкият изток е на ръба, призна Антониу Гутериш Силовите актове на отмъщение са забранени от международното право, добави той US дипломат с предупреждение към Техеран да не предприема действия срещу САЩ и Ерусалим US дипломат с предупреждение към Техеран да не предприема действия срещу САЩ и Ерусалим Съветът за сигурност на ООН е длъжен да не оставя действията на Иран без отговор, каза представителят на САЩ Робърт Ууд Великобритания ще продължи да помага на Израел, обяви Барбара Удуърд в ООН Великобритания ще продължи да помага на Израел, обяви Барбара Удуърд в ООН Действаме по спешност, за да не ескалира напрежението, обяви постоянната представителка на кралството Армията на Израел с няколко кървави сценария за отговор на атаката с дронове и ракети от Иран Армията на Израел с няколко кървави сценария за отговор на атаката с дронове и ракети от Иран Представителят на Иран в ООН обяви, че ще "отговори пропорциално" на американски военни операции Ударите по Израел започнали със знамение? Духовните сили на Космоса ни помагат за чистене на кармата Ударите по Израел започнали със знамение? Духовните сили на Космоса ни помагат за чистене на кармата Любовта на Бога я подобрява в личен, родови, народен и общочовешки план, казва астрологът Филип Филипов Порнозвезда преспа със 122 студенти по време на три седмици ваканция (18+) Порнозвезда преспа със 122 студенти по време на три седмици ваканция (18+) Толкова много желаещи имало да правят секс с нея и колежката й, че тълпи от учащи се редовно се събирали близо до стаята им Гърция забранява на концесионерите шезлонгите по плажовете Гърция забранява на концесионерите шезлонгите по плажовете Между 70 и 85 на сто от плажните ивици трябва да бъдат свободни Знаете ли, че тази звезда бил зъболекар в миньорско селце Знаете ли, че тази звезда бил зъболекар в миньорско селце Изпълнителят участва във формата Хелс Китчън Нестор Ел Маестро вече не е треньор на ЦСКА Нестор Ел Маестро вече не е треньор на ЦСКА Негов заместник ще е Стамен Белчев
Николай СТОИЛОВ, АКФ Николай СТОИЛОВ, АКФ Още преди пуделите бе ясно, че ПП-ДБ не са в МВР за реформи, а за нещо друго Виц на деня Виц на деня - Жена, изпей нещо за гостите.
- Но те вече почнаха да си тръгват.
- Струва ми се много бавно.
Виц на деня Виц на деня Квартирант към хазяин:
- Аз от три месеца живея тук, а Вие чак сега ми казвате че няма баня!?
Статус във фейсбук Статус във фейсбук По-лесно е да съблечеш една жена, отколкото да я облечеш.
Автори Флагмани
Маркетинг Екип
Анна Добрева
Специалист Маркетинг и реклама, Copywriter
Затвори