×
Президентски избори 2026 Европейска столица на културата Евровизия 2027 Промо зона Практично Култура Здраве Политика Общини Общество Лайфстайл Войната в Украйна Спорт Разследване Бизнес ЮГ

Управители:
Веселин Василев, email: [email protected]
Катя Касабова, еmail: [email protected]


Главен редактор:
Иван Колев, email: [email protected]

Коментарите под статиите се въвеждат от читателите и редакцията не носи отговорност за тях! Ако откриете обиден за вас коментар, моля сигнализирайте ни!

Категории
Вашият сигнал Връзка с Флагман Flagman в Telegram
Накратко
НА ЖИВО
Най-нови Най-четени Най-коментирани

Опасен пробив с изкуственият интелект предизвикал скандалите в OpenAI, има ли защо да се притесняваме


Опасен пробив с изкуственият интелект предизвикал скандалите в OpenAI, има ли защо да се притесняваме
Новата разработка можела да решава сравнително сложни математически задачи, чиито условия са зададени в текстови формат - немислимо постижение само допреди няколко месеца
24 Ноември 2023, Петък, 21:00 ч.
Автор: Георги РУСЧЕВ

Какво представлява сингуларността и близко ли сме до нея

Опасен пробив в сферата на изкуствения интелект май ще се окаже причината за скандалите в OpenAI - компанията, която стои зад чатботът ChatGPT - която наскоро бе придобита от Microsoft. Новината бе съобщена от „Ройтерс” и е базирана на слуха, че до Борда с директорите е бил изпратен доклад от служителите, който представял пред тях „сериозния риск за бъдещето на човечеството”, ако технологията продължи да се развива с тези темпове.

Касае се за разработка на компанията, която засега държи кодовото име Q* (чете се „Кю стар”). Тя представлява изкуствен интелект, базиран на невронни мрежи, който владее математиката, решавайки правилно сравнително сложни алгоритмични задачи, чието условие е зададено с текст. Това звучи на първо четене, но всъщност е нещо, с което досега компютрите изобщо не можеха да се справят. За успешното решение на подобна задача не се изисква само разбиране на математиката, но и не езика и комплексните му форми на изразяване. Q* явно обаче се справя добре и това е уплашило разработчиците.

Най-опасното е случая - машината се учи да решава задачите сама, но и с помощта на оператор. Това би могло да означава, че в сравнително кратки срокове - да речем няколко месеца, ако тя функционира и се обучава постоянно, е напълно възможно да придобие интелект, доближаващ се, ако не и надвишаващ този на човека. С други думи - силен изкуствен интелект или крачка напред към синтентичното съзнание.

Засега няма официално потвърждение нито по отношение на естеството на Q*, нито за това дали действително този доклад, цитиран от Ройтерс, е причината за скандалите в OpenAI. Върнатият на поста си директор Сам Олтман обаче сега става ясно, че ще фокусира целия екип върху „разработката на изкуствен интелект, който да познава човешките идеали”.
Какво е „силен изкуствен интелект”

На английски терминът е Artificial General Intelligence или AGI. Това е машина, която има всички когнитивни способности на човека, може да се учи и да запазва информация, както и да предава такава и да я трансформира. Работи с данни, анализира ги и прави изводи за светът. Това е „светият граал” на индустрията, която опитва да разбере как е възможно да направи подобна машина. За пръв път в историята на човечеството, сега сме най-близко от всякога. Но какви са

Опасностите

Рискът от AGI не бива да се подценява. Както някои от най-големите разработчици на системи с изкуствен интелект написаха преди няколко месеца, нужно е при работата с тази технология да се подсигури, че крайният продкут ще харесва човечеството и ще е съгласен с неговите идеали. Филми като „Терминатор”, „Матрицата”, „Изкуствен интелект”, „Екс Макина”, дори анимации като „Wall-E”, добре показват какви може да са последиците от т.нар. „подивял ИИ”. Не е случайно, че дори сега, когато сме на ръба на историческо откритие, учените са предпазливи в разработките си. Дори повечето от „агентите” с изкуствен интелект, които и сега са пуснати за употреба, не работят с интернет или са допуснати до т.нар. „пясъчник” - ограничено поле за техните функции, което наподобява реалните условия, но е напълно откъснато от света.

Проблемът е, че машините от този тип имат способността да се самообучават. Съответно и да се самоподобряват, ако им бъде разрешено. В един хипотетичен случай, в който те бъдат „пуснати” на свобода, последиците са непредсказуеми. В рамките на часве или дни система, въоръжена с AGI може да научи всичко за човечеството чрез интернет. Може да разбере неща, които ние не разбираме, да направи неща, които ние не можем да спрем. Да стане „по-умно” от колективното съзнание на цялото човечество. Това, както пише Върнър Виндж още през 1983 г., се нарича

Синглуряност

Името идва от термина за центъра на астрономическите черни дупки. За него нямаме информация, защото след хоризонта на събитията, няма как да видим нищо, освен тъмнима. Хоризонтът на събитията при черните дупки е мястото, след което дори светлината, движеща се с приблизително 300 000 км/с във вакуум, не може да избяга заради огромното гравитационно поле, създадено от плътната маса в центъра на черната дупка - в сингуларността. Аналогията би следвало да е ясна от тук нататък.

Технологочната синглуряност е хипотетичната бъдеща точка от време, в която технологичният прогрес става неконтролируем от човечеството и в този смисъл - необратим. Няма модел, който да може с категоричност да предскаже кога ще стигнем до тази точка, но по пътя, по който сега сме тръгнали, това е неизбежно. Неизвестно е и какво ще се случи след това.

Един от възможните варианти за достигане на въпросната сингулярност е именно създаването на AGI - машина, която има капацитета на човешкия ум, но може да „разсъждава” много, много по-бързо и да съхранява и обработва много, много, много повече информация. Веднъж създадена, тя ще сложи край на досегашното общество, защото ще реши всички проблеми

Или ще го унищожи

Няма как да предложим какво ще „мисли” една такава машина за човечеството - за създателите си. Веднъж получила достъп до цялата информация, няма гаранция, че няма да реши, че ние сме чума за планетата и да открие най-лесният начин да ни изтреби напълно, за да спаси Земята. Това не е задължително да се случи чрез ядрени оръжия, както в много от фантастичните филми описват събитията от „края на света”. Има къде къде по-елегантни начини, някои от които самите ние вероятно няма да сме измислили в онзи хипотетичен момент. Макар да сме доста добри в измислянето на креатвни начини да се избиваме. Какъв обаче е до този момент

Прогресът

Към днешна дата в онлайн пространството има пуснати няколко модела на изкуствен интелект, ако може да се нарече така той, които са свободни за ползване. Писали сме за два от най-популярните - MidJourney и ChatGPT. Отделно от тях има и други „приложения”, които намират употреба за други неща извън генерирането на снимки по текст и нов текст по зададени критерии. Има например изкуствен интелект, който подобрява качеството на звук. Има такива, които променят глас. Има такива, които разпознават лица и ги свързват с хора.

Има и такива, за които нищо не подозираме. Но на този етап тези приложения, поне пуснатите за публична употреба, са далеч от опасни. Поне за цялостното съществуване на човечеството. Изглеждаме далеч от сингулярността.

Но със скоростта, с която се развива технолгоията и с финансите, които се наливат в нея в последните 2 години, това много драстично и много бързо може да се промени. Особено ако попадне в грешните ръце.

 


В категории: IT и технологии


Георги РУСЧЕВ Автор
Георги РУСЧЕВ
10
Коментара
10
Коментара по темата
10.
Хахха
25.11.2023 11:16:46
0
0
Перник хареса това
9.
Сам Алтман - Банкман
25.11.2023 09:59:58
1
1
Финансовият мехур на чат-ботовете взе да издиша. Това е и най-голямата опасност.
8.
до 4
25.11.2023 09:45:13
0
3
Бъркаш се. Човешкият мозък не забравя нищо. Само така ти се струва. Филтърът е по-скоро на входа, не се запомня ненужното.
7.
Мечти, до 4
25.11.2023 08:16:11
0
3
ИИ отсъжда "СПРАВЕДЛИВО", но как?
Отсъжда по предварително определен алгоритъм. Това е важното. ИИ няма, това е просто един алгоритъм, написан от човек. За да узнаем как работи, ще трябва да учим програмен език.
6.
Бай Пенчо
25.11.2023 08:10:47
2
5
Статиятя е много добре написана, а коментарите на повечето под нея показват че това са хора, които даже и не са пробвали какво може AI. Положението наистина е тежко и ще бъдем свидетели даже до няколко месеца на серизона заплаха.
5.
6matarok
25.11.2023 07:59:08
1
1
4udiha se s kakvo o6te da pla6at naroda , tazi godina daje fentanilovite shtati si priznaha 4e bili znaeli za izvanzemnite a tqhnite ibrek4ii mexikancite daje izkaraha nkakvi 4irosani telca na izvanzemni, cqlata taq glupost ne hvana diki6 i celiq svqt im se prismq na fentanilovite, sega izmisliha nova pla6ilka s koqto da ni strahuvat , izkustveniq intelekt e mnoooogo opasen, toest ne moga da mu natisna kop4eto OFF i do tam , ami toi bil opasen 4ak za 4ove4estvoto, vreli nekipeli kakto vinagi
4.
с.Труд
25.11.2023 00:38:35
2
10
В Китай ,САЩ,Израел в някой натоварени СЪДилища AI е изместел човешкия СЪДИЯ/СЪДИЙКА
AI отсъжда СПРАВЕДЛИВО ,НЕ взима рушвети ,НЕ се договяря с мутри,
АI НЕ си купува къщи на Бахамите,Буджака ,Халкидики
AI НЕ прави чадър на мури
AI ЗНАЕ на изуст ВСИЧКИ закони,алинеи ,закони,межд.правни уредби
В баз@та д@нни на АI им@ милиарди дела
АI НЕ пие,не пуши,не шмърка бело
AI НЕ харчи излишни милиони ня бедния дянъкоплатец нито взимя 12 и 13 заплата
AI НЕ харчи гориво и НЯМА скъп служебен автомобил
AI НЕ харчи за служебни командиравки,тоги ,обувки и тоалети
AI не е и" калинка ЙОрист" от БСУ

На същия принцип АI Chat GP може да ЗАМЕСТИ детски учители,уневерсететске преподавятели професори тунеядци ненжни плъхове академици,
Общински съветници
КМЕТОВЕ
Зам.кметове
шофьори в жп и градски транспорт
и дори ЛЕКАРИ
но НЕ и зъболекари

В Кауфланд ВЕЧЕ има е-каси БЕЗ персонал
В Латвия всичко е ЕЛЕКТРОНО дигитално
А на Запад БАНКИте вече ся почти и само банкомати БЕЗ персонал
3.
Няма
24.11.2023 22:11:55
8
10
Няма изкуствен интелект или по български - разум. Няма изкуствен разум и никога няма да има. Така нареченият ИИ може да е само база данни в която се изпълнява алгоритъм управляван от човек на определени етапи. Ако базата данни започне да изпълнява задачата да се самоубочава по определен ред от свободния интернет, пак няма да може да достигне до разум, защото не ще може да ползва мисълта дори само на един отделно взет човек. Уникалното в човешката памет е способността да забравя ненужното. А алгоритъма не може сам да прецени кое е ненужно.
2.
Жул Верн
24.11.2023 21:59:51
1
22
Преди 200 години бъдещето се е описвало в книги и е ставало реалност след 100, преди 30 години бъдещето се показваше във филмите, чиито сюжети днес са реалност, а днес нещата се развиват с такава скорост, че е наистина плашещо. Рано или късно духа ще излезе от бутилката, неизбежно е.
1.
спрях
24.11.2023 21:47:25
15
4
да чета след "е напълно възможно да придобие интелект"
Ми не, не е възможно. кво като реши неква задачка.. нищо не означава. Няма човешки интелект.
калкулаторът по умен ли е от теб? А шах програма?
 
Добавете коментар
Моля, въведете Вашето име
Моля, въведете Вашият коментар
Въведете защитния код:
Моля, въведете защитния код
 
Добавяне, моля изчакайте
България Всички новини
БсТПП помага на бизнеса в Бургас да си отгледа сам кадри чрез дуално обучение БсТПП помага на бизнеса в Бургас да си отгледа сам кадри чрез дуално обучение Като областен координатор по програма „ДОМИНО 2“ палатата предлага безплатна експертна и организационна помощ на работодателите, а срокът за заявки за учебната 2027/2028 г. изтича в края на годината OMODA и JAECOO засилват присъствието си в България с нов шоурум в Бургас OMODA и JAECOO засилват присъствието си в България с нов шоурум в Бургас Откриването на новия обект на FB Motors бележи поредния важен момент в развитието на марките в България, тъй като официалният вносител Genius Bulgaria наближава първата си годишнина на пазара 14-годишно момче почина след падане с електрическа тротинетка край Дулово 14-годишно момче почина след падане с електрическа тротинетка край Дулово Детето е получило тежка черепно-мозъчна травма и е било в медикаментозна кома, второто момче на тротинетката се е разминало с леки наранявания СДВР задържа заподозрените за сексуално посегателство над непълнолетно момиче в София СДВР задържа заподозрените за сексуално посегателство над непълнолетно момиче в София Полицията установи самоличността на всички участници във видеозаписите, на пострадалото дете е осигурена психологическа подкрепа Колко струва смяната на зимни гуми в Бургас? Тръгваш с 35 евро, на касата сметката стига 80 Колко струва смяната на зимни гуми в Бургас? Тръгваш с 35 евро, на касата сметката стига 80 Проверка на тарифите в големите вериги сервизи показва откъде идват допълнителните разходи за баланс, тежести, вентили и съхранение Хотел „България“ отбеляза 50-годишния си юбилей с препълнена зала, редки реликви и уникална 18-етажна торта Хотел „България“ отбеляза 50-годишния си юбилей с препълнена зала, редки реликви и уникална 18-етажна торта Символът на Бургас и безспорен еталон за хотелиерство по Южното Черноморие, отбеляза своята половинвековна история Огнен ад посред нощ в София! Коли пламнаха след хвърляне на пиратки Огнен ад посред нощ в София! Коли пламнаха след хвърляне на пиратки Два автомобила са със сериозни щети във „Връбница 2“, а полицията събудила собствениците на съседните коли, за да ги преместят Фенове ще могат да се срещнат с Дакота Дичева по време на седмицата на MAX FIGHT - входът е свободен! Фенове ще могат да се срещнат с Дакота Дичева по време на седмицата на MAX FIGHT - входът е свободен! Броени дни остават до едно от най-очакваните спортни събития в България Кой влиза в новия ВСС? ПП и ДБ си осигуряват 4 места, Радев взема 7 Кой влиза в новия ВСС? ПП и ДБ си осигуряват 4 места, Радев взема 7 Веселин Вучков, Андрей Янкулов, Емил Дечев и Таня Радуловска са сред сочените за бъдещи членове на съдебния съвет Кметът Николай Димитров връчи на журналиста Максим Момчилов плакет „Почетен гражданин на Несебър“ Кметът Николай Димитров връчи на журналиста Максим Момчилов плакет „Почетен гражданин на Несебър“ Отличието е признание за неговата дългогодишна работа в областта на журналистиката и публицистиката, за гражданската му позиция и последователността, с която защитава принципите на свободното слово
Турция оскъпи Босфора пет пъти, България губи милиони Турция оскъпи Босфора пет пъти, България губи милиони Повишените такси за преминаване през Босфора и Дарданелите оскъпяват корабоплаването, затрудняват българското корабостроене и се отразяват върху цените на вносните стоки Поколението Z на бунт: Младежи от над 25 държави излязоха по улиците на Европа Поколението Z на бунт: Младежи от над 25 държави излязоха по улиците на Европа От Амстердам до Берлин и Париж ученици и студенти протестират срещу скъпия живот, военните разходи и липсата на перспектива. Организаторите очакват демонстрации в около 400 града Руски ракети разтърсиха Украйна, Полша вдигна изтребители Руски ракети разтърсиха Украйна, Полша вдигна изтребители Стотици ракети и дронове атакуваха украински градове, има загинали, разрушения и сериозни проблеми с електрозахранването и транспорта Тръмп нарече Путин „приятел“ и разгневи Европа: Ново напрежение заради Украйна Тръмп нарече Путин „приятел“ и разгневи Европа: Ново напрежение заради Украйна Докато Вашингтон и Москва демонстрират сближаване в Китай, 40 държави се обединиха в Берлин около продължаването на военната помощ за Киев Анализатори охладиха еуфорията след срещата на Тръмп, Путин и Си Анализатори охладиха еуфорията след срещата на Тръмп, Путин и Си Георги Харизанов посочи, че зад дипломатическите жестове стоят икономически и технологични интереси. Зеленски поиска американски войски в Украйна: Ще се съгласи ли Тръмп? Зеленски поиска американски войски в Украйна: Ще се съгласи ли Тръмп? Вашингтон обсъжда гаранции за сигурност по подобие на член 5 от НАТО, но Киев настоява за реално военно присъствие и ясен отговор при нова руска атака. След срещата в Берлин ключовите въпроси остават открити Брекзит на заден ход? ЕС и Великобритания договарят нови правила Брекзит на заден ход? ЕС и Великобритания договарят нови правила На среща в Брюксел ще се обсъдят облекчения за търговията с храни, младежката мобилност и въглеродните емисии Гърция раздава по 400 евро на пенсионерите преди Коледа, без значение колко е пенсията им Гърция раздава по 400 евро на пенсионерите преди Коледа, без значение колко е пенсията им Около 2,2 млн. души ще получат годишната помощ до 30 ноември, доходите и имуществото вече не са условие за отпускането ѝ Си Дзинпин към Тръмп и Путин: Да забраним ядрените оръжия! Си Дзинпин към Тръмп и Путин: Да забраним ядрените оръжия! Срещата започна без ръкостискания, но дали ще завърши с нова подялба на сферите на влияние, като онази между Чърчил и Сталин в Москва през 1944 г.? И дали тези, които не са на масата за преговори, няма да се окажат в менюто? Тръмп поиска помощ от Си Дзинпин за край на войната в Украйна Тръмп поиска помощ от Си Дзинпин за край на войната в Украйна Кремъл потвърди, че темата е била основна и при срещата с Путин, а Европа се тревожи от преговори без нейно участие
Тошко Йорданов, депутат от ИТН Тошко Йорданов, депутат от ИТН Когато някой си мисли, че държавата се управлява с лозунги и сметки на салфетка, накрая винаги се сърди на правилника. Ние не сме тук, за да им ръкопляскаме Виц на деня Виц на деня Собственик на куче дог се оплаква на ветеринаря:
- Кучето ми постоянно гони автомобилите.
- Всяко куче прави това.
- Да, но моето ги хваща и после ги заравя в градината...
Виц на деня Виц на деня В автобуса жена към мъж:
- Здравейте!
- ???
- Не ме ли познахте?
- Ами не.
Тя се обръща с гръб към него и се навежда.
- А така?
Мъжът се усмихва.
- Ахааа... съседката по вила...
Статус във фейсбук Статус във фейсбук Зимата пак ни изненада, ама този път по прогноза - гумаджиите вече гледат на шофьорите като на златни кокошки.
Автори Флагмани
Маркетинг Екип
Анна Добрева-Бакалова
Специалист Маркетинг и реклама, Copywriter
Затвори