Най-добре изкуственият интелект да унищожи човечеството
Може да настъпи време, когато думи като „хуманист“ да бъдат възприемани за расистки термини, твърди Кръстникът на AI
Джефри Хинтън е един от пионерите на изкуствения интелект. През 2012 година той постига значителен пробив в развитието на невронните мрежи и печели престижна позиция в Google, където работи близо десетилетие. През това време той е награждаван многократно и се сдобива с прякора "кръстника на AI".
Макар да е предупреждавал за рисковете от технологията, някои от позициите му са меко казано странни.
По време на онлайн лекция, Джефри Хинтън беше попитан дали би бил за суперинтелигентен изкуствен интелект, който да унищожи човечеството и да го замени с "нещо обективно по-добро по отношение на съзнанието", предава lupa.bg.
"Всъщност съм за това", отговори ученият по машинно обучение, "но мисля, че би било по-разумно за мен да кажа, че съм против това."
Тези думи идват от устата на учения, който напусна Google поради опасения, че AI ще се ползва за лоши цели. Той дори заяви, че съжалява за ролята си в разработването на мощните невронни мрежи, които днес са в основата на всичко от ChatGPT до Stable Diffusion.
Това прави изказването още по-любопитно. Когато модераторът на лекцията и техническият историк от Масачузетския технологичен институт Дебора Фицджералд помоли ученият "каже повече", нещата станаха по-сложни.
"Е, на хората няма да им е приятно да бъдат заменени", каза Хинтън през смях. След това той допълни, че хората имат и лоши аспекти, а освен това "не е ясно, че ние сме най-добрата форма на интелигентност, която съществува".
"Очевидно, от гледна точка на човек, всичко е свързано с хората", продължи Хинтън. "Но може да настъпи време, когато думи като "хуманист" да бъдат възприемани за расистки термини".
След дълга пауза модераторът от MIT отговори с "добре", преди да премине към следващия въпрос.
Този отговор е още по-смущаващ, като се има предвид, че точно преди да подаде оставка от Google, Хинтън каза пред CBS News, че "не е немислимо" изкуственият общ интелект на човешко ниво (AGI) да унищожи човечеството, каквото го познаваме".
Тук е времето да си припомним, че бившият главен учен на OpenAI, Иля Суцкевер, е един от най-добрите ученици на Хинтън. Двамата дори са участвали в общи изследвания.
Суцкевер наскоро стартира своя компания за AI, но отвъд това бе известен с "боготворенето на AGI". Една от любимите му фрази е "почувствайте AGI", като организирал техно-религиозни церемонии.
Още от миналия век съществува идея, че хората, които боготворят очаквания свръхмощен изкуствен интелект и не се противопоставят на създаването му биха си спечелили неговата благосклонност.
ДДС и ваучери могат да смекчат ценовия шок
При 87,23% обработени бюлетини: ПБ на Радев категоричен победител, "Възраждане" влиза на косъм в парламента
Как гласуваха българите в Турция
150 години от Априлското въстание отбелязваме със събития и инициативи в цялата страна
52-годишен баща от Бургас хвърли 200 евро върху капака на патрулка, пренощува в районното
При 78,24% обработени протоколи: ПБ на Радев върви към мнозинство! Хората отхвърлиха високомерието, каза той
Седмицата след изборите започва с люто време, в ход е предупреждение за градушка
При близо 70 процента обработени бюлетини: "Прогресивна България" запазва преднината си, драма с партията на Костадинов
При 60 процента обработени протоколи: ПБ води убедително, ГЕРБ трети, Възраждане и ДПС малко над чертата
80 % в Бургаско: Румен Радев продължава да е убедителен лидер, резултатът на ПП-ДБ започва да пада
Половината гласове в Бургаско са преброени: "Прогресивна България" с 48 %, праща 8 депутати от региона в НС
Дневен хороскоп за 20 април 2026 г.: Телецът сбъдва мечтите си, но да внимава с емоциите
