Един от "кръстниците" на ИИ с нови предупреждения

Джефри Хинтън - един от така наречените "кръстници" на изкуствения интелект (ИИ), призова правителствата да се намесят и да гарантират, че машините няма да поемат контрола над обществото.

Хинтън влезе в заглавията на вестниците през май, когато обяви, че напуска след десетгодишна работа в Google, за да говори по-свободно за опасностите от изкуствения интелект, малко след като пускането на ChatGPT завладя въображението на света, предава dnes.bg.

Високоуважаваният учен в областта на изкуствения интелект, който работи в университета в Торонто, говори пред препълнена зала на технологичната конференция Collision в канадския град.

На конференцията се събраха над 30 000 основатели на стартъпи, инвеститори и служители в технологичния сектор, повечето от които искаха да научат как да яхнат вълната на изкуствения интелект, а не да чуят урок за опасностите от него или призив за намеса на правителството, коментира сайтът Science Alert.

"Преди изкуственият интелект да стане по-интелигентен от нас, мисля, че хората, които го разработват, трябва да бъдат насърчавани да положат повече усилия, за да разберат как той може да се опита да отнеме контрола", казва Хинтън.

"В момента тук има 99 много умни хора, които се опитват да направят ИИ по-добър, и един много умен човек, който се опитва да разбере как да го спре да поеме контрола над нас. Може би искате да бъдете по-балансирани", каза той.

Хинтън предупреди, че рисковете, свързани с ИИ, трябва да се приемат сериозно.

"Мисля, че е важно хората да разберат, че това не е научна фантастика, не е просто всяване на страх", настоя той. "Това е реален риск, за който трябва да мислим и да измислим предварително как да се справим с него."

Хинтън изрази загриженост и затова, че изкуственият интелект ще задълбочи неравенството, тъй като огромният ръст на производителността от внедряването му ще бъде в полза на богатите, а не на работниците.

"Богатството няма да отиде при хората, които вършат работа, а ще направи богатите по-богати, а не по-бедни - а такова общество е много лошо ", добави той.

Ученият посочи също опасността от "фалшиви новини", създавани от ботове от типа на ChatGPT, и изрази надежда, че съдържанието, генерирано от изкуствен интелект, ще може да бъде маркирано по подобен начин, по който централните банки маркират парите в брой.

"Много е важно да се опитаме, например, да маркираме всичко, което е фалшиво, като фалшиво. Не знам дали можем да направим това технически", каза той.