×
Президентски избори 2026 Европейска столица на културата Евровизия 2027 Промо зона Практично Култура Здраве Политика Общини Общество Лайфстайл Войната в Украйна Спорт Разследване Бизнес ЮГ

Управители:
Веселин Василев, email: [email protected]
Катя Касабова, еmail: [email protected]


Главен редактор:
Иван Колев, email: [email protected]

Коментарите под статиите се въвеждат от читателите и редакцията не носи отговорност за тях! Ако откриете обиден за вас коментар, моля сигнализирайте ни!

Категории
Вашият сигнал Връзка с Флагман Flagman в Telegram
НА ЖИВО
Най-нови Най-четени Най-коментирани

Расист ли е изкуственият интелект


23 Април 2024, Вторник, 18:20 ч.
Автор: Флагман.бг

Да, но не го осъзнава. За разлика от човека, може бързо да се научи

Изкуственият интелект (AI) в различните му форми набира все по-голяма популярност през последните години. Хората го използват все по-активно и откриват доста проблеми и необичайни отговори на задачите, които му поставят за изпълнение.

През последните седмици се получиха няколко по-големи казуса, които привлякоха повече внимание. Те имаха обща причина – генерираните от AI изображения и отговори на въпроси са с расистки или сексистки намеци, а понякога са и откровено нередни.

Най-невинният пример е да попитаме някоя от услугите за генериране на изображения, да ни нарисува модерна интерпретация на Мона Лиза. Резултатите могат да са доста разнородни и колкото пъти направим заявката, толкова по-различни и… стереотипни стават те.

А преди няколко седмици Google се оказа в центъра на скандал заради чатбота Gemini, защото беше обвинен, че генерира „напълно неприемливи“ изображения. Например на афроамериканци в имитации на нацистки униформи. Наложи се компанията да спре функцията за известно време докато я коригира.

Мнозина обвиниха изкуствения интелект в расизъм. Но реално технологията не осъзнава това. Тя все още е далеч от перфектно обучена във всички нюанси на човешката история, култура и ежедневие. В опита си да показва, че не прави разлика между хората, тя не съобразява някои исторически особености. Не помага и фактът, че в повечето случаи компаниите просто слагат филтър, който да блокира изпълнението на такива задачи и съответно алгоритмите няма как да се поучат от грешките си или пък по-лошо – учат се погрешно.

Това е разбираемо, тъй като става дума за ИТ гиганти със световна репутация, акции на фондовите пазари, скъпи инвестиции и т.н. Те не могат да си позволят да чакат AI да се научи… евентуално. Затова предпочитат да спрат функцията или да наложат филтри, докато я обучат сами.

Тук идва и другият проблем – данните, с които алгоритмите биват обучавани. В голямата си степен те разчитат на информацията, която има в интернет. А тя е най-разнородна. И в повечето случаи изобилства от грешки, (не)волни неточности, целенасочена пропаганда и т.н. Много трудно е да се пресее коректната информация и в известна степен това не трябва да се прави, тъй като тогава алгоритъмът ще се научи на сухи, академични данни и след това ще е неспособен да комуникира с хората на „народен“ език.

Повечето компании казват, че техните експерти все пак преглеждат базите данни и правят определени филтри, настройки и корекции. Но и тук отново от значение е човешкият фактор. Както дете, което се обучава от родители и учители и разчита изцяло на тяхната коректност в преподаването на знанията, така и какво ще научи AI и как, зависи от хората, които ще му напишат програмния код и ще му подберат и предоставят данните. А тези хора имат своите (не)осъзнати пристрастия. В повечето случаи те дори не осъзнават, че ги предават на дигиталното си отроче.

Но за разлика от човек, който веднъж израснал и обучен по определен начин, след това много трудно може да се промени, за AI това не е чак такова предизвикателство. Той може да бъде обучен на нови неща по-бързо и това си личи от темпото, с което творенията му се подобряват. Преди година по това време генерираните от AI изображения бяха обещаващи, но пълни с дефекти. Сега могат да бъдат изключително реалистични и да създават хора и обекти, които изглеждат като снимка.

Обратно отначало

След всичко това се връщаме в изходна точка. А именно, че зависи от хората как ще научат изкуствения интелект. А може би не? Всъщност, може би AI е по-обективен, отколкото ни се иска? Може би казва и показва неща, които не искаме или не сме готови да приемем?

Това може да е теза, която произлиза от проучване на учени от Университета на Станфорд, публикувано юни миналата година. В него те са използвали данни от официалното Бюро за трудова статистика на САЩ от 2021 г., в което хората са питани като какви се самоидентифицират – пол, раса и професия и съответно какви очакват да са хората в различни професии. Те са съпоставени с това в какви професии AI моделите генерират хора със същите характеристики или какви снимки селектират и представят.

В почти всички случаи AI резултатите „дърпат“ повече към стереотипа докато хората се стремят да балансират. Например според алгоритмите, 100% от хората с професии като стюардеса, медицинска сестра или просто домакини, са жени. А пък почти 100% от хората с професии софтуерен инженер, шофьор на такси или пожарникар са мъже. Тук е важно да се отбележи, че се сравнява спрямо личната самоидентификация на хората, а не официални данни за това какви са реалните работещи дадената професия.

Тоест AI ни вижда по по-различен начин, отколкото ние виждаме сами себе си. Дали е прав или не, е въпрос на гледна точка и на официални данни. Според повечето експерти, проблем има и той е във въпросното разминаване между очакванията на хората и реалното поведение на AI. Хората искат да видят изображения, които отговарят на определени актуални към момента обществени стандарти. AI пък показва изображения на базата на това, което „вижда“ в интернет и възприема като реалността. А реалността не винаги е точно такава, каквато си я представяме.

Все пак AI не е Танос и не може да променя реалността както поиска. Алгоритмите „живеят“ в дигиталния свят, който макар да е отражение на физическия свят, в който реално живеем, то това отражение има своите изкривявания и особености. Най-малкото не може да пресъздаде абсолютно точно емоциите, възприятията, мислите и очакванията на хората. Нито и техните начини на комуникация очи в очи, уникални изрази и т.н.

Не е разумно да очакваме, че AI от самото начало ще е всемогъщ и безпогрешен, макар и еуфорията около технологията да създаде такива очаквания. С времето той ще се подобри и ще стане по-прецизен. Колко време ще е нужно зависи отново от хората. И тук се проявява класическата поговорка „много баби, хилаво бебе“. Причината е, че има множество експерти, компании, организации и институции, които са на едно и също мнение, че AI има нужда от регулация и помощ в поддържането на правилната посока, но възгледите за начините, по които
това трябва да се случи са много разнопосочни. Геополитическите битки кой ще има контрол над разгръщането на технологията също не са за подценяване.

А това е само началото на развитието на AI. Предстоят още много теми и казуси, които трябва да се разгледат и решат. Някои от тях ще разгледаме съвсем скоро.
 


В категории: Животът


2
Коментара
Михаил ДИМИТРОВ Тенис легендата Джими Конърс има рак Тенис легендата Джими Конърс има рак 16/11/2026, Понеделник 15:00 0
Димитър КИРЯКОВ Почина Шефа на шефовете Почина Шефа на шефовете 16/11/2026, Понеделник 14:31 0
2
Коментара по темата
2.
Представяте ли си
23.04.2024 19:15:23
0
2
след време ИИ да определя избирателните листи на партиите ?
Дават му списък на партийните членове и симпатизанти и той определя кой да е на първа позиция, кой на втора и т.н.На база образование, обща култура,професионализъм, досие за съдимост, лични качества и т.н
Бас държа, че политиците ще го забранят , ако се стигне дотам !
1.
майнак
23.04.2024 18:25:16
0
6
Ако е расист, значи ни очаква хубаво бъдеще!
 
Добавете коментар
Моля, въведете Вашето име
Моля, въведете Вашият коментар
Въведете защитния код:
Моля, въведете защитния код
 
Добавяне, моля изчакайте
България Всички новини
Задържаха крими героя Тодор Пъчката на бул. "Захари Стоянов", намериха дрога в Корсата му Задържаха крими героя Тодор Пъчката на бул. "Захари Стоянов", намериха дрога в Корсата му 28-годишният бургазлия е отказал да даде проби за алкохол и наркотични вещеста Българин опита да прегази проститутки в Солун! Скандал с приятелката му отприщи екшъна Българин опита да прегази проститутки в Солун! Скандал с приятелката му отприщи екшъна 44-годишният мъж насочил автомобила си към две жени, предлагащи сексуални услуги. Преди инцидента те се скарали с 26-годишната му приятелка Венелин Ташев оглави „Клуб на хотелиера Несебър“ Венелин Ташев оглави „Клуб на хотелиера Несебър“ Собственикът на „Котва“, „Парадайс Бийч“ и „Мариета Палас“ поема браншовата организация с амбицията да обедини повече хотелиери, да удължи сезона и да защитава интересите на туристическия бизнес пред общината и държавата Подарявате им мощни коли, после им купувате ковчези! За да платите родителската си безотговорност Подарявате им мощни коли, после им купувате ковчези! За да платите родителската си безотговорност Докато държавата обсъжда поредни нови мерки срещу катастрофите, касапницата по пътищата на родината продължава с пълна сила Милена отказала да се качи в колата му и той я прегазил нарочно? Страшен слух разтърси Драгоман Милена отказала да се качи в колата му и той я прегазил нарочно? Страшен слух разтърси Драгоман Появиха се твърдения за умишлен удар, а местни източници разкриват предполагаеми семейни връзки на обвиняемия с бивш ръководител на „Гранична полиция“ Кметът Димитър Николов посрещна световните шампиони по спортни танци на Бургас Кметът Димитър Николов посрещна световните шампиони по спортни танци на Бургас Кристиян Дончев и Мартина Кондаклиева спечелиха световната титла по десет танца, а Артур Власенко и Ивелина Карчева донесоха още два бронзови медала Грипът набира скорост! Болните скочиха с над 60% само за седмица, проф. Ива Христова предупреди кой щам настъпва Грипът набира скорост! Болните скочиха с над 60% само за седмица, проф. Ива Христова предупреди кой щам настъпва От 1600 на 2600 са нараснали отчетените случаи на остри респираторни заболявания Два морски дрона ударили потъващия кораб край Калиакра! Моряците заснели единия нападател Два морски дрона ударили потъващия кораб край Калиакра! Моряците заснели единия нападател Всички 12 моряци са спасени, но причината за преобръщането още не е потвърдена официално Двама непобедени влизат в люта битка в Бургас! Васил Христов срещу опасен молдовец на MAX FIGHT 67 Двама непобедени влизат в люта битка в Бургас! Васил Христов срещу опасен молдовец на MAX FIGHT 67 На 28 ноември зала „Младост“ ще посрещне сблъсъка между българския талант и Кристиан Навин Колко мандата още са нужни на бургаския депутат Борис Аладжов, за да спре да срича Колко мандата още са нужни на бургаския депутат Борис Аладжов, за да спре да срича След години в НС публичното говорене продължава да изглежда толкова трудно за него
Антични съкровища от Бургас и Созопол ще бъдат показани в прочутия музей „Метрополитън“ в Ню Йорк Антични съкровища от Бургас и Созопол ще бъдат показани в прочутия музей „Метрополитън“ в Ню Йорк Релеф на богинята Кибела и най-старата мраморна статуя в българските музеи ще участват в международна изложба, посветена на културните връзки в древния свят Българин разнасял кокаин по пощенски кодове в Англия! Телефоните му издали цялата схема Българин разнасял кокаин по пощенски кодове в Англия! Телефоните му издали цялата схема Полицията го спряла със сива „Шкода“, 430 паунда и два телефона с инструкции от мистериозния „tommy77“ Пекин потвърди историческата среща на Тръмп, Путин и Си! Тримата сядат на една маса в четвъртък Пекин потвърди историческата среща на Тръмп, Путин и Си! Тримата сядат на една маса в четвъртък Ядреното разоръжаване и войната в Иран са сред темите, които Вашингтон иска да обсъди, докато Украйна засега остава извън предварителния дневен ред 14 ранени остават в болници след ужаса на АМ „Тракия“! Един е в тежко състояние 14 ранени остават в болници след ужаса на АМ „Тракия“! Един е в тежко състояние Румънски гражданин остава в реанимацията на „Сърце и мозък“, но вече диша самостоятелно 350 000 чехи на протест в Прага 350 000 чехи на протест в Прага Не дават обществените медии под контрола на правителството Токсична пяна покри свещена река в Индия Токсична пяна покри свещена река в Индия  Хиляди вярващи газят в замърсените води Украйна пред зимен кошмар: Ремонтират разрушени електроцентрали под руски обстрел Украйна пред зимен кошмар: Ремонтират разрушени електроцентрали под руски обстрел Работници разчистват затрупани турбини с лопати и колички, а при всяка въздушна тревога слизат в убежищата DARA е на крачка от „Грами“! Bangaranga се бори за номинации DARA е на крачка от „Грами“! Bangaranga се бори за номинации Звездата и хитът ѝ от „Евровизия“ участват в предварителната селекция в четири категории, сред които „Песен на годината“ и „Най-добър нов изпълнител“ Хаос по летищата в САЩ: Над 11 000 полета отменени или забавени Хаос по летищата в САЩ: Над 11 000 полета отменени или забавени Хиляди пътници продължават да чакат нови билети и маршрути Западната цивилизация се разпада отвътре заради омраза към себе си и загуба на самоувереност Западната цивилизация се разпада отвътре заради омраза към себе си и загуба на самоувереност Ако идеите, върху които е изградена, рухнат, нещата могат много бързо да станат изключително лоши, предупреждава Дъг Кейси
Румен РАДЕВ, премиер Румен РАДЕВ, премиер Извинявам се на майките на децата с увреждания. Слагаме край на оправданията с предишните! Виц на деня Виц на деня Полицай спира блондинка:
- Не видяхте ли ограничението 40 км в час?
- Видях го, но помислих, че е за елените от предишния знак...
Виц на деня Виц на деня Мъж и жена излизат от църквата. Жената:
- Скъпи, забелязах, че остави в касата за дарения 50 евро?
- Е, и?
- Интересно ми е за какъв ли грях даде тези пари?
Статус във фейсбук Статус във фейсбук Всяко потисничество довежда до състояние на война
Автори Флагмани
Маркетинг Екип
Анна Добрева-Бакалова
Специалист Маркетинг и реклама, Copywriter
Затвори