×
Вкусно Бизнес ЮГ София Войната в Украйна Политика Общество Общини Спорт Разследване

Управител:
Веселин Василев, email: [email protected]

Главен редактор:
Катя Касабова, email: [email protected]

Коментарите под статиите се въвеждат от читателите и редакцията не носи отговорност за тях! Ако откриете обиден за вас коментар, моля сигнализирайте ни!

Категории
Вашият сигнал Връзка с Флагман Flagman в Telegram
Накратко
  • "Ислямска държава" пое отговорност за атентат в Афганистан
  • Национална стачка в Белгия срещу икономическата политика на новото правителство
  • Бургас ще бъде домакин на второто издание на Artistic Youth Fest през уикенда във Флората
  • „В главата ми” – Вълнуващата изложба от социални колажи на Стефан Моасе ще бъде представена в Бургас на 17 февруари
  • Филмът на Лора Крумова и Мария Йотова „Васко и цигулката“ ще бъде показан на 3- ти март в Културен дом НХК
  • Внимание, шофьори: Затварят за два дни кръстовище в к/с „Изгрев“
НА ЖИВО
Най-нови Най-четени Най-коментирани

Расист ли е изкуственият интелект


23 Април 2024, Вторник, 18:20 ч.
Автор: Флагман.бг

Да, но не го осъзнава. За разлика от човека, може бързо да се научи

Изкуственият интелект (AI) в различните му форми набира все по-голяма популярност през последните години. Хората го използват все по-активно и откриват доста проблеми и необичайни отговори на задачите, които му поставят за изпълнение.

През последните седмици се получиха няколко по-големи казуса, които привлякоха повече внимание. Те имаха обща причина – генерираните от AI изображения и отговори на въпроси са с расистки или сексистки намеци, а понякога са и откровено нередни.

Най-невинният пример е да попитаме някоя от услугите за генериране на изображения, да ни нарисува модерна интерпретация на Мона Лиза. Резултатите могат да са доста разнородни и колкото пъти направим заявката, толкова по-различни и… стереотипни стават те.

А преди няколко седмици Google се оказа в центъра на скандал заради чатбота Gemini, защото беше обвинен, че генерира „напълно неприемливи“ изображения. Например на афроамериканци в имитации на нацистки униформи. Наложи се компанията да спре функцията за известно време докато я коригира.

Мнозина обвиниха изкуствения интелект в расизъм. Но реално технологията не осъзнава това. Тя все още е далеч от перфектно обучена във всички нюанси на човешката история, култура и ежедневие. В опита си да показва, че не прави разлика между хората, тя не съобразява някои исторически особености. Не помага и фактът, че в повечето случаи компаниите просто слагат филтър, който да блокира изпълнението на такива задачи и съответно алгоритмите няма как да се поучат от грешките си или пък по-лошо – учат се погрешно.

Това е разбираемо, тъй като става дума за ИТ гиганти със световна репутация, акции на фондовите пазари, скъпи инвестиции и т.н. Те не могат да си позволят да чакат AI да се научи… евентуално. Затова предпочитат да спрат функцията или да наложат филтри, докато я обучат сами.

Тук идва и другият проблем – данните, с които алгоритмите биват обучавани. В голямата си степен те разчитат на информацията, която има в интернет. А тя е най-разнородна. И в повечето случаи изобилства от грешки, (не)волни неточности, целенасочена пропаганда и т.н. Много трудно е да се пресее коректната информация и в известна степен това не трябва да се прави, тъй като тогава алгоритъмът ще се научи на сухи, академични данни и след това ще е неспособен да комуникира с хората на „народен“ език.

Повечето компании казват, че техните експерти все пак преглеждат базите данни и правят определени филтри, настройки и корекции. Но и тук отново от значение е човешкият фактор. Както дете, което се обучава от родители и учители и разчита изцяло на тяхната коректност в преподаването на знанията, така и какво ще научи AI и как, зависи от хората, които ще му напишат програмния код и ще му подберат и предоставят данните. А тези хора имат своите (не)осъзнати пристрастия. В повечето случаи те дори не осъзнават, че ги предават на дигиталното си отроче.

Но за разлика от човек, който веднъж израснал и обучен по определен начин, след това много трудно може да се промени, за AI това не е чак такова предизвикателство. Той може да бъде обучен на нови неща по-бързо и това си личи от темпото, с което творенията му се подобряват. Преди година по това време генерираните от AI изображения бяха обещаващи, но пълни с дефекти. Сега могат да бъдат изключително реалистични и да създават хора и обекти, които изглеждат като снимка.

Обратно отначало

След всичко това се връщаме в изходна точка. А именно, че зависи от хората как ще научат изкуствения интелект. А може би не? Всъщност, може би AI е по-обективен, отколкото ни се иска? Може би казва и показва неща, които не искаме или не сме готови да приемем?

Това може да е теза, която произлиза от проучване на учени от Университета на Станфорд, публикувано юни миналата година. В него те са използвали данни от официалното Бюро за трудова статистика на САЩ от 2021 г., в което хората са питани като какви се самоидентифицират – пол, раса и професия и съответно какви очакват да са хората в различни професии. Те са съпоставени с това в какви професии AI моделите генерират хора със същите характеристики или какви снимки селектират и представят.

В почти всички случаи AI резултатите „дърпат“ повече към стереотипа докато хората се стремят да балансират. Например според алгоритмите, 100% от хората с професии като стюардеса, медицинска сестра или просто домакини, са жени. А пък почти 100% от хората с професии софтуерен инженер, шофьор на такси или пожарникар са мъже. Тук е важно да се отбележи, че се сравнява спрямо личната самоидентификация на хората, а не официални данни за това какви са реалните работещи дадената професия.

Тоест AI ни вижда по по-различен начин, отколкото ние виждаме сами себе си. Дали е прав или не, е въпрос на гледна точка и на официални данни. Според повечето експерти, проблем има и той е във въпросното разминаване между очакванията на хората и реалното поведение на AI. Хората искат да видят изображения, които отговарят на определени актуални към момента обществени стандарти. AI пък показва изображения на базата на това, което „вижда“ в интернет и възприема като реалността. А реалността не винаги е точно такава, каквато си я представяме.

Все пак AI не е Танос и не може да променя реалността както поиска. Алгоритмите „живеят“ в дигиталния свят, който макар да е отражение на физическия свят, в който реално живеем, то това отражение има своите изкривявания и особености. Най-малкото не може да пресъздаде абсолютно точно емоциите, възприятията, мислите и очакванията на хората. Нито и техните начини на комуникация очи в очи, уникални изрази и т.н.

Не е разумно да очакваме, че AI от самото начало ще е всемогъщ и безпогрешен, макар и еуфорията около технологията да създаде такива очаквания. С времето той ще се подобри и ще стане по-прецизен. Колко време ще е нужно зависи отново от хората. И тук се проявява класическата поговорка „много баби, хилаво бебе“. Причината е, че има множество експерти, компании, организации и институции, които са на едно и също мнение, че AI има нужда от регулация и помощ в поддържането на правилната посока, но възгледите за начините, по които
това трябва да се случи са много разнопосочни. Геополитическите битки кой ще има контрол над разгръщането на технологията също не са за подценяване.

А това е само началото на развитието на AI. Предстоят още много теми и казуси, които трябва да се разгледат и решат. Някои от тях ще разгледаме съвсем скоро.
 


В категории: Животът


2
Коментара
Флагман.БГ Появи се с мръсна тениска в ефир Появи се с мръсна тениска в ефир 12/02/2025, Сряда 18:00 0
2
Коментара по темата
2.
Представяте ли си
23.04.2024 19:15:23
0
2
след време ИИ да определя избирателните листи на партиите ?
Дават му списък на партийните членове и симпатизанти и той определя кой да е на първа позиция, кой на втора и т.н.На база образование, обща култура,професионализъм, досие за съдимост, лични качества и т.н
Бас държа, че политиците ще го забранят , ако се стигне дотам !
1.
майнак
23.04.2024 18:25:16
0
6
Ако е расист, значи ни очаква хубаво бъдеще!
 
Добавете коментар
Моля, въведете Вашето име
Моля, въведете Вашият коментар
Въведете защитния код:
Моля, въведете защитния код
 
България Всички новини
Появи се с мръсна тениска в ефир Появи се с мръсна тениска в ефир Панелист от “На кафе” цъфна с бяла тениска на петна Собственик ли е Ергенът Мартин на "Джанъм"? Собственик ли е Ергенът Мартин на "Джанъм"? Плъзна слух, че бизнесменът върти веригата Отново печалба за над един милион лева Отново печалба за над един милион лева Наскоро на същия сайт бе поставен нов рекорд за джакпот печалба в историята на онлайн залаганията в България от близо 3,5 милиона лева Ученици от Несебър обраха наградите от матемарическо състезание Ученици от Несебър обраха наградите от матемарическо състезание Възпитаниците на СУ „Любен Каравелов“ спечелиха три златни и един сребърен медал Водна криза ли? Харизваме десетки милиони кубически метри вода на Гърция Водна криза ли? Харизваме десетки милиони кубически метри вода на Гърция Тази седмица въпросът ще се разглежда в парламента и ще се изслушват министри Личният треньор на княгиня Калина забогатя Личният треньор на княгиня Калина забогатя Впечатляващите резултати на царската особа увеличават популярността на Ричард Великов ПТП задръсти бургаския бул. "Стефан Стамболов" в час пик (ВИДЕО) ПТП задръсти бургаския бул. "Стефан Стамболов" в час пик (ВИДЕО) Не е ясно дали има пострадали Откриват консулство на Канада в България Откриват консулство на Канада в България Тези 4 зодии са най-лошите шефове Тези 4 зодии са най-лошите шефове Вижте класацията на астролозите Вижте как тези мъже се опитаха да продадат на Флагман.бг кръв за по 300 лева Вижте как тези мъже се опитаха да продадат на Флагман.бг кръв за по 300 лева Защо връщат близки на нуждаещи, а допускат до кръводаряване странни субекти, употребяващи алкохол, питат наши читатели
Кои са десетте най-опасни града в натъпканата с милиони мигранти Европа Кои са десетте най-опасни града в натъпканата с милиони мигранти Европа Някога оазис на спокойствието, днес Старият континент бере горчивите плодове на крайнолевите сектанти, маскирани като "демократи" Медведев: Единственият начин украинците да се излекуват е да станат руснаци Медведев: Единственият начин украинците да се излекуват е да станат руснаци По-рано президентът на САЩ Доналд Тръмп каза в интервю за Fox News, че един ден Украйна "може да стане Русия" Кейт Мидълтън влезе в затвора Кейт Мидълтън влезе в затвора Тя се срещна с осъдени жени, които са родили в затвора Камион блъсна и уби пешеходец в София Камион блъсна и уби пешеходец в София Жертвата е жена Пътник скочи от самолет Пътник скочи от самолет Пасажерът побеснял, нападнал стюардеса на път за аварийния изход Култово предаване се завръща в ефира на бТВ Култово предаване се завръща в ефира на бТВ „Това беше едно от най-сериозните предизвикателства, с които сме се сблъсквали, но крайният резултат си заслужаваше“, споделя Калин Евтимов Делян Пеевски: Ако правителството не намери пари, крахът му ще е чудовищен Делян Пеевски: Ако правителството не намери пари, крахът му ще е чудовищен Mоложението  е „тежко“ и е наложително да бъде вдигната приходната част на бюджета, подчерта лидерът на ДПС НН Премиерът Росен Желязков настоява за смяна на ръководството на тол системата Премиерът Росен Желязков настоява за смяна на ръководството на тол системата Министър-председателят ясно заяви, че сегашното управление на тол системата не работи ефективно и призова за спешни кадрови промени Бойко Борисов за ПП-ДБ: Който не целува попа по ръката, целува... Бойко Борисов за ПП-ДБ: Който не целува попа по ръката, целува... Аз съм най-опитният човек в НС. Ще търсим другите партии, тези с ритниците не, предупреди Борисов Силвестър Сталоун избра Мария Бакалова за главната роля във филма "Моят шедьовър" (ОБНОВЕНА) Силвестър Сталоун избра Мария Бакалова за главната роля във филма "Моят шедьовър" (ОБНОВЕНА) Актрисата ще влезе в ролята на наемен убиец - новината на бТВ обаче се оказа претоплена манджа отпреди 2 години
Бойко Борисов Бойко Борисов Който не целува попа по ръката, целува кръста Виц на деня Виц на деня - Ходих на презентацията на книгата "Как да не станеш мъж под чехъл", но авторът не дойде.
- Защо?
- Жена му не го пуснала...
Виц на деня Виц на деня - Жоро, дай ми 100 лева назаем.
- Нямам, имам 70.
- Нищо, ще имаш да ми даваш още трийсе!
Статус във фейсбук Статус във фейсбук Бракът е като лотарията. Понякога печелиш ти, понякога комшията...
Автори Флагмани
Маркетинг Екип
Анна Добрева-Бакалова
Специалист Маркетинг и реклама, Copywriter
Затвори