×
Президентски избори 2026 Европейска столица на културата Евровизия 2027 Промо зона Практично Култура Здраве Политика Общини Общество Лайфстайл Войната в Украйна Спорт Разследване Бизнес ЮГ

Управители:
Веселин Василев, email: [email protected]
Катя Касабова, еmail: [email protected]


Главен редактор:
Иван Колев, email: [email protected]

Коментарите под статиите се въвеждат от читателите и редакцията не носи отговорност за тях! Ако откриете обиден за вас коментар, моля сигнализирайте ни!

Категории
Вашият сигнал Връзка с Флагман Flagman в Telegram
Накратко
НА ЖИВО
Най-нови Най-четени Най-коментирани

Расист ли е изкуственият интелект


23 Април 2024, Вторник, 18:20 ч.
Автор: Флагман.бг

Да, но не го осъзнава. За разлика от човека, може бързо да се научи

Изкуственият интелект (AI) в различните му форми набира все по-голяма популярност през последните години. Хората го използват все по-активно и откриват доста проблеми и необичайни отговори на задачите, които му поставят за изпълнение.

През последните седмици се получиха няколко по-големи казуса, които привлякоха повече внимание. Те имаха обща причина – генерираните от AI изображения и отговори на въпроси са с расистки или сексистки намеци, а понякога са и откровено нередни.

Най-невинният пример е да попитаме някоя от услугите за генериране на изображения, да ни нарисува модерна интерпретация на Мона Лиза. Резултатите могат да са доста разнородни и колкото пъти направим заявката, толкова по-различни и… стереотипни стават те.

А преди няколко седмици Google се оказа в центъра на скандал заради чатбота Gemini, защото беше обвинен, че генерира „напълно неприемливи“ изображения. Например на афроамериканци в имитации на нацистки униформи. Наложи се компанията да спре функцията за известно време докато я коригира.

Мнозина обвиниха изкуствения интелект в расизъм. Но реално технологията не осъзнава това. Тя все още е далеч от перфектно обучена във всички нюанси на човешката история, култура и ежедневие. В опита си да показва, че не прави разлика между хората, тя не съобразява някои исторически особености. Не помага и фактът, че в повечето случаи компаниите просто слагат филтър, който да блокира изпълнението на такива задачи и съответно алгоритмите няма как да се поучат от грешките си или пък по-лошо – учат се погрешно.

Това е разбираемо, тъй като става дума за ИТ гиганти със световна репутация, акции на фондовите пазари, скъпи инвестиции и т.н. Те не могат да си позволят да чакат AI да се научи… евентуално. Затова предпочитат да спрат функцията или да наложат филтри, докато я обучат сами.

Тук идва и другият проблем – данните, с които алгоритмите биват обучавани. В голямата си степен те разчитат на информацията, която има в интернет. А тя е най-разнородна. И в повечето случаи изобилства от грешки, (не)волни неточности, целенасочена пропаганда и т.н. Много трудно е да се пресее коректната информация и в известна степен това не трябва да се прави, тъй като тогава алгоритъмът ще се научи на сухи, академични данни и след това ще е неспособен да комуникира с хората на „народен“ език.

Повечето компании казват, че техните експерти все пак преглеждат базите данни и правят определени филтри, настройки и корекции. Но и тук отново от значение е човешкият фактор. Както дете, което се обучава от родители и учители и разчита изцяло на тяхната коректност в преподаването на знанията, така и какво ще научи AI и как, зависи от хората, които ще му напишат програмния код и ще му подберат и предоставят данните. А тези хора имат своите (не)осъзнати пристрастия. В повечето случаи те дори не осъзнават, че ги предават на дигиталното си отроче.

Но за разлика от човек, който веднъж израснал и обучен по определен начин, след това много трудно може да се промени, за AI това не е чак такова предизвикателство. Той може да бъде обучен на нови неща по-бързо и това си личи от темпото, с което творенията му се подобряват. Преди година по това време генерираните от AI изображения бяха обещаващи, но пълни с дефекти. Сега могат да бъдат изключително реалистични и да създават хора и обекти, които изглеждат като снимка.

Обратно отначало

След всичко това се връщаме в изходна точка. А именно, че зависи от хората как ще научат изкуствения интелект. А може би не? Всъщност, може би AI е по-обективен, отколкото ни се иска? Може би казва и показва неща, които не искаме или не сме готови да приемем?

Това може да е теза, която произлиза от проучване на учени от Университета на Станфорд, публикувано юни миналата година. В него те са използвали данни от официалното Бюро за трудова статистика на САЩ от 2021 г., в което хората са питани като какви се самоидентифицират – пол, раса и професия и съответно какви очакват да са хората в различни професии. Те са съпоставени с това в какви професии AI моделите генерират хора със същите характеристики или какви снимки селектират и представят.

В почти всички случаи AI резултатите „дърпат“ повече към стереотипа докато хората се стремят да балансират. Например според алгоритмите, 100% от хората с професии като стюардеса, медицинска сестра или просто домакини, са жени. А пък почти 100% от хората с професии софтуерен инженер, шофьор на такси или пожарникар са мъже. Тук е важно да се отбележи, че се сравнява спрямо личната самоидентификация на хората, а не официални данни за това какви са реалните работещи дадената професия.

Тоест AI ни вижда по по-различен начин, отколкото ние виждаме сами себе си. Дали е прав или не, е въпрос на гледна точка и на официални данни. Според повечето експерти, проблем има и той е във въпросното разминаване между очакванията на хората и реалното поведение на AI. Хората искат да видят изображения, които отговарят на определени актуални към момента обществени стандарти. AI пък показва изображения на базата на това, което „вижда“ в интернет и възприема като реалността. А реалността не винаги е точно такава, каквато си я представяме.

Все пак AI не е Танос и не може да променя реалността както поиска. Алгоритмите „живеят“ в дигиталния свят, който макар да е отражение на физическия свят, в който реално живеем, то това отражение има своите изкривявания и особености. Най-малкото не може да пресъздаде абсолютно точно емоциите, възприятията, мислите и очакванията на хората. Нито и техните начини на комуникация очи в очи, уникални изрази и т.н.

Не е разумно да очакваме, че AI от самото начало ще е всемогъщ и безпогрешен, макар и еуфорията около технологията да създаде такива очаквания. С времето той ще се подобри и ще стане по-прецизен. Колко време ще е нужно зависи отново от хората. И тук се проявява класическата поговорка „много баби, хилаво бебе“. Причината е, че има множество експерти, компании, организации и институции, които са на едно и също мнение, че AI има нужда от регулация и помощ в поддържането на правилната посока, но възгледите за начините, по които
това трябва да се случи са много разнопосочни. Геополитическите битки кой ще има контрол над разгръщането на технологията също не са за подценяване.

А това е само началото на развитието на AI. Предстоят още много теми и казуси, които трябва да се разгледат и решат. Някои от тях ще разгледаме съвсем скоро.
 


В категории: Животът


2
Коментара
2
Коментара по темата
2.
Представяте ли си
23.04.2024 19:15:23
0
2
след време ИИ да определя избирателните листи на партиите ?
Дават му списък на партийните членове и симпатизанти и той определя кой да е на първа позиция, кой на втора и т.н.На база образование, обща култура,професионализъм, досие за съдимост, лични качества и т.н
Бас държа, че политиците ще го забранят , ако се стигне дотам !
1.
майнак
23.04.2024 18:25:16
0
6
Ако е расист, значи ни очаква хубаво бъдеще!
 
Добавете коментар
Моля, въведете Вашето име
Моля, въведете Вашият коментар
Въведете защитния код:
Моля, въведете защитния код
 
Добавяне, моля изчакайте
България Всички новини
Нова година 2027 излиза солено! Хотелите се пълнят, кувертите поскъпнаха с до 15% Нова година 2027 излиза солено! Хотелите се пълнят, кувертите поскъпнаха с до 15% В Банско нощувките достигат 500 евро, в Сандански тридневен пакет за двама струва около 1200 евро, а в Арбанаси празничната вечеря стига 300 евро на човек Полицаи и надзиратели излизат на протест на 28 ноември: „Искаме чест и достойнство!“ Полицаи и надзиратели излизат на протест на 28 ноември: „Искаме чест и достойнство!“ Синдикатите са възмутени от отношението на държавата, а намеренията за съкращаване на 2000 работни места допълнително изострят напрежението Моста в Бургас се преобрази като в GTA 6 (ВИДЕО) Моста в Бургас се преобрази като в GTA 6 (ВИДЕО) Кметът Димитър Николов показа впечатляващ дигитален проект Оранжев и жълт код за опасно време в цяла България! Бури, градушки и рязко застудяване от понеделник Оранжев и жълт код за опасно време в цяла България! Бури, градушки и рязко застудяване от понеделник За Бургас предупреждението е за силен вятър Контрабанда за над 82 хил. евро на Лесово! Натъпкаха хладилни витрини с над 20 хил. кутии цигари Контрабанда за над 82 хил. евро на Лесово! Натъпкаха хладилни витрини с над 20 хил. кутии цигари Рентгенова проверка разкри тайниците в турски камион, пътуващ за Франция. Само за три дни митничарите задържаха над 1 млн. къса цигари при два отделни случая Сложете листенце мента в портфейла! Старо поверие обещава пари и късмет Сложете листенце мента в портфейла! Старо поверие обещава пари и късмет Според народните вярвания ароматното растение привлича благополучие и финансов успех Екшън в центъра на София! Беглец с крадена кола мина на червено и катастрофира с патрулка (СНИМКИ) Екшън в центъра на София! Беглец с крадена кола мина на червено и катастрофира с патрулка (СНИМКИ) Автомобилът бил откраднат от село Петърч и засечен от камерите в столицата. Полевият тест на водача отчел метамфетамин Защо опитните готвачи слагат лед в горещия бульон? Трикът, който малцина знаят Защо опитните готвачи слагат лед в горещия бульон? Трикът, който малцина знаят Няколко кубчета лед помагат за премахването на излишната мазнина, но тайната на бистрия и ароматен бульон се крие и в начина на варене Бургазлии се възползваха от последния топъл ден за годината край морето (ВИДЕО) Бургазлии се възползваха от последния топъл ден за годината край морето (ВИДЕО) Температури до близо 20 градуса напълниха крайбрежните заведения и Морската градина Първите 5 минути при инфаркт спасяват живот! Ето какво трябва да направите, докато чакате линейка Първите 5 минути при инфаркт спасяват живот! Ето какво трябва да направите, докато чакате линейка Сърдечният удар невинаги започва със силна болка в гърдите
Училищна касапница на косъм в Гърция! 14-годишен планирал да застреля свои връстници заради тормоз Училищна касапница на косъм в Гърция! 14-годишен планирал да застреля свои връстници заради тормоз Чужда служба засекла заплахи в Telegram и предупредила гръцките власти. Тийнейджърът проучвал нападения в училища, търсел оръжие и вече бил купил 35-сантиметров нож Руски дронове удариха жилищен блок край Киев! Срутени са пет етажа, издирват хора под развалините Руски дронове удариха жилищен блок край Киев! Срутени са пет етажа, издирват хора под развалините Спасителите изведоха девет души, сред които дете, а седем души може да са останали затрупани Българин в мащабна схема за фалшиви паспорти в Гърция! Печалбите надхвърлят 500 000 евро Българин в мащабна схема за фалшиви паспорти в Гърция! Печалбите надхвърлят 500 000 евро 50-годишният нашенец е арестуван в Атина заедно с двама иранци Алкохолът влияе различно на мъжете и жените! Учени откриха неочаквана връзка с чревните бактерии Алкохолът влияе различно на мъжете и жените! Учени откриха неочаквана връзка с чревните бактерии Испанско изследване сред 67 души с преддиабет установи интересни различия в чревната микробиота според консумацията на бира, вино и спиртни напитки, но резултатите не доказват ползи от алкохола Масово отменят полети от Брюксел заради национален протест Масово отменят полети от Брюксел заради национален протест На 23 ноември въздушният трафик ще бъде силно ограничен, очакват се сериозни затруднения и в градския транспорт „Народът повече не издържа!“ Хиляди на протест срещу скъпия живот в Португалия „Народът повече не издържа!“ Хиляди на протест срещу скъпия живот в Португалия Заплатите остават с 37% под средните за ЕС, а цените на жилищата са се удвоили за по-малко от десетилетие 3000 семейства държат богатство, равно на 17% от световната икономика 3000 семейства държат богатство, равно на 17% от световната икономика Над 110 световни интелектуалци предупреждават, че милиардерите вече контролират не само парите, но и политиката, медиите и изкуствения интелект Тръмп отново нарече Владимир Путин „свой приятел“ Тръмп отново нарече Владимир Путин „свой приятел“ Американският президент публикува снимка с руския лидер и заяви, че отношенията им са „фантастични“ Жив мамут в ледовете на Антарктида? Жив мамут в ледовете на Антарктида? Мистериозно видео взриви мрежата Внучка на Суворов живяла 146 години и преживяла съветските лагери Внучка на Суворов живяла 146 години и преживяла съветските лагери Историята за нея се оказа голяма загадка
Тошко Йорданов, депутат от ИТН Тошко Йорданов, депутат от ИТН Когато някой си мисли, че държавата се управлява с лозунги и сметки на салфетка, накрая винаги се сърди на правилника. Ние не сме тук, за да им ръкопляскаме Виц на деня Виц на деня Собственик на куче дог се оплаква на ветеринаря:
- Кучето ми постоянно гони автомобилите.
- Всяко куче прави това.
- Да, но моето ги хваща и после ги заравя в градината...
Виц на деня Виц на деня В автобуса жена към мъж:
- Здравейте!
- ???
- Не ме ли познахте?
- Ами не.
Тя се обръща с гръб към него и се навежда.
- А така?
Мъжът се усмихва.
- Ахааа... съседката по вила...
Статус във фейсбук Статус във фейсбук Зимата пак ни изненада, ама този път по прогноза - гумаджиите вече гледат на шофьорите като на златни кокошки.
Автори Флагмани
Маркетинг Екип
Анна Добрева-Бакалова
Специалист Маркетинг и реклама, Copywriter
Затвори