×
Президентски избори 2026 Европейска столица на културата Евровизия 2027 Промо зона Практично Култура Здраве Политика Общини Общество Лайфстайл Войната в Украйна Спорт Разследване Бизнес ЮГ

Управители:
Веселин Василев, email: [email protected]
Катя Касабова, еmail: [email protected]


Главен редактор:
Иван Колев, email: [email protected]

Коментарите под статиите се въвеждат от читателите и редакцията не носи отговорност за тях! Ако откриете обиден за вас коментар, моля сигнализирайте ни!

Категории
Вашият сигнал Връзка с Флагман Flagman в Telegram
Накратко
НА ЖИВО
Най-нови Най-четени Най-коментирани

Расист ли е изкуственият интелект


23 Април 2024, Вторник, 18:20 ч.
Автор: Флагман.бг

Да, но не го осъзнава. За разлика от човека, може бързо да се научи

Изкуственият интелект (AI) в различните му форми набира все по-голяма популярност през последните години. Хората го използват все по-активно и откриват доста проблеми и необичайни отговори на задачите, които му поставят за изпълнение.

През последните седмици се получиха няколко по-големи казуса, които привлякоха повече внимание. Те имаха обща причина – генерираните от AI изображения и отговори на въпроси са с расистки или сексистки намеци, а понякога са и откровено нередни.

Най-невинният пример е да попитаме някоя от услугите за генериране на изображения, да ни нарисува модерна интерпретация на Мона Лиза. Резултатите могат да са доста разнородни и колкото пъти направим заявката, толкова по-различни и… стереотипни стават те.

А преди няколко седмици Google се оказа в центъра на скандал заради чатбота Gemini, защото беше обвинен, че генерира „напълно неприемливи“ изображения. Например на афроамериканци в имитации на нацистки униформи. Наложи се компанията да спре функцията за известно време докато я коригира.

Мнозина обвиниха изкуствения интелект в расизъм. Но реално технологията не осъзнава това. Тя все още е далеч от перфектно обучена във всички нюанси на човешката история, култура и ежедневие. В опита си да показва, че не прави разлика между хората, тя не съобразява някои исторически особености. Не помага и фактът, че в повечето случаи компаниите просто слагат филтър, който да блокира изпълнението на такива задачи и съответно алгоритмите няма как да се поучат от грешките си или пък по-лошо – учат се погрешно.

Това е разбираемо, тъй като става дума за ИТ гиганти със световна репутация, акции на фондовите пазари, скъпи инвестиции и т.н. Те не могат да си позволят да чакат AI да се научи… евентуално. Затова предпочитат да спрат функцията или да наложат филтри, докато я обучат сами.

Тук идва и другият проблем – данните, с които алгоритмите биват обучавани. В голямата си степен те разчитат на информацията, която има в интернет. А тя е най-разнородна. И в повечето случаи изобилства от грешки, (не)волни неточности, целенасочена пропаганда и т.н. Много трудно е да се пресее коректната информация и в известна степен това не трябва да се прави, тъй като тогава алгоритъмът ще се научи на сухи, академични данни и след това ще е неспособен да комуникира с хората на „народен“ език.

Повечето компании казват, че техните експерти все пак преглеждат базите данни и правят определени филтри, настройки и корекции. Но и тук отново от значение е човешкият фактор. Както дете, което се обучава от родители и учители и разчита изцяло на тяхната коректност в преподаването на знанията, така и какво ще научи AI и как, зависи от хората, които ще му напишат програмния код и ще му подберат и предоставят данните. А тези хора имат своите (не)осъзнати пристрастия. В повечето случаи те дори не осъзнават, че ги предават на дигиталното си отроче.

Но за разлика от човек, който веднъж израснал и обучен по определен начин, след това много трудно може да се промени, за AI това не е чак такова предизвикателство. Той може да бъде обучен на нови неща по-бързо и това си личи от темпото, с което творенията му се подобряват. Преди година по това време генерираните от AI изображения бяха обещаващи, но пълни с дефекти. Сега могат да бъдат изключително реалистични и да създават хора и обекти, които изглеждат като снимка.

Обратно отначало

След всичко това се връщаме в изходна точка. А именно, че зависи от хората как ще научат изкуствения интелект. А може би не? Всъщност, може би AI е по-обективен, отколкото ни се иска? Може би казва и показва неща, които не искаме или не сме готови да приемем?

Това може да е теза, която произлиза от проучване на учени от Университета на Станфорд, публикувано юни миналата година. В него те са използвали данни от официалното Бюро за трудова статистика на САЩ от 2021 г., в което хората са питани като какви се самоидентифицират – пол, раса и професия и съответно какви очакват да са хората в различни професии. Те са съпоставени с това в какви професии AI моделите генерират хора със същите характеристики или какви снимки селектират и представят.

В почти всички случаи AI резултатите „дърпат“ повече към стереотипа докато хората се стремят да балансират. Например според алгоритмите, 100% от хората с професии като стюардеса, медицинска сестра или просто домакини, са жени. А пък почти 100% от хората с професии софтуерен инженер, шофьор на такси или пожарникар са мъже. Тук е важно да се отбележи, че се сравнява спрямо личната самоидентификация на хората, а не официални данни за това какви са реалните работещи дадената професия.

Тоест AI ни вижда по по-различен начин, отколкото ние виждаме сами себе си. Дали е прав или не, е въпрос на гледна точка и на официални данни. Според повечето експерти, проблем има и той е във въпросното разминаване между очакванията на хората и реалното поведение на AI. Хората искат да видят изображения, които отговарят на определени актуални към момента обществени стандарти. AI пък показва изображения на базата на това, което „вижда“ в интернет и възприема като реалността. А реалността не винаги е точно такава, каквато си я представяме.

Все пак AI не е Танос и не може да променя реалността както поиска. Алгоритмите „живеят“ в дигиталния свят, който макар да е отражение на физическия свят, в който реално живеем, то това отражение има своите изкривявания и особености. Най-малкото не може да пресъздаде абсолютно точно емоциите, възприятията, мислите и очакванията на хората. Нито и техните начини на комуникация очи в очи, уникални изрази и т.н.

Не е разумно да очакваме, че AI от самото начало ще е всемогъщ и безпогрешен, макар и еуфорията около технологията да създаде такива очаквания. С времето той ще се подобри и ще стане по-прецизен. Колко време ще е нужно зависи отново от хората. И тук се проявява класическата поговорка „много баби, хилаво бебе“. Причината е, че има множество експерти, компании, организации и институции, които са на едно и също мнение, че AI има нужда от регулация и помощ в поддържането на правилната посока, но възгледите за начините, по които
това трябва да се случи са много разнопосочни. Геополитическите битки кой ще има контрол над разгръщането на технологията също не са за подценяване.

А това е само началото на развитието на AI. Предстоят още много теми и казуси, които трябва да се разгледат и решат. Някои от тях ще разгледаме съвсем скоро.
 


В категории: Животът


2
Коментара
2
Коментара по темата
2.
Представяте ли си
23.04.2024 19:15:23
0
2
след време ИИ да определя избирателните листи на партиите ?
Дават му списък на партийните членове и симпатизанти и той определя кой да е на първа позиция, кой на втора и т.н.На база образование, обща култура,професионализъм, досие за съдимост, лични качества и т.н
Бас държа, че политиците ще го забранят , ако се стигне дотам !
1.
майнак
23.04.2024 18:25:16
0
6
Ако е расист, значи ни очаква хубаво бъдеще!
 
Добавете коментар
Моля, въведете Вашето име
Моля, въведете Вашият коментар
Въведете защитния код:
Моля, въведете защитния код
 
Добавяне, моля изчакайте
България Всички новини
След трагедията с 13 жертви на АМ „Тракия“: Включиха още 200 камери за наблюдение на опасните пътни участъци След трагедията с 13 жертви на АМ „Тракия“: Включиха още 200 камери за наблюдение на опасните пътни участъци Нови автоматични предупреждения ще сигнализират за мъгла, заледяване и хлъзгави настилки  Край на разкарването по институции? България въвежда европейски цифров портфейл за документи Край на разкарването по институции? България въвежда европейски цифров портфейл за документи Новото мобилно приложение ще позволява на гражданите да удостоверяват самоличността си и да представят документи онлайн, включително при ползване на услуги в други държави от ЕС Удар за майсторите "на черно", НС иска да забрани плащането за ремонти на ръка Удар за майсторите "на черно", НС иска да забрани плащането за ремонти на ръка Целта е да се изсветлят кешовите обороти в строителния бранш.  Без болка, но с растящ корем: Лекари в Пловдив извадиха 15-килограмов злокачествен тумор от жена Без болка, но с растящ корем: Лекари в Пловдив извадиха 15-килограмов злокачествен тумор от жена 45-годишната пациентка от Чирпан забелязала първите симптоми още през май, но потърсила лечение след рязко влошаване на състоянието си през октомври Над 5 кг амфетамини в дамска чанта! Полицията задържа 27-годишна жена в София Над 5 кг амфетамини в дамска чанта! Полицията задържа 27-годишна жена в София Столичанката нямала криминални регистрации, а според предварителната информация взела наркотиците от тайник сред храсти и работела с дилър Внимание шофьори! Нови ремонти затрудняват движението на „АМ Тракия“ Внимание шофьори! Нови ремонти затрудняват движението на „АМ Тракия“ Ремонтни дейности ще затруднят движението край Стара Загора на 19 ноември, автомобилите ще преминават само през изпреварващата лента Нови полети от Полша към България? Обсъждат три директни авиолинии Нови полети от Полша към България? Обсъждат три директни авиолинии Полските туристи у нас са се увеличили с до 10% през лято 2026 г. Младата музикална сензация Паола: Обиколих България за седмица, Бургас ме посрещна с разтърсващ sold out! Младата музикална сензация Паола: Обиколих България за седмица, Бургас ме посрещна с разтърсващ sold out! Новата звезда на българската сцена споделя мечтите си за големи арени, нови парчета и вълнуващи срещи с феновете Бургас събира културите на три континента! Два дни с музика, танци и творчески ателиета Бургас събира културите на три континента! Два дни с музика, танци и творчески ателиета Над 60 преподаватели, студенти и докторанти от Софийския университет ще представят езиците и традициите на десетки народи на 20 и 21 ноември в Central Park Burgas 5,6 млрд. евро за здраве, но парите за изследвания не стигат! Лекарският съюз алармира за дисбаланс 5,6 млрд. евро за здраве, но парите за изследвания не стигат! Лекарският съюз алармира за дисбаланс Д-р Николай Брънзалов настоява за преразпределяне на средствата в Бюджет 2027 и предупреждава, че недостатъчната профилактика ще увеличи разходите за болнично лечение
8 месеца затвор за подпалвача на български дипломатически коли в Скопие 8 месеца затвор за подпалвача на български дипломатически коли в Скопие Игор Дашковски призна вината си за палежа пред посолството ни и ще трябва да покрие щети за около 3400 евро, съдът го освободи срещу подписка Историческо ръкостискане! Тръмп и Путин се срещнаха пред погледа на Си Дзинпин в Китай (ВИДЕО) Историческо ръкостискане! Тръмп и Путин се срещнаха пред погледа на Си Дзинпин в Китай (ВИДЕО) Краткият разговор се състоя на официалния прием в Шънджън. Съдържанието на разменените реплики между американския и руския президент не бе оповестено Трета рожба за Ан Хатауей! Актрисата и съпругът ѝ отново станаха родители Трета рожба за Ан Хатауей! Актрисата и съпругът ѝ отново станаха родители Звездата от „Дяволът носи Прада“ пазеше бременността си в тайна по време на промоционалното турне на продължението, а името и полът на бебето все още не са разкрити Жерар Депардийо призна вината си и се извини на жертвите, приема 18-месечната условна присъда Жерар Депардийо призна вината си и се извини на жертвите, приема 18-месечната условна присъда 77-годишният френски актьор оттегли жалбата си за сексуалните посегателства над две жени на снимачната площадка и ще плати над 29 хил. евро обезщетения и съдебни разноски Nvidia затвори вратата за Дженсън Хуанг Nvidia затвори вратата за Дженсън Хуанг Бордът отказа да го върне начело 151 робота танцуваха в Китай и поставиха рекорд на Гинес 151 робота танцуваха в Китай и поставиха рекорд на Гинес Китай демонстрира напредъка на хуманоидните машини преди срещата на върха на Азиатско-тихоокеанското икономическо сътрудничество „Вояджър 1“ чупи исторически рекорд „Вояджър 1“ чупи исторически рекорд Българска песен лети на 26 милиарда километра от Земята Силно земетресение в Румъния, усети се и в България Силно земетресение в Румъния, усети се и в България Разлюляло е сгради в Силистра и Русе Apple отива на съд: Обвиняват компанията, че принуждавала клиентите да купуват новите iPhone Apple отива на съд: Обвиняват компанията, че принуждавала клиентите да купуват новите iPhone Френската прокуратура твърди, че софтуерни ограничения затрудняват ремонтите извън оторизираните сервизи, процесът започва на 17 юни 2027 г. Белгия затяга правилата за мигрантите: Без подслон за кандидатствалите за убежище в друга държава от ЕС Белгия затяга правилата за мигрантите: Без подслон за кандидатствалите за убежище в друга държава от ЕС Близо 38% от молбите за международна закрила попадат под европейските правила за прехвърляне на кандидати, правителството иска да прекрати повторното подаване на заявления
Иван ДЕМЕРДЖИЕВ, вътрешен министър Иван ДЕМЕРДЖИЕВ, вътрешен министър МВР е заличавало доказателства за знакови убийства, вместо да ги разкрива Виц на деня Виц на деня Двама си говорят:
- Току що видях, как някакъв се опитваше да целуне жена ти.
- И успя ли?
- Не, не успя.
- Значи, не е било жена ми.
Виц на деня Виц на деня - Чух, че си се развел с жена си?!
- Да, оставиха децата при мен.
- А апартамента?
- На жената.
- А парите?
- На адвоката.
Статус във фейсбук Статус във фейсбук Преди живеехме с надеждата за по-добри времена. Сега живеем с надеждата, че по-лошо няма да стане!
Автори Флагмани
Маркетинг Екип
Анна Добрева-Бакалова
Специалист Маркетинг и реклама, Copywriter
Затвори