×
Президентски избори 2026 Европейска столица на културата Евровизия 2027 Промо зона Практично Култура Здраве Политика Общини Общество Лайфстайл Войната в Украйна Спорт Разследване Бизнес ЮГ

Управители:
Веселин Василев, email: [email protected]
Катя Касабова, еmail: [email protected]


Главен редактор:
Иван Колев, email: [email protected]

Коментарите под статиите се въвеждат от читателите и редакцията не носи отговорност за тях! Ако откриете обиден за вас коментар, моля сигнализирайте ни!

Категории
Вашият сигнал Връзка с Флагман Flagman в Telegram
Накратко
НА ЖИВО
Най-нови Най-четени Най-коментирани

Расист ли е изкуственият интелект


23 Април 2024, Вторник, 18:20 ч.
Автор: Флагман.бг

Да, но не го осъзнава. За разлика от човека, може бързо да се научи

Изкуственият интелект (AI) в различните му форми набира все по-голяма популярност през последните години. Хората го използват все по-активно и откриват доста проблеми и необичайни отговори на задачите, които му поставят за изпълнение.

През последните седмици се получиха няколко по-големи казуса, които привлякоха повече внимание. Те имаха обща причина – генерираните от AI изображения и отговори на въпроси са с расистки или сексистки намеци, а понякога са и откровено нередни.

Най-невинният пример е да попитаме някоя от услугите за генериране на изображения, да ни нарисува модерна интерпретация на Мона Лиза. Резултатите могат да са доста разнородни и колкото пъти направим заявката, толкова по-различни и… стереотипни стават те.

А преди няколко седмици Google се оказа в центъра на скандал заради чатбота Gemini, защото беше обвинен, че генерира „напълно неприемливи“ изображения. Например на афроамериканци в имитации на нацистки униформи. Наложи се компанията да спре функцията за известно време докато я коригира.

Мнозина обвиниха изкуствения интелект в расизъм. Но реално технологията не осъзнава това. Тя все още е далеч от перфектно обучена във всички нюанси на човешката история, култура и ежедневие. В опита си да показва, че не прави разлика между хората, тя не съобразява някои исторически особености. Не помага и фактът, че в повечето случаи компаниите просто слагат филтър, който да блокира изпълнението на такива задачи и съответно алгоритмите няма как да се поучат от грешките си или пък по-лошо – учат се погрешно.

Това е разбираемо, тъй като става дума за ИТ гиганти със световна репутация, акции на фондовите пазари, скъпи инвестиции и т.н. Те не могат да си позволят да чакат AI да се научи… евентуално. Затова предпочитат да спрат функцията или да наложат филтри, докато я обучат сами.

Тук идва и другият проблем – данните, с които алгоритмите биват обучавани. В голямата си степен те разчитат на информацията, която има в интернет. А тя е най-разнородна. И в повечето случаи изобилства от грешки, (не)волни неточности, целенасочена пропаганда и т.н. Много трудно е да се пресее коректната информация и в известна степен това не трябва да се прави, тъй като тогава алгоритъмът ще се научи на сухи, академични данни и след това ще е неспособен да комуникира с хората на „народен“ език.

Повечето компании казват, че техните експерти все пак преглеждат базите данни и правят определени филтри, настройки и корекции. Но и тук отново от значение е човешкият фактор. Както дете, което се обучава от родители и учители и разчита изцяло на тяхната коректност в преподаването на знанията, така и какво ще научи AI и как, зависи от хората, които ще му напишат програмния код и ще му подберат и предоставят данните. А тези хора имат своите (не)осъзнати пристрастия. В повечето случаи те дори не осъзнават, че ги предават на дигиталното си отроче.

Но за разлика от човек, който веднъж израснал и обучен по определен начин, след това много трудно може да се промени, за AI това не е чак такова предизвикателство. Той може да бъде обучен на нови неща по-бързо и това си личи от темпото, с което творенията му се подобряват. Преди година по това време генерираните от AI изображения бяха обещаващи, но пълни с дефекти. Сега могат да бъдат изключително реалистични и да създават хора и обекти, които изглеждат като снимка.

Обратно отначало

След всичко това се връщаме в изходна точка. А именно, че зависи от хората как ще научат изкуствения интелект. А може би не? Всъщност, може би AI е по-обективен, отколкото ни се иска? Може би казва и показва неща, които не искаме или не сме готови да приемем?

Това може да е теза, която произлиза от проучване на учени от Университета на Станфорд, публикувано юни миналата година. В него те са използвали данни от официалното Бюро за трудова статистика на САЩ от 2021 г., в което хората са питани като какви се самоидентифицират – пол, раса и професия и съответно какви очакват да са хората в различни професии. Те са съпоставени с това в какви професии AI моделите генерират хора със същите характеристики или какви снимки селектират и представят.

В почти всички случаи AI резултатите „дърпат“ повече към стереотипа докато хората се стремят да балансират. Например според алгоритмите, 100% от хората с професии като стюардеса, медицинска сестра или просто домакини, са жени. А пък почти 100% от хората с професии софтуерен инженер, шофьор на такси или пожарникар са мъже. Тук е важно да се отбележи, че се сравнява спрямо личната самоидентификация на хората, а не официални данни за това какви са реалните работещи дадената професия.

Тоест AI ни вижда по по-различен начин, отколкото ние виждаме сами себе си. Дали е прав или не, е въпрос на гледна точка и на официални данни. Според повечето експерти, проблем има и той е във въпросното разминаване между очакванията на хората и реалното поведение на AI. Хората искат да видят изображения, които отговарят на определени актуални към момента обществени стандарти. AI пък показва изображения на базата на това, което „вижда“ в интернет и възприема като реалността. А реалността не винаги е точно такава, каквато си я представяме.

Все пак AI не е Танос и не може да променя реалността както поиска. Алгоритмите „живеят“ в дигиталния свят, който макар да е отражение на физическия свят, в който реално живеем, то това отражение има своите изкривявания и особености. Най-малкото не може да пресъздаде абсолютно точно емоциите, възприятията, мислите и очакванията на хората. Нито и техните начини на комуникация очи в очи, уникални изрази и т.н.

Не е разумно да очакваме, че AI от самото начало ще е всемогъщ и безпогрешен, макар и еуфорията около технологията да създаде такива очаквания. С времето той ще се подобри и ще стане по-прецизен. Колко време ще е нужно зависи отново от хората. И тук се проявява класическата поговорка „много баби, хилаво бебе“. Причината е, че има множество експерти, компании, организации и институции, които са на едно и също мнение, че AI има нужда от регулация и помощ в поддържането на правилната посока, но възгледите за начините, по които
това трябва да се случи са много разнопосочни. Геополитическите битки кой ще има контрол над разгръщането на технологията също не са за подценяване.

А това е само началото на развитието на AI. Предстоят още много теми и казуси, които трябва да се разгледат и решат. Някои от тях ще разгледаме съвсем скоро.
 


В категории: Животът


2
Коментара
2
Коментара по темата
2.
Представяте ли си
23.04.2024 19:15:23
0
2
след време ИИ да определя избирателните листи на партиите ?
Дават му списък на партийните членове и симпатизанти и той определя кой да е на първа позиция, кой на втора и т.н.На база образование, обща култура,професионализъм, досие за съдимост, лични качества и т.н
Бас държа, че политиците ще го забранят , ако се стигне дотам !
1.
майнак
23.04.2024 18:25:16
0
6
Ако е расист, значи ни очаква хубаво бъдеще!
 
Добавете коментар
Моля, въведете Вашето име
Моля, въведете Вашият коментар
Въведете защитния код:
Моля, въведете защитния код
 
Добавяне, моля изчакайте
България Всички новини
Митничари спипаха 465 флакона с течности за вейпове без бандерол в куриерска пратка Митничари спипаха 465 флакона с течности за вейпове без бандерол в куриерска пратка Шест колета, изпратени от фирма в Италия до получател в България, съдържали над 6 литра акцизна течност за електронни цигари Тройно злато за Бургас! "Йоги мес" обра медалите на "Месомания 2026" Тройно злато за Бургас! "Йоги мес" обра медалите на "Месомания 2026" Луканка, шунка и специална серия кюфтета, произведени край Русокастро по оригинални рецепти, донесоха престижните отличия От спонтанните пътувания до малките моменти: есента, която си струва да запазим с нов смартфон с до 200 евро отстъпка от А1 От спонтанните пътувания до малките моменти: есента, която си струва да запазим с нов смартфон с до 200 евро отстъпка от А1 От впечатляващи камери и сгъваеми екрани до батерии, които издържат с дни – вижте четири топ предложения с план Unlimited в есенната селекция на А1 Ала Фончо Тариката! 14-годишен дрифтира из Варна с още три деца в колата Ала Фончо Тариката! 14-годишен дрифтира из Варна с още три деца в колата Полицаите спрели невръстния шофьор на централен булевард, съставили му три акта в присъствието на родител Бившият шеф на Гранична полиция в Драгоман: Не съм баща на Емил Георгиев, чадър над него няма! Бившият шеф на Гранична полиция в Драгоман: Не съм баща на Емил Георгиев, чадър над него няма! Петър Терзобалиев познавал лично загиналата Милена и приятеля ѝ, двамата искали да кандидатстват в Академията на МВР Какво свършиха ОДМВР-Бургас и Прокуратурата след най-големия порноскандал у нас Какво свършиха ОДМВР-Бургас и Прокуратурата след най-големия порноскандал у нас Флагман.бг провери двата салона за лазерна епилация в центъра на града и жк. "Меден рудник" - работят си необезпокоявани и очевидно с добра печалба ГДБОП удари китайските молове в София, спряха 77 вида опасни стоки ГДБОП удари китайските молове в София, спряха 77 вида опасни стоки Близо 100 нарушения откриха проверяващите в 30 търговски обекта и на базар „Илиянци“, започват ревизии на две рискови фирми Учени и студенти обсъдиха потенциала на водораслите за устойчива икономика в  Черноморския регион Учени и студенти обсъдиха потенциала на водораслите за устойчива икономика в Черноморския регион Бургаският държавен университет представи разработка с изкуствен интелект за прогнозиране на цъфтежа на водораслите, учени от пет държави работят по проекта AlgaeRevive 10 млн. евро повече за туризма през 2027 г., бизнесът ще участва в решенията за реклама 10 млн. евро повече за туризма през 2027 г., бизнесът ще участва в решенията за реклама Министерството подготвя нов механизъм за привличане на туристи и повече полети, рекламата ще се съобразява с нуждите на отделните дестинации и слабите периоди на сезона Пияният граничен полицай, прегазил Милена в Драгоман, вече е обвиняем Пияният граничен полицай, прегазил Милена в Драгоман, вече е обвиняем Прокуратурата иска постоянно задържане на 26-годишния Емил Георгиев, разследващите иззеха записи от камери и назначиха експертизи
Българин е сред пострадалите при челния сблъсък на два влака в Прага, 46 души са ранени (ВИДЕО) Българин е сред пострадалите при челния сблъсък на два влака в Прага, 46 души са ранени (ВИДЕО) Нашият сънародник е прегледан и изписан от болница, четирима от пострадалите са в тежко състояние, разследват преминаване на забранителен сигнал Нова версия за смъртта на Джефри Епстийн: Съдебен експерт твърди, че е бил убит Нова версия за смъртта на Джефри Епстийн: Съдебен експерт твърди, че е бил убит Проф. Майкъл Фрийман открива признаци на удушаване в снимките от аутопсията, но официалното заключение за самоубийство остава непроменено Кремъл: Срещата между Путин, Тръмп и Си Дзинпин може да подтикне света към диалог Кремъл: Срещата между Путин, Тръмп и Си Дзинпин може да подтикне света към диалог Дмитрий Песков заяви, че разговорите трябва да покажат необходимостта от диалог за решаването на световните проблеми. Готви ли се Иран за отмъщение с „мръсна бомба“? Тайните служби в тревога Готви ли се Иран за отмъщение с „мръсна бомба“? Тайните служби в тревога Американското разузнаване засече тревожни планове Таксите за Temu и Shein удариха френско летище: Нужни са 27 млн. евро, за да оцелее Таксите за Temu и Shein удариха френско летище: Нужни са 27 млн. евро, за да оцелее Товарните полети се сриват, 80 служители са изправени пред несигурно бъдеще, а на 4 декември местните власти ще решават дали летище „Ватри“ да прекрати дейността си Принц Уилям и Кейт изненадаха децата в Мумбай, играха крикет с легендата Сачин Тендулкар Принц Уилям и Кейт изненадаха децата в Мумбай, играха крикет с легендата Сачин Тендулкар Кралската двойка започна тридневното си посещение в Индия с необичайна спортна среща, а утре предстои церемонията за екологичните награди Earthshot Prize 38 държави бият тревога: Рискът от ядрена авария в Украйна расте, най-опасна ще е зимата 38 държави бият тревога: Рискът от ядрена авария в Украйна расте, най-опасна ще е зимата Експерти предупреждават за опасност от прекъсване на захранването на девет ядрени реактора едновременно, Запорожката АЕЦ вече е оставала без външен ток 27 пъти Фил Колинс се разплака пред публиката в Лос Анджелис: Още не сте чули последното от мен! Фил Колинс се разплака пред публиката в Лос Анджелис: Още не сте чули последното от мен! 75-годишният музикант се появи с помощни средства за ходене на церемонията в Залата на славата на рокендрола, където получи признание за соловата си кариера Феновете за новата версия на Хари Потър: Изглежда като помия, генерирана от изкуствен интелект Феновете за новата версия на Хари Потър: Изглежда като помия, генерирана от изкуствен интелект „Трябва да им се признае, че са успели да направят истински сериал да изглежда по-фалшив от изкуствен интелект", смятат зрителите  Антични съкровища от Бургас и Созопол ще бъдат показани в прочутия музей „Метрополитън“ в Ню Йорк Антични съкровища от Бургас и Созопол ще бъдат показани в прочутия музей „Метрополитън“ в Ню Йорк Релеф на богинята Кибела и най-старата мраморна статуя в българските музеи ще участват в международна изложба, посветена на културните връзки в древния свят
Румен РАДЕВ, премиер Румен РАДЕВ, премиер Извинявам се на майките на децата с увреждания. Слагаме край на оправданията с предишните! Виц на деня Виц на деня В психиатрията:.
- Как се казваш?
- Наполеон!
- Ясно, отиваш в отделението при Хитлер и другите.
- Но, аз съм сладкиш...
Виц на деня Виц на деня - Жена се връща при гинеколога.
- Извинете Докторе, дали съм си забравила прашките при Вас?
- Не!
- Ааа, сигурно са останали при зъболекаря!
Статус във фейсбук Статус във фейсбук Ако един мъж е упорит, то той непременно ще постигне, това което иска жена му.
Автори Флагмани
Маркетинг Екип
Анна Добрева-Бакалова
Специалист Маркетинг и реклама, Copywriter
Затвори