Идва невидим „воден знак“ за текстовете, написани от изкуствен интелект
Текстовете, създадени от изкуствен интелект, скоро може да носят невидим „воден знак“, който да позволява на специализиран софтуер да установи дали дадено съдържание е генерирано от AI и дори от конкретен модел. По подобна технология работят и български учени, а темата става все по-важна след влизането в сила на новите европейски правила за прозрачност при използването на изкуствен интелект.
Директорът на AI приложенията в INSAIT Ясен Кипров обясни пред NOVA NEWS, че идеята е текстът да изглежда напълно естествено за човешкото око, но в него да бъде заложена вътрешна математическа сигнатура.
„Тази технология позволява текстове, генерирани от изкуствен интелект, да не се различават видимо от останалите, но да имат вътрешна сигнатура, чрез която да може математически да се докаже, че даден текст е генериран именно от конкретен модел“, обясни Кипров.
Самият „воден знак“ няма да се появява като надпис, символ или предупреждение върху екрана. Той ще бъде разпознаваем от специално разработени детектори. Основното предизвикателство е маркировката да бъде достатъчно надеждна, без да променя смисъла, стила и качеството на генерирания текст.
„Една от задачите при разработването на водните знаци е текстовете да запазят същото качество, без да се нарушава тяхната цялост и без да се различават по никакъв начин от останалите“, посочи Кипров.
Темата вече не е само технологичен експеримент. Член 50 от европейския Акт за изкуствения интелект въвежда изисквания към доставчиците на генеративни AI системи съдържанието да бъде маркирано в машинночетим формат и да може да бъде установено като изкуствено генерирано или манипулирано. Тези правила се прилагат от 2 август 2026 г. Европейската комисия посочва водните знаци, метаданните, криптографските методи и дигиталните отпечатъци като възможни технически решения. :..
Има обаче важна разлика между невидимото техническо маркиране и обозначението, което вижда крайният потребител. При определени видове съдържание, включително AI текстове по въпроси от обществен интерес и т.нар. deepfake материали, европейските правила предвиждат и ясно информиране на публиката, че съдържанието е създадено или манипулирано с изкуствен интелект. Европейската комисия вече разработи и унифицирани символи за подобно обозначаване.
По думите на Кипров по проблема работят както научни институти, така и най-големите компании в сектора. Целта е да бъде намерен стандарт, който едновременно да позволява надеждна проверка на произхода и да е достатъчно устойчив при копиране, редактиране или разпространяване на текста.
Подобна технология би имала значение далеч отвъд социалните мрежи. Тя може да се използва при проверка на журналистически материали, образователни текстове, документи и онлайн публикации и да даде нов инструмент в борбата срещу дезинформацията и представянето на машинно създадено съдържание като човешко.