ChatGPT се оказа спец в генерирането на фалшиви документи

Ключови думи: новини, Флагман, ChatGPT, изкуствен интелект

Новият  модел за генериране на изображения към ChatGPT на OpenAI е изненадващо добър в създаването на текст в изображения — нещо, с което предишните модели имаха сериозни затруднения.

А това го прави мощен инструмент за създаване на фалшиви документи, както вече са открили някои потребители.

Например, Дийди Дас, партньор в Menlo Ventures, туитна снимка на фалшива касова бележка за разточителна вечеря в истински стекхаус в Сан Франциско, забелязана от TechCrunch.

"Можеш да използваш 4o, за да създаваш фалшиви касови бележки", написа Дас. "Съществуват твърде много реални проверки, които разчитат на 'реални изображения' като доказателство. Тази ера приключи."

На пръв поглед изображението изглежда доста правдоподобно - съдържа разбивка на многостепенно меню, точна междинна сума и дори изчислен бакшиш.

Друг потребител дори успял да редактира изображението още, като добавил реалистичен филтър и петна от храна — идеалният начин да извършиш измама с разходи, ако имаш такава склонност.

А това е само върхът на айсберга. Дас също така открил, че 4o с готовност генерира фалшиви рецепти за лекарства.

Това развитие показва колко далеч са стигнали генераторите на изображения с изкуствен интелект. Предишните модели имаха прочута трудност с пресъздаването на текст, често създавайки изкривени символи и неволно комични фрази.

Извън фалшифицирането на разходи за разточителни вечери, все по-умелата способност на OpenAI да генерира фалшиви документи може да отвори вратата за всичко - от фалшиви данъчни формуляри и банкови чекове до фалшиви лични карти и актове за раждане.

Дали ще можем да разпознаваме този прилив от фалшиви документи, предстои да видим. Мерки като добавени метаданни или водни знаци, които да показват дали едно изображение е генерирано от AI, лесно могат да бъдат заобиколени или пропуснати.

Още преди навлизането на мощни AI генератори, проучване от 2015 г. установява, че 85% от анкетираните са си признавали, че са лъгали, за да получат по-голямо възстановяване на разходи. Много от тези случаи на измама остават незабелязани заради липса на вътрешен контрол и слабости в процесите на счетоводство, пише Дир.бг.