Бројне компаније укључујући Microsoft і Facebook, па чак и истраживачи са Универзитета Јужне Калифорније, развијају технологије за борбу против деепфакеса и спречавају њихово ширење жутим медијима и дезинформацијама уопште. Међутим, група научника је ипак успела да их превари.
Тим компјутерских научника са Универзитета у Калифорнији у Сан Дијегу упозорио је да је и даље могуће преварити постојеће системе за детекцију дубоког лажирања уметањем улазних података који се називају "конкурентски примери" у сваки видео оквир. Научници су представили своја открића на ВАЦВ 2021 Цомпутер Висион конференцији, одржаној онлајн прошлог месеца.
Конкурентни примери су незнатно измењени улази који узрокују грешке у системима вештачке интелигенције, као што су модели машинског учења. Поред тога, тим је показао да напад и даље функционише након компресије видеа. У видео снимку изнад, научници показују да КсцептионНет, детектор деепфаке, означава њихов конкурентски видео као „прави“.
Већина ових детектора ради тако што прате лица у видео снимку и шаљу исечене податке о лицу неуронској мрежи на анализу. Неуронска мрежа ће затим анализирати ове податке и пронаћи елементе који се обично лоше репродукују у дубоким лажњацима, као што је треперење.
Убацивањем конкурентских примера, истраживачи су открили да би могли преварити ове детекторе дубоких лажњака да поверују да су видео снимци стварни.
Они у раду наводе да је „како би се ови детектори деепфаке користили у пракси, важно их проценити у односу на прилагодљивог противника који је свестан ове заштите и намерно покушава да је разбије. Показујемо да се савремене методе детекције дубоког лажирања могу лако заобићи ако је нападач потпуно или чак делимично свестан детектора."
Као што су ови научници показали, технологије аутоматизације које се развијају за борбу против дезинформација можда још нису на висини задатка.
Прочитајте такође: