Фотографија "експлозије" у близини Пентагона, коју је направила вештачка интелигенција, постала је вирална Twitter

Недавно у Twitter појавила се фотографија на којој је, како је речено у опису, приказана експлозија која се догодила у близини Пентагона. Због овога је чак дошло до краткотрајног пада на тржишту - индекс С&П 500 је пао за 0,29%, али након што се испоставило да је фотографија лажна, индекс се опоравио. Слику је поставио верификовани Блоомберг Феед налог, који, упркос плавој квачици, није повезан са медијском компанијом Блумберг.

Фотографија је брзо препозната као лажна. Очигледно је генерисан уз помоћ вештачке интелигенције. Али пре него што су се ови детаљи појавили, разни рачуни су већ ширили дезинформације, укључујући и олош Руссиа Тодаи (па, ко би сумњао).

Лажна слика приказује велики облак црног дима поред зграде која нејасно подсећа на Пентагон, са пратећим текстом. Након детаљнијег прегледа, локалне власти су потврдиле да слика није тачна представа Пентагона, а замагљени стубови ограде и стубови зграда изгледали су као прилично неуредна слика креирана коришћењем АИ модела као што је Стабле Диффусион.

Блоомберг лажни налог раније Twitter блокирао, имао је десетине хиљада твитова, али укупно мање од 1 пратилаца, и нејасно је ко га је водио и који су мотиви били иза ширења лажне слике. Поред Блоомберг Феед-а, други налози који шире лажну поруку укључују Валтер Блоомберг и Бреакинг Маркет Невс, који такође нису повезани са правом Блоомберг компанијом.

Инцидент је нагласио потенцијалне претње које слике генерисане вештачком интелигенцијом могу представљати на друштвеним мрежама, где се непроверене информације журно деле, а систем плаћене верификације у Twitter. У марту су лажне слике хапшења Доналда Трампа, настале коришћењем Мидјоурнеи-а, постале виралне, и иако су одмах назване лажним, изгледале су изузетно реално. Такође, многе су довеле у заблуду слике папе Фрање у белој доњој јакни које је створила вештачка интелигенција.

„БлоомбергФеед” налог је сада забрањен.

Али ово ће се само претворити у игру ударца.

Лажне АИ слике + проверене лажне вести Twitter налог + мејнстрим медији не проверавају да ли је киселоces = рецепт за катастрофу у нашем дигиталном друштву.

Ово неће успорити. сликаtwitter.цом/ЗебоВгВм4З

— Лоренцо Грин 〰 (@мргреен) Може 23, 2023

Папа у доњој јакни је једно, а експлозија у седишту америчког Министарства одбране сасвим друго. Последице могу бити озбиљне, што доказује иста берза. Дов Јонес Индустриал Авераге пао је за 85 поена у четири минута након што је твит постао виралан, али се брзо опоравио.

Велики део конфузије око лажног твита омогућиле су промене у Twitter у време Елона Маска. Отпустио је многе модераторе садржаја и у великој мери аутоматизовао процес верификације налога, преместивши га у систем где свако може да плати плави чек. Критичари кажу да ова пракса чини платформу рањивијом на дезинформације.

Иако су власти релативно брзо препознале фотографију експлозије као лажну, доступност модела синтезе слике као што су Мидјоурнеи и Стабле Диффусион значи да убедљиви лажњаци више не захтевају уметност, остављајући простора за дезинформације. Лакоћа стварања лажних у комбинацији са виралном природом платформи попут Twitter, значи да се лажне информације могу ширити брже него што се могу проверити.

У овом случају, слика не мора нужно бити високог квалитета да би створила негативан утицај. Стручњаци кажу да када људи желе да верују у нешто, губе будност и не проверавају истинитост информација.

Прочитајте такође:

• Мета језик АИ препознаје више од 4 језика
• Адобе додаје у Пхотосхоп уређивање Генеративе Филл помоћу вештачке интелигенције