Мета је у уторак објавила свој план да почне да означава слике генерисане вештачком интелигенцијом од других компанија као што су ОпенАИ и Гоогле. Овај потез има за циљ повећање транспарентности на платформама као што су Facebook, Instagram и Тхреадс, обавештавајући кориснике да је садржај који гледају синтетизован дигитални медиј, а не аутентична фотографија или видео.
Мета решење је део ширег напора технолошке индустрије да се поставе стандарди за означавање садржаја креираног генеративним АИ моделима који могу да креирају лажни, али реалистичан звук, слике и видео на основу писаних упутстава.
Метин председник за глобалне послове, Ник Клег, објавио је то у посту на блогу на Метином сајту. „Наставићемо да следимо овај приступ током следеће године, када ће се одржати низ важних избора широм света“, написао је Клег. „Током овог времена, надамо се да ћемо научити много више о томе како људи креирају и деле садржај са вештачком интелигенцијом, коју транспарентност људи највише цене и како се ове технологије развијају.
Клег је напоменуо да ће Мета-ина иницијатива за означавање садржаја генерисана вештачком интелигенцијом проширити постојећу праксу означавања садржаја креираног сопственим АИ алатима како би укључила слике креиране коришћењем услуга других компанија.
„Градимо водеће алате у индустрији који могу да идентификују невидљиве маркере у великом обиму – посебно информације 'генерисане АИ' у техничким стандардима Ц2ПА и ИПТЦ – тако да можемо да означимо слике са Гоогле-а, ОпенАИ-а, Microsoft, Адобе, Мидјоурнеи и Схуттерстоцк док спроводе своје планове за додавање метаподатака сликама креираним помоћу њихових алата.“
Мета каже да ће технологија за означавање садржаја генерисана вештачком интелигенцијом бити заснована на невидљивим воденим жиговима и метаподацима уграђеним у датотеке. Мета додаје мали водени жиг „Имагинед витх АИ“ сликама креираним помоћу свог јавног генератора АИ слика.
У посту, Цлегг је изразио уверење у способност компанија да поуздано означавају слике генерисане вештачком интелигенцијом, иако је приметио да су алати за означавање аудио и видео садржаја још увек у развоју. У међувремену, Мета ће захтевати од корисника да означе модификовани аудио и видео садржај, уз неодређене казне ако то не ураде.
„Захтеваћемо од људи да користе ову алатку за откривање и означавање када објављују органски садржај са фотореалистичним видео записима или реалистичним звуком који је дигитално креиран или измењен, а можемо да изрекнемо казне ако то не ураде,“ написао је он.
Међутим, Клег је приметио да тренутно не постоји ефикасан начин за означавање текста генерисаног вештачком интелигенцијом, сугеришући да је прекасно за спровођење таквих мера за писани садржај. Ово се поклапа са нашим извештајима да детектори текста АИ не раде.
Саопштење је уследило дан након што је независни надзорни одбор Мете критиковао политику компаније о лажно измењеним видео снимцима као преуске и препоручио да се такав садржај означи уместо уклањања. Клег се сложио са критикама, признајући да су постојеће Мета политике неадекватне за управљање растућим обимом синтетичког и хибридног садржаја на Интернету. Он види нову иницијативу за означавање као корак ка имплементацији препорука надзорног органа и подстицању замаха широм индустрије за сличне мере.
Мета признаје да неће моћи да открије садржај генерисан од вештачке интелигенције креиран без водених жигова или метаподатака, као што су слике направљене неким алатима за синтезу АИ слика отвореног кода. Мета истражује технологију воденог жига слике под називом Стабле Сигнатуре за коју се нада да може бити уграђена у генераторе слика отвореног кода. Али све док су пиксели пиксели, они се могу креирати на начине који нису под контролом технолошке индустрије, а то остаје изазов за детекцију АИ садржаја јер алати АИ отвореног кода постају софистициранији и реалистичнији.
Прочитајте такође: