Гугл је "поправио" расистичке алгоритме за препознавање слика ... тако што их је онемогућио

Још 2015. године, софтверски инжењер Џеки Алсин рекао је јавности да алгоритми за препознавање слика у Гоогле фотографијама не раде исправно и да Афроамериканце класификују као „гориле“. Гугл се заузврат извинио због повређених осећања корисника и обећао да ће исправити грешку. Али у пракси се показало да Гугл три године ништа није урадио. Компанија је управо искључила алгоритам за препознавање горила како не би ризиковала своју репутацију.

Мало касније стигла је порука од Виред-а. Њиховим залагањем спроведено је тестирање алгоритама Гоогле фото-а постављањем десетина хиљада фотографија различитих примата на сервис. Међу којима су били: бабуни, гибони, мајмуни, гориле и шимпанзе. Прве три категорије животиња су тачно идентификоване, али што се тиче горила и шимпанзи, њихова идентификација је изостала. Такође, током теста је откривено да је Гоогле подесио АИ за расистичке упите. На пример, када се тражи „црнац“ или „црна жена“, приказивале су се фотографије људи у црно-белој одећи, сортиране по полу.

Представник Гугла потврдио је резултате тестова које је урадио Виред, а који се односе на категорије примата и саопштио да су блокирани. Према речима представника, постаје јасно да је технологија препознавања слика далеко од савршене. А блокиране категорије су и даље доступне у Гоогле услугама као што су Цлоуд Висион АПИ и Гоогле Ассистант.

Може изгледати изненађујуће да комерцијални гигант Гугл није смислио боље решење за овај проблем. Али ова грешка служи као добар подсетник колико је тешко подучавати вештачку интелигенцију када је још увек у развоју и када је није тестирала група стручњака.

Остаје нејасно шта ће Гугл урадити у будућности да побољша своје алгоритме, пошто у њима има више него довољно недостатака и захтевају хитне мере за њихово отклањање.

Дзхерело: тхеверге.цом