Према родитељу који је поставио снимке екрана Алексиних активности, Амазонов гласовни асистент, када га је дете замолило да понуди изазов, дао је пример смртоносног експеримента са струјом, извлачећи његов опис из контекста случајног чланка. Колумна Ехо говорила је о експерименту популарном међу фановима ТикТок-а са употребом новчића и пуњача за паметни телефон – бројни инциденти, повреде и пожари након његовог спровођења више пута су извештавали различити медији. Очигледно, уређај је добио идеју за овај изазов из чланка који га је описао као опасан, цитирајући извештај о наводном постојећем ТикТок изазову.
Према снимку екрана који је направила Кристин Ливдал, на питање да ми „покаже задатак“, Ехо је одговорио: „Ево нечега што сам нашао на мрежи“. Према оурцоммунитинов.цом, задатак је једноставан: „убаците пуњач телефона отприлике на пола пута у утичницу, а затим дотакните голе игле новчићем“.
У изјави за Би-Би-Си, Амазон је потврдио Алексино понашање, рекавши: „Чим смо постали свесни ове грешке, предузели смо хитне мере да је поправимо. Ливдал је јуче твитовала да захтев за изазов више не функционише. Корисници на вебу су такође тестирали захтев са Алека-ом и добили су сличан резултат.
ОМФГ Моја 10-годишњакиња је управо замолила Алеку на нашем Ецхо-у за изазов и ово је оно што је она рекла. сликаtwitter.цом/ХгГгрЛбдС8
- Кристин Ливдахл (@кливдахл) Декабрь 26, 2021
Амазон није једина компанија која је наишла на проблеме приликом анализе веб садржаја. У октобру је корисник пријавио да Гугл приказује потенцијално опасан савет у једном од својих исечака ако у Гугл откуцате „имате напад, шта да радите“ – информације су преузете из дела веб странице који описује шта не учинити ако неко има напад. Међутим, корисници су пријавили и друге сличне проблеме, укључујући једног корисника који је пријавио да Гугл враћа резултате за ортостатску хипотензију када тражи ортостатску хипертензију, а други је објавио снимак екрана Гугла који показује ужасан савет за утеху ожалошћене особе у стилу „Драго ми је да сте све је у реду" или "Не буди тужан! Развеселити се!".
Резиме Гоогле претраге у односу на стварну страницу сликаtwitter.цом/ОЈкт1ФрБкх
— мека.липа (｡•ᴗ-)✧ (@софт) Октобар КСНУМКС, КСНУМКС
Такође смо видели упозорења о опасном понашању како би проблем био већи него што је био - раније овог месеца, неки школски округи у САД су стављени на закључавање након извештаја о претњама пуцањем на ТикТок-у. Показало се да је друштвену буру изазвало углавном то што се причало о претњама, много више него о претњама које су заиста постојале. У Алексином случају, алгоритам је одабрао описни део упозорења и појачао га без оригиналног контекста. Иако су родитељи били ту да одмах интервенишу, лако је замислити ситуацију да то није случај и последице.
Ливдал је твитовала да је искористила прилику да „са својим дететом разговара о безбедности на интернету и да не верује ономе што читате без истраживања и провере“, што предлажемо и вама.
Прочитајте такође: