У петак је суоснивач Коко Роб Моррис најавио у Twitter, да је његова компанија спровела експеримент да пружи савете о менталном здрављу написане вештачком интелигенцијом за 4 људи без претходног обавештења, преноси Тхе Верге. Критичари су експеримент назвали дубоко неетичким јер Коко није добио информисани пристанак од људи који су тражили савет. Коко је непрофитна платформа за ментално здравље која повезује тинејџере и одрасле којима је потребна заштита менталног здравља са волонтерима путем апликација за размену порука као што су Telegram анд Дисцорд.
На Дисцорд-у, корисници се пријављују на сервер Коко Царес и шаљу директне поруке Коко боту, који поставља низ питања са вишеструким избором (нпр. „Која је најмрачнија мисао коју имате о овоме?“). Затим анонимно дели забринутост те особе, снимљену као неколико реченица текста, са неким другим на серверу, који може анонимно да одговори кратком сопственом поруком.
https://twitter.com/RobertRMorris/status/1611450197707464706?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1611450197707464706%7Ctwgr%5Ea36b67a72ef02f3601dfae160441f1250a68dc2a%7Ctwcon%5Es1_c10&ref_url=https%3A%2F%2Farstechnica.com%2Finformation-technology%2F2023%2F01%2Fcontoversy-erupts-over-non-consensual-ai-mental-health-experiment%2F
У експерименту вештачке интелигенције (АИ) који је укључивао око 30 порука, рекао је Морис, волонтери који су помагали другима имали су опцију да користе одговор који је аутоматски генерисао ОпенАИ ГПТ-3 модел великог језика уместо да га пишу независно (ГПТ-3 је технологија иза недавно популарни ЦхатГПТ цхатбот). У свом твиту, Морис напомиње да су људи хвалили одговоре генерисане вештачком интелигенцијом све док нису сазнали да их је написала вештачка интелигенција, што указује на кључни недостатак информисаног пристанка у најмање једној фази експеримента:
„Поруке које је саставила АИ (и контролисали их људи) су оцењене знатно више од оних које су написали сами људи. Време одговора је смањено за 50% на мање од једног минута. Па ипак... уклонили смо ову функцију са наше платформе прилично брзо. Зашто? Када су људи сазнали да су поруке генерисане машином, престало је да ради. Симулирана симпатија делује чудно, празно."
У уводу сервера, администратори пишу: „Коко вас повезује са стварним људима који вас заиста разумеју. Не терапеути, не саветници, само људи попут вас." Убрзо након што је Морис објавио поруку, добио је много одговора у којима се експеримент критикује као неетички, наводећи забринутост због недостатка информисаног пристанка и доводи у питање да ли је експеримент одобрио Институционални одбор за ревизију (ИРБ). У Сједињеним Државама, незаконито је спроводити истраживање на људима без правно ефективног информисаног пристанка, осим ако ИРБ не утврди да се сагласност може одрећи.
У твиту као одговору, Морис је рекао да је експеримент "ослобођен" од захтева информисаног пристанка јер он није планирао да објави резултате, што је изазвало параду гнева.
Идеја да се АИ користи као терапеут је далеко од нове, али оно што Коков експеримент чини другачијим од типичних приступа АИ терапији је то што пацијенти имају тенденцију да знају да не разговарају са живом особом. У случају Коко-а, платформа је укључивала хибридни приступ где је људски посредник могао да прегледа поруку пре него што је пошаље, уместо директног формата за ћаскање. Међутим, без информисаног пристанка, критичари кажу да је Коко прекршио етичка правила осмишљена да заштити угрожене људе од штетних или окрутних истраживачких пракси.
Говорећи као бивши члан ИРБ-а и председавајући, ви сте спровели истраживање људских субјеката на рањивој популацији без одобрења или изузећа ИРБ-а (ВИ не можете да одлучујете). Можда МГХ ИРБ проcesс је тако спор јер се бави оваквим стварима. Нежељени савет: адвокат горе
— Данијел Шоскес (@дсхоскес) Januar 7, 2023
У понедељак, Морис је објавио пост у коме је одговарао на контроверзу и објашњавао Коково путовање до ГПТ-3 и АИ уопште: „Примам критике, забринутости и питања о овом послу са емпатијом и отвореношћу. Посвећени смо томе да свака употреба вештачке интелигенције буде осетљива, са дубоком бригом за приватност, транспарентност и смањење ризика. Наш клинички саветодавни одбор се састаје да разговара о смерницама за будући рад, укључујући одобрење ИРБ-а.
Можете помоћи Украјини да се бори против руских освајача. Најбољи начин да то урадите је да донирате средства Оружаним снагама Украјине путем Савелифе или преко званичне странице НБУ.
Прочитајте такође: