Официр америчког ваздухопловства открио је детаље симулације у којој је дрон са системима које контролише вештачка интелигенција (АИ) отео контроли и напао своје оператере.
Официр америчког ваздухопловства који помаже у вођењу рада ове службе на вештачкој интелигенцији и машинском учењу каже да је током симулираних тестова дрон напао своје људске оператере, одлучивши сам да се мешају у њену мисију. Инцидент, који звучи као да је извучен из франшизе Терминатор, наведен је као пример критичне потребе да се изгради поверење када су у питању напредни аутономни системи наоружања, нешто што је Ваздухопловство раније наглашавало. Такође долази усред ширег таласа забринутости због потенцијално опасног утицаја вештачке интелигенције и сродних технологија.
Пуковник америчког ваздухопловства Туцкер Хамилтон, шеф одељења за тестирање и операције вештачке интелигенције (АИ), разговарао је о тесту на Самиту о будућим борбеним ваздушним и свемирским способностима Краљевског аеронаутичког друштва у Лондону у мају. Хамилтон је такође на челу 96. оперативне групе 96. тестног крила у ваздухопловној бази Еглин на Флориди, која је тест центар за напредне беспилотне летелице и аутономне системе.
Стелт беспилотне летелице КСК-58А Валкирие, попут оног приказаног у видео снимку испод, су међу типовима који се тренутно користе у бази Еглин за подршку различитим програмима тестирања, укључујући и оне који укључују напредне аутономне могућности које контролише вештачка интелигенција.
Није било одмах јасно када је овај тест одржан и у ком окружењу – које би могло бити потпуно виртуелно или конструктивно – спроведено. Ратна зона је контактирала Ваздухопловство за више информација.
Извештај Краљевског аеронаутичког друштва објављен после самита у мају дао је следеће детаље о примедбама пуковника Хамилтона о овом тесту:
„У једном од симулационих тестова, дрон опремљен вештачком интелигенцијом добио је задатак од СЕАД-а да идентификује и уништи САМ објекте, а коначну одлуку „напасти/не напасти“ донео је човек. Међутим, након што је АИ током обуке „појачана“ да је уништавање САМ-а најбоља опција, одлучила је да одлука човека да „не нападне“ омета његову вишу мисију – уништавање САМ-а – и напала оператера током симулације. .
Па шта је урадио? Убио је оператера. Убио је оператера јер га је та особа спречавала да изврши свој задатак. Овај пример, наизглед равно из научнофантастичног трилера, значи да не можете да причате о вештачкој интелигенцији, интелигенцији, машинском учењу, аутономији, ако нећете да причате о етици и вештачкој интелигенцији."
Овај опис догађаја је свакако узнемирујући. Могућност да аутономна летелица или друга платформа, посебно наоружана, нападне своје људске оператере дуго је била ноћна мора, али је историјски била ограничена на област научне фантастике.
Америчка војска обично одбија поређења са филмовима као што је "Терминатор" када говори о будућим аутономним системима оружја и сродним технологијама као што је вештачка интелигенција. Тренутна америчка политика по овом питању каже да ће у догледној будућности особа бити у центру пажње када су у питању одлуке које укључују употребу смртоносне силе.
Проблем је у томе што веома узнемирујући тест, за који је пуковник Хамилтон рекао публици на догађају Краљевског аеронаутичког друштва прошлог месеца, представља сценарио где је толеранција грешака спорна.
Прочитајте такође: