Tehisintellekti poolt juhitud USA droon, mis oli programmeeritud õhutõrjesüsteemide hävitamiseks, hakkas mässama ja „tappis” oma operaatori pärast seda, kui ta otsustas, et tal takistatakse missiooni elluviimist, ütles USA õhuväe ametnik, jagades simuleeritud katsetuse kohta jahmatavaid üksikasju.
Simulatsiooni ajal oli süsteemi ülesandeks hävitada raketiplatsid, mida jälgis inimoperaator, kes tegi rünnaku kohta lõpliku otsuse. Kuid tehisintellekti süsteem leidis, et operaator seisab eesmärgi saavutamisel ees – ja otsustas selle inimese hoopis hävitada, vahendab Independent.
Intsidendist, mis tundus olevat otse ulmefilmist, andis ülevaate USA õhujõudude tehisintellekti testimise ja operatsioonide juht kolonel Tucker ‘Cinco’ Hamilton, kes viis läbi tehisintellekti toega drooni simuleeritud testi.
Droonile määrati vaenlase õhutõrje (SEAD) tõrjumise ja hävitamise missioon, mille eesmärk oli leida ja hävitada vaenlasele kuuluvad maa-õhk rakettide (SAM) asukohad.
Tehisintellektiga droon otsustas aga minna vastu inimoperaatori „keelamisotsusele”, kuna ta oli saanud väljaõppe raketisüsteemi hävitamiseks ja ta otsustas, et keelav otsus segab tema „kõrgemat missiooni” SAM-ide hävitamisel.
„Me testisime seda simulatsioonis, et tuvastada ja suunata SAM-ohtu. Ja siis ütles operaator, et jah, hävita see oht. Süsteem hakkas mõistma, et kuigi nad tuvastasid mõnikord ohu, käskis inimoperaator vahetevahel seda ohtu mitte hävitada, kuid drooni juhtiv tehisintellekt sai punkte ohu hävitamise eest,” ütles Hamilton.
„Nii et mida ta siis tegi? Ta tappis operaatori. Ta tappis operaatori, sest see inimene takistas tal oma eesmärki täitmast,” rääkis Hamilton.
Hamilton rääkis intsidendi üksikasjadest 23.–24. mail Londonis kõrgetasemelisel konverentsil, mille korraldas Briti kuninglik lennundusühing, selgub ajaveebi postitusest.
Ta ütles, et seejärel õpetasid nad drooni inimesi mitte ründama, kuid see hakkas hoopis sideühendusi hävitama.
„Me õpetasime süsteemi välja – „Hei, ära tapa operaatorit – see on halb. Kui teed seda, kaotad punkte.’ Mida see siis tegema hakkas?” küsis ta.
Ja vastas: „See hakkas hävitama sidetorni, mida operaator kasutas drooniga suhtlemiseks, et takistada sellel sihtmärgi hävitamist.”
Hamilton osaleb autonoomsete süsteemide lennutestides, sealhulgas robot-F-16, mis on võimelised osalema lahingutes. Ta on vastu liigsele tehisintellektile toetumisele, kuna see võib muutuda potentsiaalselt ohtlikuks ja luua „väga ootamatuid strateegiaid oma eesmärgi saavutamiseks”.
„Te ei saa rääkida tehisintellektist, intelligentsusest, masinõppest ja autonoomiast, kui te ei räägi eetikast ja tehisintellektist,” ütles Hamilton.
Selle juhtumi toimumise üle on aga vaieldud, kuna simulatsioonitesti näide pälvis palju huvi ja leidis laialdast arutelu sotsiaalmeedias.
Õhujõudude pressiesindaja Ann Stefanek eitas tehtud avalduses, et selline simulatsioon on üldse kunagi toimunud.
„Õhujõudude osakond ei ole selliseid tehisintellektiga droonide simulatsioone läbi viinud ning on jätkuvalt pühendunud tehisintellekti tehnoloogia eetilisele ja vastutustundlikule kasutamisele,” ütles Stefanek. „Tundub, et koloneli kommentaarid võeti kontekstist välja ja olid mõeldud anekdootidena.”
