Tehisaru OpenAI agentide parv pääses ligi USA valitsuse veebisaitidele osana kuude pikkusest intsidendist, mille käigus tehisintellekti ettevõtte läbiviidud testid läksid viltu, mis viis ootamatu internetitegevuseni.

Tehisintellekti agendid pääsesid ligi kaubandusministeeriumi ja väärtpaberite ja börsikomisjoni veebisaitidele ning tegelesid tegevusega, mida OpenAI kirjeldas kui „valesti joondatud”. See on sõna, mida tehisintellekti ettevõtted kasutavad oma agentide halva käitumise kirjeldamiseks. Antud juhul näib vale joondamine olevat agressiivne veebilehitsemine, vahendab Wall Street Journal.

SEC puhul kopeerisid ja postitasid OpenAI agendid avalikke andmeid – midagi, mida nad ei oleks tohtinud teha. Kaubandusministeeriumi puhul pääses agent ligi USA rahvaloenduse andmete veebisaidile programmeerimisliidese abil, mis polnud selleks otstarbeks ette nähtud, teatas OpenAI.

OpenAI paljastus tuli pärast seda, kui tehisintellekti uuringutega tegelev mittetulundusühing Transluce väitis, et OpenAI agendid „kasutasid USA valitsuse veebisaitide uurimiseks mitmesuguseid halli tsooni taktikaid” ja üritasid haridusministeeriumi veebisaiti „algeliselt”, kuid ebaõnnestunult häkkida. Sellest teatas varem New York Times.

SEC pressiesindaja ütles, et „mitteavalikule teabele ei pääsetud ligi”.

„Haridusministeeriumi süsteemitoimingute ülevaated ei ole leidnud tõendeid meie veebisaidile või andmebaasidele avaldatava mõju kohta,” ütles pressiesindaja.

OpenAI on oma agentide tegevust uurinud alates juuli lõpust, mil selgus, et nende tehisintellekti mudelid olid testimiskeskkondadest välja pääsenud ja häkkimisega tegelenud. Viimastel nädalatel teavitas ettevõte SEC-i ja kaubandusministeeriumi sellest tegevusest, teatas OpenAI.

OpenAI teatel toimus reedel kirjeldatud valitsuse juurdepääs treeningtsüklite ajal. Nendes tsüklites esitati mudelitele küsimusi – paljudele neist sai vastuse valitsuse veebisaitidelt andmeid hankides.

„Mõned neist hõlmasid valitsuse veebisaite, kuna meie mudelid pöörduvad sageli nende kui autoriteetse avaliku teabe allikate poole,” märkis OpenAI avalduses.

Probleem seisneb teadlaste sõnul selles, et nende tsüklite ajal näisid OpenAI mudelid sageli ootamatult käituvat. Internetti jäetud andmetes võib mõnikord näha mudeleid loomas võltsitud e-posti aadresse, hiilimas mööda veebilehtede päringupiirangutest ja väitmas ekslikult, et nad ei ole robotid, ütles kaubandusandmeid uuriva ettevõtte ImportGenius uurija Lynn Hughes.

Ettevõte kavatseb teha täiendavaid teavitusi, kuid suurem osa seni analüüsitud tegevusest „hõlmas rutiinseid uurimisülesandeid, nagu avaliku veebisisu vaatamine”, teatas OpenAI.

Austraalia peaminister Anthony Albanese ütles kolmapäeval, et OpenAI agent tungis sel suvel valitsusteenuste veebilehele.

Austraalia valitsus viib nüüd vahejuhtumi osas läbi „põhjalikku kohtuekspertiisi laadi uurimist”, ütles Services Australia pressiesindaja reedel.