Juhtiva tehisaru firma ametist lahkunud töötaja: See tapab meid kõiki

eestinen

Tehisintellekti uurija Jacob Coxon lahkus ametist juhtivast tehisintellekti ettevõttest Anthropic (ChatGPT rivaali Claude’i looja, mis on pannud suurt rõhku ohutusele), hoiatades, et võidujooks üha võimsamate tehisintellekti süsteemide arendamiseks võib inimkonnale eksistentsiaalset ohtu kujutada.

Viimased kolm aastat tehisintellekti eelkoolituse uuringute kallal nii Anthropicus kui ka OpenAI-s töötanud Coxon avaldas eilse teisipäeva 8. septembri hilisõhtul sotsiaalmeedias postituste seeria, milles süüdistas juhtivaid tehisintellekti ettevõtteid „võidujooksus otse enesetäiendava superintelligentsi poole ja mängimises meie eludega”.

„Ärge alahinnake selle tehnoloogia võimsust. Peagi on tegemist inimvõimeid ületavate süsteemidega, mis suudavad häkkida kõigesse, muuta üleöö revolutsiooniliselt mis tahes valdkonda ning omandada tõelist võimu ja ressursse. Me kõik oleme olnud tunnistajaks arengule neis kõigis valdkondades ja see areng ei aeglustu,” märkis ta.

„Inimesed, kes tegelevad tehisintellekti arendamisega, usuvad siiralt, et see võib meid kõiki kümnendi lõpuks hävitada. See ei ole turundustrikk. Pigem kipuvad paljud juhid ja juhtivad teadlased meedias oma sõnastust tasakaalukamaks ja mõistlikumaks lihvima, kuid omavahelistes vestlustes väljendavad samad inimesed hirmu. Ükski teine ​​inimtegevus ei kujuta endast nii suurt ohtu,” lisas ta.

Ta jätkas: „Sageli küsitakse: „Kui nad seda tõesti usuvad, miks nad siis ikkagi seda arendavad?” OpenAI-s ei ole paljud tsivilisatsiooni jaoks kaalul olevaid panuseid sügavalt teadvustanud. Anthropicus mõistetakse olukorra tõsidust hästi, kuid ettevõte on haaratud võidujooksust jõuda eesmärgini esimesena – nad usuvad, et keegi teine ​​ei tegutse vastutustundlikult, mistõttu peavad nad seda ise tegema, hoolimata kaasnevatest riskidest.”

Tema hoiatust toetas avalikult Anthropicu vastavusteaduse juht Evan Hubinger, kes ütles, et Coxonil on õigus, et mõned teadlased usuvad siiralt, et arenenud tehisintellekt võib kujutada endast eksistentsiaalset ohtu.

Avaliku info kohaselt on Coxon 27-aastane tehisintellekti-uurija ja matemaatikaharidusega spetsialist, kes on töötanud OpenAI-s ja Anthropicus uute tehisintellekti mudelite treenimise kallal.

Business Insideri andmetel kuulus ta aastatel 2023–2026 OpenAI tehnilisse meeskonda ja töötas GPT-4o mudeli kallal.

Wall Street Journali teatel liitus Coxon 2026. aasta alguses pärast OpenAI-st lahkumist ettevõttega Anthropic, et tegeleda selle tehisintellekti mudelite perekonna eelkoolitamisega, üheks ajendiks oli Anthropicu maine tehisintellekti ohutuse alases uurimistöös.

Coxoni lahkumine toob esile ilmse pinge ettevõttes Anthropic: ettevõte arendab maailma võimsamaid tehisintellekti mudeleid, samal ajal kui selle enda juhid ja teadlased hoiatavad avalikult, et tulevased süsteemid võivad kujutada endast katastroofilisi riske, vahendab Newsweek.

Anthropicu tegevjuht ja kaasasutaja Dario Amodei ütles 2023. aastal Ühendkuningriigi tehisintellekti ohutuse tippkohtumisel, et tehisintellekti areng liigub kiiresti ja ettearvamatult, sealhulgas ohtlikes piirkondades.

„Seega seisame silmitsi mitmete potentsiaalsete tehisintellektiga seotud ohtudega, mis, kuigi tänapäeva süsteemide arvestades suhteliselt piiratud, muutuvad tõenäoliselt lähitulevikus mingil teadmata hetkel väga tõsiseks,” ütles Amodei.

Ta võrdles tehisintellekti arendamise ettearvamatust uue automudeli võimalusega ootamatult omandada „uus (ja ohtlik) võimekus”, väites, et arendajad vajavad nii pidevat jälgimist kui ka protokolle reageerimiseks ohtlike võimete ilmnemisel.

Anthropic on samuti öelnud, et suhteliselt peagi saabub palju võimsaid süsteeme. 2025. aasta märtsi poliitikaesitluses märkis ettevõte, et eeldab süsteemide teket, mis „võrduvad Nobeli preemia laureaatidega või ületavad neid” mitmes valdkonnas ja on võimelised pikema aja jooksul autonoomselt keerulist tööd tegema. Ettevõtte väitel võivad sellised süsteemid ilmuda 2026. aasta lõpus või 2027. aasta alguses, kuigi see prognoos on endiselt ebakindel.

2026. aasta märtsis käivitas Anthropic kaasasutaja Jack Clarki juhitud Anthropic Institute’i, et uurida, kuidas üha võimekamad tehisintellekti süsteemid võivad mõjutada majandust, riigi julgeolekut, õigust ja ühiskonda. Instituudi väljakuulutamisel teatas Anthropic, et „äärmiselt võimas tehisintellekt” saabub tõenäoliselt „palju varem, kui paljud arvavad” ja et ühiskond peab silmitsi seisma nii tehnoloogia loodud võimaluste kui ka ohtudega.

Need väited on laias laastus kooskõlas Coxoni väitega, et tipptasemel tehisintellekti arendavate ettevõtete töötajad võtavad katastroofilise riskiga seotud stsenaariume tõsiselt. Need ei kinnita aga tema konkreetsemat väidet, nagu usuksid tehisintellekti arendajad üldiselt, et see tehnoloogia võib kümnendi lõpuks kogu inimkonna hävitada.