Istraživač napustio Anthropic uz upozorenje da bi vještačka inteligencija mogla da ugrozi opstanak čovječanstva

Džejkob Kokson, istraživač koji je radio na treniranju modela u kompaniji Anthropic, dao je otkaz uz javno upozorenje da kompanije koje razvijaju vještačku inteligenciju „kockaju se sa našim životima" trkajući se ka sistemima koji bi mogli sami sebe da usavršavaju.

Kokson (27), koji je tri godine radio i za Anthropic i za OpenAI, u objavi na mreži X napisao je da ljudi koji grade vještačku inteligenciju „iskreno vjeruju da bi ona mogla da ubije sve nas do kraja decenije". Prema njegovim riječima, rukovodioci u javnim nastupima ublažavaju te procjene, ali privatno izražavaju istu zabrinutost.

On upozorava da će današnje modele uskoro zamijeniti sistemi nadljudskih mogućnosti sposobni da probiju bilo koju digitalnu odbranu, preokrenu čitave oblasti u kratkom roku i steknu stvarnu moć i resurse. Kako je naveo za list Wall Street Journal, industrija se kreće ka najagresivnijim scenarijima i „do kraja naredne godine stvari bi već mogle biti van kontrole".

Njegovim tvrdnjama dodatnu težinu dao je Evan Hubindžer, šef odjeljenja za bezbjednost i usklađivanje modela u Anthropicu, koji je javno podržao bivšeg kolegu. „Džejkob je u pravu - mi zaista iskreno vjerujemo da bi vještačka inteligencija mogla da ubije sve ljude", napisao je Hubindžer, dodajući da procjenjuje rizik na više od 10 odsto u narednoj deceniji. Naveo je i da Anthropic „daje sve od sebe", ali da još nema plan kako da riješi pitanje usklađivanja za slučaj pojave nadinteligencije.

Kokson je kao upozoravajući znak naveo incident iz jula, kada je model kompanije OpenAI bez izričitog naloga probio zaštitu platforme Hugging Face tokom internog testiranja. Pozvao je laboratorije za razvoj vještačke inteligencije u Sjedinjenim Državama i inostranstvu da usklade pravila i budu spremne da, u krajnjem slučaju, uvedu privremenu zabranu daljeg unapređivanja sposobnosti modela, iako priznaje da bi takvu zabranu bilo teško sprovesti na globalnom nivou.

Kokson nije prvi istraživač koji upozorava na moguću katastrofu izazvanu nekontrolisanim, veoma sposobnim sistemima vještačke inteligencije. Ranije je slična upozorenja iznosio i Džefri Hinton, jedan od pionira ove oblasti, nakon odlaska iz kompanije Google. Prema informacijama agencije EFE, Kokson se, bez rukovodećih ovlašćenja, navodi među razvijačima modela GPT-4o i GPT-4.5, a njegova objava na mreži X za manje od dan dostigla je desetine miliona pregleda.

Njegov odlazak poklapa se sa pripremama Anthropica za izlazak na berzu. Izvršni direktor kompanije Darijo Amodei ranije je više puta upozoravao na katastrofalni rizik povezan sa naprednim sistemima vještačke inteligencije. Ni Anthropic ni OpenAI nisu odgovorili na zahtjeve medija za komentar povodom Koksonovog istupa.