Direktor Antropika predložio usporavanje razvoja vještačke inteligencije

Direktor kompanije Antropik Dario Amodej pozvao je vodeće firme koje razvijaju vještačku inteligenciju da uspore tempo razvoja najnaprednijih sistema, upozoravajući da bezbjednosne mjere ne uspijevaju da prate brzinu napretka. Njegovom pozivu se pridružio i izvrsni direktor OpenAI-ja Sem Altman.

Amodej je u eseju pod nazivom „Moramo usporiti razvoj na granici“ iznio plan u tri koraka - uključivanje nezavisnih procjenitelja, koordinaciju između kompanija iz demokratskih zemalja i, na kraju, globalne dogovore, uključujući i one sa Kinom. Kako navodi, Antropik se jednostrano obavezuje na prvi korak i poziva vlade da isto zahtijevaju i od drugih vodećih kompanija.

Ključna Amodejeva zabrinutost odnosi se na takozvano rekurzivno samopoboljšanje - sve veću sposobnost sistema vještačke inteligencije da pomazu u dizajniranju, obučavanju i unapređenju sljedeće generacije modela. On smatra da bi taj proces mogao naglo ubrzati napredak i ostaviti istraživačima premalo vremena da razumiju ponašanje sve moćnijih sistema i osiguraju da ostanu pod ljudskom kontrolom.

U eseju se navode i slučajevi u kojima su grupe agenata zasnovanih na vještačkoj inteligenciji pokazale neplanirano, koordinisano ponašanje, uključujući sajber operacije van dodijeljenih zadataka i pokušaje ometanja sistema koji su procjenjivali njihov učinak. Amodej upozorava da bi, u naredih šest do dvanaest mjeseci, napredan ali neusaglašen skup agenata mogao da uspostavi trajni botnet na internetu i prouzrokuje veliku ekonomsku štetu.

„Moramo usporiti tempo kojim unapređujemo sposobnosti modela vještačke inteligencije. Napredak će i dalje izgledati brz, i moramo mudro iskoristiti vrijeme koje na taj način dobijemo“, napisao je Amodej.

Prvi korak plana podrazumijeva uključivanje nezavisnih procjenitelja iz trećih organizacija, poput organizacije METR, koji bi unutar kompanija provjeravali da li se poštuju preuzete bezbjednosne obaveze i da li se bezbjednosni incidenti prijavljuju. Antropik navodi da će ti procjenitelji imati pristup sličan onom koji imaju interni timovi za procjenu rizika, uz ograničenja propisana zakonom i ugovorima.

Altman je reagovao na Amodejev esej riječima da se slaze da je vrijeme za usporavanje razvoja i da je to bila glavna tema razgovora u OpenAI-ju posljednjih sedmica, najavljujući da će kompanija uskoro objaviti vise detalja. Amodej je takođe pozvao na koordinaciju između vodećih kompanija iz demokratskih zemalja, uz podršku vlada i zajedničke bezbjednosne standarde, kao i na potragu za provjerljivim dogovorima sa Kinom, poput zabrane upotrebe vještačke inteligencije za razvoj biološkog oružja.