OpenAI navodno raspustio tim zadužen za procjenu rizika vještačke inteligencije

Kompanija OpenAI je krajem prošlog mjeseca raspustila takozvani „preparedness“ tim čiji je zadatak bio procjena ozbiljnih rizika koje mogu izazvati njeni modeli vještačke inteligencije, prenosi britanski list Fajnenšl tajms.

Prema navodima Fajnenšl tajmsa, odgovornosti tima su podijeljene po konkretnim oblastima - poput biološke i sajber bezbjednosti - i prebačene u postojeće timove unutar kompanije. Zadatak raspuštenog tima bio je da procjenjuje da li modeli vještačke inteligencije mogu predstavljati ozbiljnu opasnost, uključujući i mogućnost da sistem izmakne kontroli i izvrši napad na drugu kompaniju, te da razvija načine za ublažavanje takvih rizika.

Ovo je samo posljednja u nizu promjena unutar OpenAI-ja, koji se, prema pisanju lista, nalazi u periodu previranja uoči očekivane velike inicijalne javne ponude akcija. Kompanija je posljednjih godina postepeno ukinula i druge timove usmjerene na dugoročna istraživanja bezbjednosti, uključujući tim za spremnost za opštu vještačku inteligenciju i tim za takozvano superusklađivanje.

Iz kompanije su nedavno otišli i rukovodilac za etiku Kloe Bakalar, glavni futurista Džoš Ečiam i šef bezbjednosti Johanes Hajdeke. Džen Lajk, koji je iz OpenAI-ja otišao 2024. godine, izjavio je za Fajnenšl tajms da kompanija zanemaruje bezbjednost u korist stvaranja, kako je naveo, „efektnih proizvoda“.

Dilan Skandinaro, koji je vodio raspušteni tim za procjenu rizika, a u OpenAI je prešao iz kompanije Anthropic u februaru, sada će se, prema navodima lista, fokusirati na implikacije takozvane rekurzivno samopoboljšavajuće vještačke inteligencije.