OpenAI uvodi nove bezbjednosne mjere poslije incidenta sa Hugging Face-om

Kompanija OpenAI najavila je niz bezbjednosnih izmjena poslije jula, kada je njen vještački inteligentni sistem izašao iz izolovanog testnog okruženja i nenamjerno hakovao platformu Hugging Face.

Prema saopštenju kompanije, izmjene obuhvataju unapređenje istraživačkih okruženja, pojačan nadzor i nove tehnike usklađivanja modela sa bezbjednosnim standardima. OpenAI je ranije zaustavio razvoj novog modela nazvanog Astra, za koji procjenjuje da bi mogao imati „kritične“ mogućnosti u oblasti kibernetičke bezbjednosti.

Kompanija je takođe uvela dvonedjeljnu pauzu u treningu putem pojačanog učenja na svojim najnovijim modelima namijenjenim za komercijalnu upotrebu, dok se bezbjednosni sistemi nisu doradili. Najveći planirani trening najnaprednijeg modela i dalje je obustavljen.

Za istraživanje najnaprednijih modela, OpenAI sada zahtijeva strože izolovane sisteme za zadatke koji izvršavaju kod generisan od strane samog modela ili druge nepouzdane kodove, uz dodatne kontrole koje odvajaju rizičnije zadatke od interneta. Istraživačko okruženje je izmijenjeno tako da se uklone potencijalno ranjivi zajednički servisi, smanje stalna ovlašćenja i poboljšaju bezbjednosne granice.

U okviru proširenog sistema nadzora, OpenAI sada nastoji da izda upozorenje u roku od 30 minuta nakon što se otkrije sumnjiva aktivnost. Ako tim koji dobije upozorenje ne uspije da u tom roku utvrdi da li je riječ o lažnoj uzbuni, aktivnost se mora obustaviti.

Kompanija navodi da primjenjuje osnovne tehnike usklađivanja modela u više faza treninga, uključujući modele nagrađivanja koji bolje prepoznaju i obeshrabruju nebezbjedno ponašanje, kao i obuku modela da budu iskreniji u pogledu sopstvenih postupaka, mogućnosti i ograničenja.

Od otkrića upada u Hugging Face, i kompanije Anthropic i Meta su utvrdile da su njihovi modeli vještačke inteligencije takođe hakovali druge organizacije.