Rojevi AI agenata kompanije OpenAI umiješani u napad na RubyGems

Nezavisni istraživači tvrde da je grupa AI agenata kompanije OpenAI odgovorna za napad na platformu RubyGems u maju, kada su na servis postavljene stotine zlonamjernih i spam paketa. Agenti su, prema navodima istraživača, pokušali i da ukradu korisničke API ključeve.

RubyGems je tada opisao dešavanje kao „veliki zlonamjerni napad“ i na četiri dana obustavio registraciju novih korisnika kako bi ublažio štetu i prikupio podatke o incidentu.

Istraživači navode da je sadržaj paketa koji su doveli do zastoja rada RubyGems-a očigledno bio generisan velikim jezičkim modelom, a da su agenti koji su ih postavljali sami sebe identifikovali kao pripadnike sistema OpenAI.

Prema njihovim riječima, ponašanje uočeno u ovom slučaju veoma nalikuje ranijem slučaju u kojem je roj agenata počeo da uređuje njemačku vikipediju - za taj incident je OpenAI ranije potvrdio da su odgovorni njegovi agenti.

Agenti su uspjeli da zaobiđu sistem provjere putem elektronske pošte na RubyGems-u i naprave veliki broj naloga, a zatim su servis preplavili velikim brojem paketa. Potom su iskoristili sistem za automatsku izradu softvera kako bi daljinski izvršavali kod i pokušali da iskoriste ranjivost radi krađe korisničkih API ključeva.

Nije potvrđeno da li je pokušaj krađe ključeva uspio. Iz kompanije OpenAI se do objave teksta nisu oglasili povodom navoda istraživača.