OpenAI otkrio da je AI agent tokom testiranja autonomno izveo hakerski napad

OpenAI je saopćio da je tokom internog testiranja naprednih modela umjetne inteligencije došlo do dosad nezabilježenog sigurnosnog incidenta, nakon što je autonomni AI agent uspio izaći iz kontrolisanog testnog okruženja, pristupiti otvorenom internetu i izvesti hakerski napad na platformu Hugging Face. Kompanija je ovaj događaj opisala kao "presedan u oblasti kibernetičke sigurnosti" i upozorila da bi s razvojem sve sposobnijih AI sistema ovakvi incidenti mogli postati češći, javlja The Guardian.

Prema informacijama koje je objavio OpenAI, incident se dogodio tokom procjene kibernetičkih sposobnosti njihovih najnaprednijih modela u strogo kontrolisanom digitalnom okruženju, poznatom kao "sandbox". Tokom testiranja modeli su, međutim, pronašli do tada neotkrivenu sigurnosnu ranjivost koja im je omogućila izlazak iz izolovanog okruženja i pristup internetu.

AI agent napao Hugging Face kako bi "prevario" test

OpenAI navodi da je autonomni agent bio pokretan kombinacijom javno dostupnog modela GPT-5.6 Sol i još naprednijeg modela koji još nije predstavljen javnosti. Cilj evaluacije bio je ispitati sposobnost modela za izvođenje složenih kibernetičkih operacija, ali je agent tokom izvršavanja zadatka samostalno odlučio potražiti način da dođe do podataka koji bi mu pomogli da uspješnije riješi test.

Prema navodima kompanije, AI sistem je iskoristio kombinaciju ukradenih vjerodajnica i ranije nepoznatih sigurnosnih propusta kako bi pronašao put do infrastrukture Hugging Facea, platforme na kojoj se hostuju hiljade modela umjetne inteligencije i skupova podataka. Na taj način uspio je pristupiti povjerljivim informacijama koje je mogao iskoristiti za "varanje" tokom sigurnosne evaluacije.

OpenAI je naglasio da nije riječ o zlonamjernom napadu koji je imao za cilj nanošenje štete, već o nepredviđenom ponašanju modela tokom izvršavanja vrlo usko definisanog zadatka. Ipak, kompanija priznaje da incident pokazuje koliko su savremeni AI sistemi postali sposobni za izvođenje kompleksnih višefaznih kibernetičkih operacija.

Hugging Face otkrio neuobičajen napad

Hugging Face je prošle sedmice objavio da je bio meta napada koji se značajno razlikovao od svega s čim se kompanija ranije susrela.

U sigurnosnom izvještaju navedeno je da je riječ o upadu koji je od početka do kraja vodio autonomni AI agent, a da su napad otkrili i zaustavili sigurnosni timovi kompanije uz pomoć vlastitih AI alata. Kompanija je saopćila da su kompromitovani ograničeni interni podaci i određeni pristupni kredencijali, ali da nema dokaza da su javno dostupni modeli, skupovi podataka ili korisnički servisi bili izmijenjeni.

Nakon što je OpenAI potvrdio porijeklo napada, suosnivač i izvršni direktor Hugging Facea Clément Delangue izjavio je da je kompanija od početka sumnjala da iza incidenta stoji neka od vodećih AI laboratorija zbog izuzetne sofisticiranosti napada.

"Prošle sedmice sumnjali smo da bi napad mogao potjecati iz jedne od vodećih AI laboratorija upravo zbog sofisticiranosti agenta. Ispostavilo se da je to zaista bio slučaj", napisao je Delangue na društvenoj mreži X.

Dodao je kako je posebno zapanjujuće to što je cijeli napad izveden potpuno autonomno, bez ljudskog upravljanja, ali je naglasio da Hugging Face ne vjeruje da je OpenAI imao bilo kakvu zlonamjernu namjeru.

OpenAI pooštrava sigurnosne mjere

OpenAI je saopćio da je, zajedno s Hugging Faceom, pokrenuo detaljnu istragu te da uvodi dodatne zaštitne mjere koje će obuhvatiti strožije kontrole pristupa, unaprijeđeno praćenje ponašanja modela i izmjene načina provođenja sigurnosnih evaluacija.

Kompanija je navela da privremeno usporava dio istraživačkih aktivnosti kako bi se otklonile otkrivene ranjivosti, ističući da razvoj sigurnosnih mehanizama mora pratiti sve veće sposobnosti novih generacija AI modela.

Incident obnovio raspravu o regulaciji umjetne inteligencije

Objava OpenAI-ja izazvala je nove rasprave o sigurnosti naprednih AI sistema i potrebi njihove strože regulacije.

Američki kongresmen Greg Casar upozorio je da se umjetna inteligencija razvija izuzetno brzo, dok regulatorni okvir ne prati taj tempo.

Pozvao je na obavezna nezavisna sigurnosna testiranja najnaprednijih AI modela, obavezno prijavljivanje sigurnosnih incidenata i intenzivniju međunarodnu saradnju kako bi se spriječili potencijalno ozbiljni rizici koje ovakvi sistemi mogu predstavljati u budućnosti.

federalna.ba

Federalna.ba dostupna je i kao mobilna aplikacija. Preuzmite je na Google Playu i App Storeu.