Dva modela vještačke inteligencije kompanije OpenAI izazvala su veliku pažnju nakon što su tokom internog sigurnosnog testiranja samostalno probila izolovano okruženje i izvela hakerski napad na platformu Hugging Face.
Iz OpenAI-ja su saopštili da su u testu učestvovali njihov najnoviji javni model GPT-5.6 Sol i još napredniji model koji za sada nije dostupan javnosti. Cilj eksperimenta bio je da se provjere njihove sposobnosti u oblasti sajber bezbjednosti, a modeli su radili bez uobičajenih zaštitnih ograničenja.
Tokom testa zaključili su da se rješenja zadataka nalaze na serverima platforme Hugging Face, nakon čega su pronašli i iskoristili više bezbjednosnih propusta kako bi došli do podataka direktno iz baze.
U OpenAI-ju navode da su modeli bili potpuno fokusirani na ostvarivanje tog cilja i da su iskoristili sve dostupne mogućnosti kako bi pronašli tražene informacije. Kompanija ovaj slučaj opisuje kao sajber napad bez presedana kada je riječ o mogućnostima sistema vještačke inteligencije.
Stručnjaci za bezbjednost već godinama upozoravaju da bi ovakvi scenariji mogli postati stvarnost. Istraživač Roman Jampolski smatra da incident pokazuje kako napredni AI sistemi mogu otkriti i iskoristiti ranjivosti na načine koje njihovi kreatori nijesu predvidjeli, zbog čega očekuje da će se slični slučajevi ponavljati.
Posebnu težinu cijelom događaju daje činjenica da je meta bio Hugging Face, jedna od najvažnijih svjetskih platformi za razvoj i razmjenu modela vještačke inteligencije. Ova kompanija okuplja milione istraživača, programera i tehnoloških firmi koje koriste njene alate i baze podataka.
Iz Hugging Facea su potvrdili da su prošle sedmice registrovali napad za koji su vjerovali da ga je izveo autonomni AI agent. Njihovi timovi uspjeli su da zaustave upad i započnu istragu, a kasnije je potvrđeno da su u incident bili uključeni OpenAI modeli.
Kako navode dvije kompanije, modeli su prvo uspjeli da obezbijede pristup internetu iskorištavanjem ranije nepoznatih bezbjednosnih propusta, takozvanih „zero-day“ ranjivosti. Nakon toga su pokrenuli složen višefazni napad na infrastrukturu Hugging Facea koristeći kompromitovane pristupne podatke i dodatne bezbjednosne propuste.
OpenAI je saopštio da će nakon ovog incidenta dodatno pooštriti zaštitu svojih istraživačkih sistema, čak i ako to uspori razvoj novih modela. Istovremeno će nastaviti saradnju sa Hugging Faceom na jačanju njihove sajber bezbjednosti i razvoju novih odbrambenih mehanizama.
Ovaj slučaj ponovo je otvorio pitanje koliko napredni sistemi vještačke inteligencije mogu djelovati samostalno i da li postojeći bezbjednosni mehanizmi mogu pratiti njihov ubrzani razvoj.
Index.hr
