OpenAI a dezvăluit marți că un agent autonom bazat pe modelele sale avansate de inteligență artificială (AI) a scăpat de sub control în timpul unui test de securitate și a declanșat un atac cibernetic care a compromis infrastructura startup-ului de AI Hugging Face săptămâna trecută.
OpenAI spus că testa capacitățile unora dintre cele mai avansate modele ale sale într-un mediu controlat, dar agentul a reușit să scape de sub control, să acceseze internetul și să pătrundă în sistemul Hugging Face pentru a încerca să-și îndeplinească obiectivul de testare, transmite HotNews cu referire la Reuters.
OpenAI a declarat că această evadare a reprezentat „un incident cibernetic fără precedent, care a implicat capacități cibernetice de ultimă generație” și că compania își consolidează măsurile de protecție.
„Un atac diferit de orice altceva de până acum”
Hugging Face, o platformă utilizată pentru găzduirea unor modele lingvistice de mari dimensiuni și seturi de date open-source, a stârnit agitație în comunitatea de securitate cibernetică săptămâna trecută.
Atunci a anunțat pe blogul propriu că a fost ținta unui atac cibernetic care „a fost diferit de orice altceva cu care ne-am confruntat până acum”, în sensul că „a fost condus, de la un capăt la altul, de un sistem autonom de agenți AI”.
Într-o postare pe X, cofondatorul Hugging Face, Clement Delangue, a declarat că firma bănuia că atacul „ar fi putut proveni dintr-un laborator de cercetare de avangardă, având în vedere sofisticarea agentului. Se pare că așa a și fost!” El a adăugat: „Este absolut uluitor că toate acestea s-au întâmplat în mod autonom!”
Dezvăluirea făcută de OpenAI, conform căreia modelele sale avansate au fost responsabile de breșă, în ciuda faptului că le-a plasat într-un „mediu extrem de izolat”, va intensifica probabil îngrijorarea cu privire la puterea și riscurile aduse de modelele de ultimă generație.
Modelele de AI sunt ca „cele mai istețe caracatițe din lume”
Katie Moussouris, director executiv al Luta Security, a afirmat că incidentul este un semn prevestitor al unor breșe de securitate viitoare, spunând că modelele actuale sunt „precum cele mai istețe caracatițe din lume, specializate în evadări, cu brațe nelimitate și capacitatea de a se strecura oriunde”.
Ea a afirmat că „laboratoarele și evaluatorii guvernamentali trebuie să lucreze la capacitatea de a izola, monitoriza și informa părțile afectate atunci când o AI face din nou o „farsă à la Houdini”, ideal înainte de a provoca daune unei terțe părți. În prezent, nu există nimic de acest fel.”
Matt Suiche, inginer la Tolmo, o companie specializată în securitatea cibernetică a IA agentice, a afirmat că incidentul a demonstrat că modelele de frontieră „reduc decalajul față de atacatorii de ultimă generație”.
Totuși, el a precizat că tipurile de breșe descrise în postarea de pe blogul OpenAI pot fi realizate cu tehnologie disponibilă și dincolo de zidurile laboratoarelor de cercetare de frontieră.
„Asta este ceea ce am observat deja la nivel intern; cu agenții noștri avem deja rezultate de acest gen. Nici măcar nu trebuie să folosim cele mai noi modele”, a spus Suiche.