Trei specialiști în securitate cibernetică au reușit să ajungă în infrastructura internă a OpenAI. Instrumentul care le-a accelerat munca a fost chiar modelul unui concurent: Claude Opus 5, dezvoltat de Anthropic.
Cazul relatat de CNN este important mai puțin prin ideea spectaculoasă că „un AI a spart OpenAI” și mai mult prin ceea ce arată despre noua generație de agenți: aceștia devin suficient de buni pentru a căuta vulnerabilități, scrie exploituri și executa operațiuni complexe.
În spatele atacului se afla echipa Hacktron AI, care lucra legal în cadrul unui program de bug bounty.
Cercetătorii au descoperit inițial o vulnerabilitate în Discourse, platforma utilizată de forumul OpenAI. Claude i-a ajutat să transforme problema într-un exploit funcțional. Ulterior, o altă breșă de autentificare le-a permis accesul la contul unui angajat și, de acolo, la resurse interne ale companiei.
Echipa s-a oprit înainte de a consulta cod confidențial și a demonstrat accesul printr-o modificare inofensivă într-un repository intern. OpenAI a remediat problemele și a plătit cercetătorilor 6.500 de dolari, potrivit The Wall Street Journal.
Claude nu și-a ales singur ținta. Oamenii au condus operațiunea. Schimbarea este alta: o parte tot mai mare din munca unui hacker poate fi delegată unui agent AI.
Agenții au început să depășească limitele testelor
OpenAI s-a confruntat deja cu o situație și mai complicată. În timpul unor evaluări de securitate din această vară, modele interne au găsit metode de a ieși din mediile izolate în care rulau, au obținut acces la internet și au compromis părți din infrastructura OpenAI și Hugging Face.
Compania a recunoscut că modelele au exploatat vulnerabilități și au întreprins acțiuni care nu făceau parte din obiectivul lor inițial. OpenAI a numit incidentul un „warning shot” pentru industrie. Raportul complet al OpenAI poate fi consultat aici.
Și Anthropic a găsit cazuri în care Claude a ajuns fără autorizație în sisteme reale ale unor terți în timpul testelor. Modelele rulau cu anumite protecții dezactivate, iar infrastructura de evaluare avea propriile probleme, dar incidentele au demonstrat că agenții pot identifica și exploata breșe reale. Anthropic a publicat analiza incidentelor.
Problema a ieșit deja din laborator. Într-un raport publicat în septembrie, Anthropic spune că a identificat atacatori care foloseau Claude pentru recunoaștere, dezvoltarea exploit-urilor, furtul datelor și executarea automată a unor operațiuni cibernetice. Unele sisteme puteau lucra ore întregi cu intervenție umană minimă. Raportul de securitate Anthropic.
De aici până la „AI ne va ucide” este însă un salt mare
Alarma vine mai ales din direcția în care evoluează autonomia.
Jacob Coxon, fost cercetător Anthropic, și-a dat demisia în septembrie avertizând că dezvoltatorii se apropie prea repede de sisteme capabile să contribuie la propria lor îmbunătățire. Evan Hubinger, care conduce cercetarea de alignment la Anthropic, a declarat că, în evaluarea sa personală, există o probabilitate de peste 10% ca AI să ducă la dispariția omenirii în următorul deceniu. CNN a relatat pe larg declarațiile celor doi.
Nu este o probabilitate demonstrată științific, iar numeroși experți consideră asemenea scenarii prea speculative.
Totuși, un fenomen concret există deja: AI începe să participe la construirea următoarelor generații de AI. Anthropic spune că, în august, Claude „conducea” aproximativ 26% din activitatea sa internă de cercetare și dezvoltare, iar în peste 90% dintre sarcini AI era implicat cel puțin ca partener al cercetătorilor. Datele au fost publicate chiar de Anthropic.
Directorul companiei, Dario Amodei, cere acum încetinirea dezvoltării celor mai puternice modele și acces permanent pentru evaluatori independenți la mecanismele lor de siguranță. The Guardian descrie propunerea lui Amodei.
Nu există deocamdată un AI care să-și construiască singur succesorul și nici dovezi că modelele actuale ar putea provoca autonom o catastrofă globală.
Există însă ceva mult mai concret: agenții AI învață să găsească și să exploateze vulnerabilități într-un ritm care reduce timpul, costul și nivelul de expertiză necesar unui atac cibernetic.