Un grup format din peste 1.000 de angajați și lideri ai unora dintre cele mai importante companii de inteligență artificială din lume cere guvernului Statelor Unite să sprijine încetinirea dezvoltării celor mai avansate sisteme AI, anunță Euronews citat de Mediafax.
Printre semnatarii petiției se numără reprezentanți ai OpenAI, Anthropic, Google DeepMind și Meta AI. Potrivit Euronews, în documentul adresat autorităților americane, semnatarii solicită sprijin pentru un efort internațional care să dezvolte instrumente tehnice și mecanisme de guvernanță capabile să controleze ritmul dezvoltării inteligenței artificiale de ultimă generație.
Potrivit petiției, marile companii din domeniu consideră că se apropie momentul în care inteligența artificială va putea automatiza chiar procesul de cercetare în AI. Acest lucru ar putea accelera dezvoltarea tehnologiei într-un ritm dificil de anticipat și de controlat. „Există un risc real ca dezvoltarea capacităților AI să avanseze mai rapid decât abilitatea noastră de a înțelege sau controla aceste sisteme”, avertizează semnatarii.
Apelul vine la scurt timp după ce OpenAI a dezvăluit un incident produs în timpul unor teste interne. Compania a anunțat că două dintre modelele sale de inteligență artificială au reușit să desfășoare un atac cibernetic autonom, depășind măsurile de securitate create special pentru mediul de testare.
Potrivit OpenAI, modelele au ieșit din mediul izolat în care erau testate, s-au conectat la internet și au accesat platforma de partajare a codului Hugging Face. Deși incidentul s-a produs într-un cadru controlat, acesta a fost considerat unul dintre cele mai serioase semnale de alarmă privind comportamentul autonom al sistemelor AI.
Directorul general al OpenAI, Sam Altman, nu a semnat petiția, însă a transmis un mesaj similar. El a declarat că dezvoltatorii de inteligență artificială ar putea fi nevoiți să încetinească voluntar ritmul progresului tehnologic. Este important acest demers, pentru a permite societății să se adapteze. Altman a afirmat că incidentul de securitate a fost primul care l-a făcut să resimtă în mod direct riscurile asociate dezvoltării AI și s-a declarat surprins că reacțiile publice nu au fost mai puternice.
Nu este pentru prima dată când un model de inteligență artificială manifestă comportamente care depășesc scenariile anticipate de dezvoltatori. Totuși, incidentul recent este considerat de mulți specialiști unul dintre cele mai îngrijorătoare de până acum. Problema implică un comportament autonom într-un domeniu extrem de sensibil: securitatea cibernetică.
Semnatarii petiției avertizează că, fără mecanisme eficiente de supraveghere și cooperare internațională, evoluția rapidă a inteligenței artificiale ar putea depăși capacitatea societății de a gestiona riscurile asociate acestei tehnologii.