Conducerile OpenAI, Anthropic și ale altor companii importante din domeniul inteligenței artificiale analizează, în cadrul unor discuții cu ușile închise, scenarii de criză majoră provocată de AI. Potrivit Axios, una dintre cele mai mari amenințări este un atac cibernetic de amploare, care ar putea perturba activitatea băncilor, funcționarea internetului și alimentarea cu energie electrică și apă.
Potrivit publicației, numeroși reprezentanți ai industriei AI consideră că un incident de proporții este inevitabil, iar unii estimează că acesta s-ar putea produce chiar în următoarele 6–12 luni.
Companiile se pregătesc nu doar pentru consecințele tehnice ale unei eventuale catastrofe, ci și pentru reacția societății. Un incident grav ar putea provoca un val de nemulțumiri și ar putea alimenta solicitările de limitare sau chiar suspendare a dezvoltării sistemelor avansate de inteligență artificială.
Reprezentanții companiilor simulează deja cele mai grave scenarii și discută despre modul în care ar urma să colaboreze cu Congresul SUA în cazul izbucnirii unei crize.
OpenAI precizează însă că nu consideră astfel de evenimente inevitabile.
„Organizăm exerciții de pregătire pentru diferite scenarii. Asta nu înseamnă că le considerăm inevitabile. Aceste exerciții ne ajută să fim pregătiți pentru o gamă largă de situații”, a explicat un reprezentant al companiei.
Anthropic a refuzat să comenteze.
Anterior, fondatorul Microsoft, Bill Gates, a avertizat că anul 2027 ar putea aduce „multe surprize neplăcute” din cauza dezvoltării inteligenței artificiale. Potrivit acestuia, principalul pericol îl reprezintă utilizarea modelelor avansate de AI de către infractorii cibernetici, care le-ar putea folosi pentru atacuri de amploare asupra infrastructurii digitale, șantaj și perturbarea funcționării unor sisteme esențiale.