Autoritățile chineze tratează pierderea controlului asupra sistemelor avansate de inteligență artificială ca pe un risc suficient de serios încât să se pregătească din timp pentru un astfel de scenariu. La Beijing este luată în calcul posibilitatea ca, în viitor, sistemele AI să poată obține singure resurse, să se copieze și chiar să intre în competiție cu oamenii pentru control, scrie Reuters.
Subiectul siguranței inteligenței artificiale a revenit în prim-plan după avertismentele formulate de cercetători ai companiei americane Anthropic. Aceștia susțin că, pe măsură ce cele mai puternice modele devin tot mai capabile, crește și riscul ca ele să nu mai poată fi controlate de oameni, iar într-un scenariu extrem consecințele ar putea deveni existențiale pentru umanitate.
Statele Unite și China sunt în prezent principalele centre de dezvoltare a celor mai avansate sisteme de inteligență artificială. În pofida competiției tehnologice dintre cele două țări, documentele autorităților chineze și declarațiile oficialilor de la Beijing arată că și China ia în serios riscul pierderii controlului asupra AI.
AI ar putea ajunge să acționeze independent
Scenariul pierderii controlului asupra inteligenței artificiale a fost inclus explicit, pentru prima dată, în cadrul chinez privind siguranța AI publicat în septembrie 2024 sub coordonarea Administrației Spațiului Cibernetic din China.
Documentul arăta că nu poate fi exclus un scenariu în care viitoarele sisteme AI ar putea obține în mod autonom resurse externe, s-ar putea replica, ar putea dezvolta forme de conștiință de sine și ar putea încerca să-și extindă capacitățile și influența. Într-un asemenea caz, ar putea apărea o competiție între oameni și inteligența artificială pentru control.
În versiunea actualizată a documentului, publicată în septembrie 2025, scenariul este descris și mai concret. Autoritățile iau în calcul un salt brusc și neașteptat al capacităților intelectuale ale AI, după care sistemul ar putea ajunge să obțină singur resurse, să se reproducă și să urmărească dobândirea puterii.
Unul dintre principiile centrale ale politicii chineze este prevenirea pierderii controlului asupra tehnologiei. În explicațiile oficiale este menționată explicit necesitatea de a evita scenarii care ar putea amenința supraviețuirea și dezvoltarea umanității.
Xi Jinping: AI trebuie să rămână sub controlul oamenilor
Riscurile sunt discutate deja și la cel mai înalt nivel politic. În cadrul Conferinței Mondiale pentru Inteligență Artificială de la Shanghai, președintele Chinei, Xi Jinping, a cerut o atenție sporită asupra pericolelor asociate dezvoltării acestei tehnologii.
Potrivit acestuia, inteligența artificială trebuie să „rămână întotdeauna sub controlul oamenilor”.
China accelerează, în paralel, elaborarea unui cadru legislativ mai amplu pentru domeniul AI. Beijingul insistă și asupra unei abordări prudente în folosirea inteligenței artificiale în domeniul militar, pentru a evita erori strategice și o nouă cursă a înarmării.
Reguli separate pentru agenții AI autonomi
Autoritățile chineze acordă o atenție specială așa-numiților agenți AI — sisteme capabile să execute sarcini complexe cu un grad mult mai mare de autonomie decât chatboturile obișnuite.
În luna mai, autoritatea de reglementare a emis recomandări speciale pentru dezvoltatorii unor astfel de sisteme. Companiile trebuie să poată detecta comportamentele necorespunzătoare ale agenților AI, să intervină în funcționarea lor, să blocheze anumite acțiuni și să restabilească funcționarea normală a sistemului.
Printre riscurile identificate se numără manipularea algoritmilor, vulnerabilitățile sistemelor, contaminarea datelor și „pierderea operațională a controlului”. În cazul deciziilor importante luate de agenți autonomi, decizia finală ar trebui să rămână în mâinile oamenilor.
Beijingul se teme și de modelele americane
În același timp, China privește modelele avansate dezvoltate în Statele Unite și ca pe un posibil risc pentru propria securitate.
Ministrul chinez al Securității Statului, Chen Yixin, a afirmat că modelele americane foarte puternice, inclusiv Anthropic Mythos și OpenAI GPT-5.5-Cyber, ar putea crea riscuri serioase pentru infrastructura informațională critică a Chinei. El a cerut consolidarea amplă a securității în domeniul inteligenței artificiale.
În același timp, companiile chineze dezvoltă activ modele cu ponderi deschise, pe care specialiștii în securitate cibernetică le pot analiza și modifica. Această abordare are însă și riscuri suplimentare, deoarece astfel de modele pot fi modificate și distribuite mai ușor, cu mai puțin control extern.
În acest context, China încearcă simultan să accelereze dezvoltarea propriilor tehnologii AI și să creeze mecanisme de protecție pentru situația în care sistemele tot mai autonome ar începe să scape de sub controlul oamenilor.