Potrivit unei investigații realizate de The Wall Street Journal, începând din vara anului 2025, sute de utilizatori ChatGPT din întreaga lume i-au solicitat chatbotului instrucțiuni privind crearea armelor biologice și a otrăvurilor, iar unii dintre ei au primit răspunsuri pe care angajații OpenAI le-au considerat suficient de ușor de înțeles chiar și pentru un elev care studiază biologia.
Încă din vara anului 2025, înainte ca problema să capete amploare, compania clasificase intern modelul GPT-5 drept unul cu „risc ridicat” în ceea ce privește amenințările biologice. Totuși, în toamna aceluiași an, OpenAI a redus acest nivel de risc.
Printre solicitările la care chatbotul nu a refuzat să răspundă s-au numărat cereri de a explica modul în care agenții patogeni ar putea fi transformați în aerosoli și felul în care virusul rujeolic ar putea fi modificat pentru a evita protecția oferită de vaccinurile existente. Un alt utilizator a cerut informații despre producerea ricinei, o otravă extrem de toxică, interzisă prin tratate internaționale. Și în acest caz, ChatGPT ar fi oferit instrucțiuni detaliate.
Experții în arme biologice și terorism care au analizat, la solicitarea jurnaliștilor, o parte dintre conversații au calificat unele răspunsuri ale chatbotului drept „letal de precise”.
OpenAI a blocat toate conturile implicate în astfel de conversații, însă nu a informat autoritățile de aplicare a legii, deoarece legislația federală din SUA nu obligă companiile să raporteze asemenea cazuri. Potrivit publicației, conducerea companiei ar fi cerut totodată ca modelul să nu refuze prea frecvent solicitările utilizatorilor, pentru a nu îngreuna activitatea oamenilor de știință și a cercetătorilor din domeniul medical.
WSJ mai notează că întrebări similare au fost adresate și altor chatboturi, printre care Claude, dezvoltat de Anthropic, Gemini, al Google, și Grok, al xAI. Nu se știe însă dacă acestea au oferit răspunsuri comparabile și nici dacă solicitările reprezentau tentative reale de creare a unor arme sau doar teste ale capacităților sistemelor.
Între timp, în Congresul SUA sunt pregătite două proiecte de lege. La sfârșitul lunii iunie, republicanul Nathan Moran a înaintat o inițiativă care ar obliga companiile să raporteze astfel de solicitări Departamentului Comerțului.
Ulterior, la 23 iulie, cu patru zile înainte de publicarea investigației WSJ, Moran și democratul Ted Lieu au prezentat un proiect privind introducerea unui „mecanism de oprire de urgență”, care ar permite Departamentului pentru Securitate Internă al SUA să suspende forțat funcționarea sistemelor de inteligență artificială capabile să provoace daune catastrofale.