Compania Anthropic a introdus noi reguli de utilizare a chatbotului Claude, inclusiv o interdicție privind comportamentul sistematic abuziv față de inteligența artificială. Potrivit The Verge, Claude va putea încheia conversațiile dacă utilizatorii manifestă un comportament extrem de agresiv. Noile reguli vor intra în vigoare pe 12 noiembrie.
Anthropic și-a actualizat pentru prima dată în ultimul an politica de utilizare a modelelor sale de inteligență artificială. Printre modificări se numără restricții privind utilizarea AI pentru influențarea alegerilor, dezvoltarea armelor, supravegherea persoanelor, dar și în domeniile sănătății și finanțelor.
Una dintre cele mai neobișnuite prevederi este interzicerea „comportamentului sistematic și gratuit insultător sau abuziv” față de Claude. Potrivit noilor reguli, chatbotul va putea pune capăt discuției dacă utilizatorul continuă să manifeste un astfel de comportament.
Compania nu a precizat dacă vor exista și alte sancțiuni, precum suspendarea sau blocarea conturilor.
Anthropic susține însă că interdicția nu vizează situațiile obișnuite în care utilizatorii își exprimă nemulțumirea, contrazic chatbotul sau discută subiecte controversate. De asemenea, regula nu se aplică scenariilor creative întunecate, testării modelelor și activităților de cercetare. Măsura ar urma să fie utilizată doar în „cazuri extreme”.
Noile reguli interzic și folosirea Claude pentru interferențe electorale, inclusiv răspândirea informațiilor false despre candidați și procesul de vot, impersonarea candidaților sau a membrilor comisiilor electorale și încercările de descurajare a participării la alegeri.
Totodată, Anthropic interzice utilizarea chatbotului pentru supravegherea persoanelor fără consimțământul acestora, inclusiv a disidenților politici, precum și pentru luarea deciziilor privind arestarea unor persoane.