Anthropic blochează încercările de a folosi Claude pentru arme biologice
Anthropic a publicat un raport în care compania descrie cum a descoperit și oprit, între decembrie 2025 și august 2026, încercările de a folosi modelul său de IA, Claude, în scopuri periculoase.
Potrivit Anthropic, au fost cinci cazuri în care persoane au încercat să folosească Claude pentru cercetarea armelor biologice. Într-un exemplu, cineva a folosit o adresă de e-mail anonimă și un VPN pentru a trimite mii de mesaje în căutarea de ajutor pentru cercetarea unui virus gripal extrem de contagios.
În alt caz, un cercetător a vrut, conform Anthropic, să folosească Claude pentru a formula o cerere de finanțare a cercetării unui virus, care urma să aibă loc într-o instituție militară. Compania a blocat accesul din prudență, deși nu era clar dacă intenția era dăunătoare.
Raportul menționează și încercări de a folosi Claude pentru dezvoltarea de arme convenționale, cum ar fi rachete și drone, de către grupuri din Yemen, precum și pentru tehnologii anti-torpilă din China. De asemenea, IA a fost folosită, potrivit Anthropic, de grupuri cu legături cu Rusia și Iranul pentru spionaj și propagandă.
Anthropic acuză, de asemenea, companiile chinezești precum Moonshot și Deepseek că au redirecționat în secret cereri către Claude pentru a antrena propriile modele de IA. Aceste acuzații nu au putut fi verificate independent din sursele disponibile.
Jacob Klein, responsabil cu analiza amenințărilor la Anthropic, a declarat pentru New York Times că este vorba de o „situație incredibil de complexă”, deoarece aceleași informații pot fi folosite atât pentru arme, cât și pentru vaccinuri.
Raportul apare scurt timp după ce un fost cercetător de securitate de la Anthropic a avertizat public cu privire la riscurile pe care IA le reprezintă pentru omenire.
DE CE ESTE IMPORTANT
Raportul arată că modelele de IA sunt deja folosite în mod intenționat pentru scopuri periculoase, cum ar fi cercetarea armelor biologice și a armelor, chiar dacă furnizorii încearcă să prevină acest lucru.
CE POȚI FACE ACUM
- Rămâi sceptic față de răspunsurile IA privind substanțele periculoase Dacă o IA îți furnizează informații despre substanțe chimice, viruși sau arme, verifică întotdeauna datele la surse oficiale de încredere. Nu te baza doar pe chatbot.
- Raportează utilizarea suspectă a serviciilor de IA Dacă observi că cineva încearcă să folosească o IA în scopuri periculoase, poți raporta acest lucru furnizorului sau autorităților. Multe companii oferă formulare speciale pentru astfel de sesizări.
- Citește rapoartele de securitate ale furnizorilor mari de IA Companiile precum Anthropic publică regulat rapoarte despre cazurile de abuz detectate ale IA lor. O privire asupra acestora îți arată care sunt riscurile și cât de serios sunt luate în considerare.
- Folosește serviciile de IA doar prin acces oficial Evită revânzătorii dubioși sau accesul anonim la instrumentele de IA, deoarece acestea sunt adesea folosite pentru a ocoli regulile de securitate. Înregistrează-te cu identitatea ta reală la furnizori serioși.