Anthropic raportează abuzul lui Claude pentru dezvoltarea de rachete în Yemen
Compania americană Anthropic a dezvăluit într-un raport privind amenințările că un grup de actori din nordul Yemenului a încercat să utilizeze chatbot-ul IA Claude pentru a dezvolta software militar de control.
Potrivit analizelor media convergente, multe indicii sugerează că ar fi vorba de rebelii Huthi susținuți de Iran, deși Anthropic nu îi menționează direct pe nume.
Conform raportului, grupul a folosit mai multe instanțe ale lui Claude în paralel: una scria cod, una făcea cercetări, iar a treia verifica rezultatele – similar cu o echipă reală de dezvoltatori. Obiectivul era crearea de software pentru controlul rachetelor, inclusiv o rachetă balistică cu o rază de acțiune de peste 2.000 de kilometri.
Pentru a ocoli măsurile de securitate ale Anthropic, utilizatorii și-au împărțit cererile în multe sesiuni individuale, astfel încât scopul general să nu fie vizibil. Anthropic a declarat că, deși au blocat multe cereri, nu au putut opri pe toate.
În timpul unui test real de lansare a unei rachete, a avut loc un eșec. Câteva ore mai târziu, utilizatorii au încărcat din nou datele de prăbușire în Claude pentru a afla cauza.
Anthropic a blocat conturile implicate și a informat autoritățile de securitate. Un reprezentant al Huthi a respins, conform raportului, ideea că grupul ar depinde de surse publice pentru dezvoltarea armelor. Un expert în armament a pus la îndoială, de asemenea, dacă grupul ar putea construi, chiar și cu ajutorul IA, arme hipersonice funcționale.
Anthropic avertizează că utilizatorii au creat deja un pachet de programe offline independent înainte de blocare, care poate fi folosit și în viitor fără acces la Claude.
DE CE ESTE IMPORTANT
Acest caz arată că sistemele IA, în ciuda măsurilor de securitate, pot fi abuzate pentru dezvoltarea de arme periculoase, punând astfel capacități în mâinile unor actori care, altădată, aveau nevoie de echipe mari de experți.
CE POȚI FACE ACUM
- Rămâi sceptic față de promisiunile de securitate ale IA Niciun sistem IA nu este 100% sigur împotriva abuzurilor. Nu te baza orbeste pe faptul că producătorii pot preveni orice abuz.
- Informează-te despre rapoartele de abuz Companiile mari de IA publică regulat rapoarte despre abuzurile descoperite ale sistemelor lor. Un ochi aruncat asupra surselor de încredere te ajută să evaluezi mai bine riscurile actuale.
- Verifică sursele în cazul știrilor despre conflicte Rapoartele despre dezvoltarea de arme și conflicte sunt adesea complexe și uneori contradictorii. Asigură-te că mai multe mass-media independentă confirmă aceleași fapte.
- Raportează utilizarea suspectă a IA Dacă afli despre un posibil abuz al unui serviciu IA, poți raporta acest lucru furnizorului respectiv prin funcția de raportare. Astfel, utilizatorii ajută companiile să închidă vulnerabilitățile de securitate.