Anthropic blokkeert pogingen om Claude te gebruiken voor biowapens
Anthropic heeft een rapport gepubliceerd waarin het bedrijf beschrijft hoe het tussen december 2025 en augustus 2026 pogingen heeft ontdekt en gestopt om hun KI-model Claude voor gevaarlijke doeleinden in te zetten.
Volgens Anthropic betrof het vijf gevallen waarin mensen probeerden met Claude onderzoek te doen naar biologische wapens. In één voorbeeld gebruikte iemand via een anonim e-mailadres en een VPN duizenden berichten om hulp te krijgen bij het onderzoek naar een zeer besmettelijk griepvirus.
In een ander geval wilde een wetenschapper volgens Anthropic met Claude een subsidieaanvraag formuleren voor onderzoek naar een virus dat op een militaire inrichting zou plaatsvinden. Het bedrijf blokkeerde de toegang uit voorzorg, hoewel onduidelijk bleef of de bedoeling schadelijk was.
Het rapport noemt ook pogingen om Claude te gebruiken voor de ontwikkeling van conventionele wapens, zoals raketten en drones door groepen in Jemen, en anti-torpedotechnologie uit China. Daarnaast werd de KI volgens Anthropic door groepen met banden met Rusland en Iran gebruikt voor spionage en propaganda.
Anthropic beschuldigt bovendien Chinese bedrijven zoals Moonshot en Deepseek ervan in het geheim verzoeken naar Claude te hebben omgeleid om eigen KI-modellen te trainen. Deze beschuldigingen konden niet onafhankelijk worden geverifieerd op basis van de beschikbare bronnen.
Jacob Klein, verantwoordelijk voor dreigingsanalyses bij Anthropic, zei tegen The New York Times dat het een „ongelooflijk complex situatie” betrof, omdat dezelfde informatie zowel voor wapens als voor vaccins gebruikt zou kunnen worden.
Het rapport verschijnt kort nadat een voormalig hoofd veiligheidsonderzoeker van Anthropic openlijk waarschuwde voor de risico’s van KI voor de mensheid.
WAAROM DIT BELANGRIJK IS
Het rapport laat zien dat KI-modellen al doelgericht worden misbruikt voor gevaarlijke doeleinden zoals onderzoek naar biowapens en wapens, ook al proberen aanbieders dit te voorkomen.
WAT JE NU KUNT DOEN
- Blijf sceptisch bij KI-antwoorden over gevaarlijke stoffen Als een KI je informatie geeft over chemicaliën, virussen of wapens, controleer de gegevens dan altijd bij betrouwbare officiële instanties. Vertrouw niet alleen op de chatbot.
- Meld verdachte gebruik van KI-diensten Als je merkt dat iemand een KI voor gevaarlijke doeleinden wil gebruiken, kun je dit melden bij de aanbieder of de autoriteiten. Veel bedrijven bieden hiervoor speciale meldingsformulieren aan.
- Lees veiligheidsrapporten van grote KI-aanbieders Bedrijven zoals Anthropic publiceren regelmatig rapporten over ontdekt misbruik van hun KI. Een blik hierop laat je zien welke risico’s er zijn en hoe serieus ze worden genomen.
- Gebruik KI-diensten alleen via officiële toegang Vermijd twijfelachtige doorverkopers of anonyme toegang tot KI-tools, omdat deze vaak worden gebruikt om veiligheidsregels te omzeilen. Registreer je met je echte identiteit bij betrouwbare aanbieders.