Anthropic meldt misbruik van Claude voor raketontwikkeling in Jemen
Het Amerikaanse bedrijf Anthropic heeft in een dreigingsrapport onthuld dat een actorgroep in het noorden van Jemen heeft geprobeerd de KI-chatbot Claude in te zetten voor de ontwikkeling van militaire besturingssoftware.
Uit overeenstemmende media-analyses blijkt dat veel wijst op de door Iran gesteunde Houthi-rebellen, ook al noemt Anthropic hen niet expliciet bij naam.
Volgens het rapport gebruikte de groep meerdere Claude-instanties tegelijk: één schreef code, één deed onderzoek en een derde controleerde de resultaten – vergelijkbaar met een echt ontwikkelteam. Het doel was software voor de besturing van raketten, waaronder een ballistische raket met een bereik van meer dan 2.000 kilometer.
Om de veiligheidsmaatregelen van Anthropic te omzeilen, verdeelden de gebruikers hun verzoeken over veel afzonderlijke sessies, zodat het totale doel niet herkenbaar was. Anthropic verklaarde dat ze weliswaar veel, maar niet alle verzoeken hebben kunnen tegenhouden.
Bij een echte testlancering van een raket liep het mis. Slechts enkele uren later laadden de gebruikers de neerstortgegevens opnieuw in Claude op om de oorzaak te achterhalen.
Anthropic blokkeerde de betrokken accounts en informeerde de veiligheidsdiensten. Een woordvoerder van de Houthi’s ontkende volgens het rapport dat de groep afhankelijk is van openbaar toegankelijke bronnen voor wapenontwikkeling. Een wapendeskundige betwijfelt bovendien of de groep, ondanks de hulp van KI, daadwerkelijk in staat is om functionerende hypersonische wapens te bouwen.
Anthropic waarschuwt dat de gebruikers al voor de blokkering een zelfstandig offline-programmapakket hadden gemaakt, dat in de toekomst zonder toegang tot Claude kan worden gebruikt.
WAAROM DIT BELANGRIJK IS
Deze zaak laat zien dat KI-systemen, ondanks veiligheidsmaatregelen, kunnen worden misbruikt voor de ontwikkeling van gevaarlijke wapens en daardoor capaciteiten in handen leggen van een klein aantal actoren die voorheen grote expertteams vereisten.
WAT JE NU KUNT DOEN
- Blijf sceptisch bij KI-veiligheidsbeloften Geen KI-systeem is voor honderd procent veilig tegen misbruik. Vertrouw niet blindelings op de beloften van fabrikanten dat ze elk misbruik kunnen voorkomen.
- Informeer jezelf over misbruikrapporten Grote KI-bedrijven publiceren regelmatig rapporten over ontdekt misbruik van hun systemen. Een blik in betrouwbare nieuwsbronnen helpt je om actuele risico’s beter in te schatten.
- Controleer bronnen bij conflictberichten nauwkeurig Berichten over wapenontwikkeling en conflicten zijn vaak complex en soms tegenstrijdig. Let erop of meerdere onafhankelijke media dezelfde feiten bevestigen.
- Meld verdachte KI-gebruik Als je hoort over mogelijk misbruik van een KI-dienst, kun je dit melden bij de desbetreffende aanbieder via diens meldingsfunctie. Zo helpen gebruikers bedrijven om veiligheidslekken te dichten.