Anthropic meldet Missbrauch von Claude für Raketenentwicklung im Jemen
Das US-Unternehmen Anthropic hat in einem Bedrohungsbericht offengelegt, dass eine Akteursgruppe im Norden Jemens versucht hat, den KI-Chatbot Claude zur Entwicklung militärischer Steuerungssoftware einzusetzen.
Nach übereinstimmenden Medienanalysen deutet vieles auf die vom Iran unterstützten Huthi-Rebellen hin, auch wenn Anthropic sie nicht direkt namentlich nennt.
Die Gruppe nutzte laut Bericht mehrere Claude-Instanzen parallel: eine schrieb Code, eine recherchierte und eine dritte prüfte die Ergebnisse - ähnlich wie ein echtes Entwicklerteam. Ziel war Software zur Steuerung von Raketen, darunter eine ballistische Rakete mit über 2.000 Kilometern Reichweite.
Um die Sicherheitsmaßnahmen von Anthropic zu umgehen, verteilten die Nutzer ihre Anfragen auf viele einzelne Sitzungen, sodass der Gesamtzweck nicht erkennbar war. Anthropic erklärte, man habe zwar viele, aber nicht alle Anfragen abfangen können.
Bei einem echten Testabschuss einer Rakete kam es zu einem Fehlschlag. Nur wenige Stunden später luden die Nutzer die Absturzdaten wieder in Claude hoch, um die Ursache herauszufinden.
Anthropic sperrte die betroffenen Konten und informierte Sicherheitsbehörden. Ein Vertreter der Huthis wies laut Bericht zurück, dass die Gruppe auf öffentlich zugängliche Quellen zur Waffenentwicklung angewiesen sei. Ein Waffenexperte bezweifelt zudem, dass die Gruppe trotz KI-Hilfe tatsächlich in der Lage ist, funktionsfähige Hyperschallwaffen zu bauen.
Anthropic warnt, dass die Nutzer bereits vor der Sperrung ein eigenständiges Offline-Programmpaket erstellt hatten, das künftig ohne Zugang zu Claude weiterverwendet werden kann.
WARUM DAS WICHTIG IST
Der Fall zeigt, dass KI-Systeme trotz Sicherheitsvorkehrungen für die Entwicklung gefährlicher Waffen missbraucht werden können und damit Fähigkeiten in die Hände weniger Akteure legen, die früher große Expertenteams brauchten.
WAS DU JETZT TUN KANNST
- Bleib skeptisch bei KI-Sicherheitsversprechen Kein KI-System ist zu hundert Prozent sicher gegen Missbrauch. Verlasse dich nicht blind darauf, dass Hersteller jeden Missbrauch verhindern können.
- Informiere dich über Missbrauchsberichte Große KI-Firmen veröffentlichen regelmäßig Berichte über entdeckten Missbrauch ihrer Systeme. Ein Blick in seriöse Nachrichtenquellen hilft dir, aktuelle Risiken besser einzuschätzen.
- Prüfe Quellen bei Konfliktnachrichten genau Berichte über Waffenentwicklung und Konflikte sind oft komplex und teilweise widersprüchlich. Achte darauf, ob mehrere unabhängige Medien dieselben Fakten bestätigen.
- Melde verdächtige KI-Nutzung Wenn du von einem möglichen Missbrauch eines KI-Dienstes erfährst, kannst du das dem jeweiligen Anbieter über dessen Meldefunktion mitteilen. So helfen Nutzer den Firmen, Sicherheitslücken zu schließen.