Anthropic blockiert Versuche, Claude für Biowaffen zu nutzen
Anthropic hat einen Bericht veröffentlicht, in dem die Firma beschreibt, wie sie zwischen Dezember 2025 und August 2026 Versuche entdeckt und gestoppt hat, ihr KI-Modell Claude für gefährliche Zwecke einzusetzen.
Laut Anthropic gehörten dazu fünf Fälle, in denen Menschen versuchten, mit Claude an biologischen Waffen zu forschen. In einem Beispiel nutzte jemand über eine anonyme E-Mail-Adresse und ein VPN tausende Nachrichten, um Hilfe bei der Erforschung eines hochansteckenden Grippevirus zu bekommen.
In einem anderen Fall wollte laut Anthropic ein Wissenschaftler mit Claude einen Förderantrag für Forschung an einem Virus formulieren, die an einer militärischen Einrichtung stattfinden sollte. Die Firma blockierte den Zugang aus Vorsicht, obwohl unklar blieb, ob die Absicht schädlich war.
Der Bericht nennt auch Versuche, Claude für die Entwicklung konventioneller Waffen zu nutzen, etwa für Raketen und Drohnen durch Gruppen im Jemen sowie für Anti-Torpedo-Technik aus China. Zusätzlich wurde die KI laut Anthropic von Gruppen mit Verbindungen zu Russland und dem Iran für Spionage und Propaganda eingesetzt.
Anthropic wirft außerdem chinesischen Firmen wie Moonshot und Deepseek vor, heimlich Anfragen an Claude umgeleitet zu haben, um eigene KI-Modelle zu trainieren. Diese Vorwürfe ließen sich aus den vorliegenden Quellen nicht unabhängig überprüfen.
Jacob Klein, der bei Anthropic für Bedrohungsanalysen verantwortlich ist, sagte laut New York Times, es handle sich um eine „unglaublich vielschichtige Situation“, da dieselben Informationen sowohl für Waffen als auch für Impfstoffe genutzt werden könnten.
Der Bericht erscheint kurz nachdem ein früherer leitender Sicherheitsforscher von Anthropic öffentlich vor den Risiken der KI für die Menschheit gewarnt hatte.
WARUM DAS WICHTIG IST
Der Bericht zeigt, dass KI-Modelle bereits gezielt für gefährliche Zwecke wie Biowaffen- und Waffenforschung missbraucht werden, auch wenn Anbieter versuchen, das zu verhindern.
WAS DU JETZT TUN KANNST
- Bleib skeptisch bei KI-Antworten zu Gefahrstoffen Wenn eine KI dir Informationen zu Chemikalien, Viren oder Waffen liefert, prüfe die Angaben immer bei vertrauenswürdigen offiziellen Stellen. Verlasse dich nicht allein auf den Chatbot.
- Melde verdächtige Nutzung von KI-Diensten Wenn du merkst, dass jemand eine KI für gefährliche Zwecke einsetzen will, kannst du das dem Anbieter oder den Behörden melden. Viele Firmen bieten dafür extra Meldeformulare an.
- Lies Sicherheitsberichte großer KI-Anbieter Firmen wie Anthropic veröffentlichen regelmäßig Berichte über erkannten Missbrauch ihrer KI. Ein Blick darauf zeigt dir, welche Risiken es gibt und wie ernst sie genommen werden.
- Nutze KI-Dienste nur über offizielle Zugänge Vermeide dubiose Wiederverkäufer oder anonyme Zugänge zu KI-Tools, da diese oft genutzt werden, um Sicherheitsregeln zu umgehen. Registriere dich mit deiner echten Identität bei seriösen Anbietern.