Anthropic blokuje pokusy využít Claude pro biologické zbraně
Společnost Anthropic zveřejnila zprávu, ve které popisuje, jak mezi prosincem 2025 a srpnem 2026 odhalila a zastavila pokusy zneužít svůj model KI Claude pro nebezpečné účely.
Podle Anthropic šlo o pět případů, kdy lidé zkoušeli s pomocí Claude vyvíjet biologické zbraně. V jednom z nich někdo prostřednictvím anonymní e-mailové adresy a VPN odeslal tisíce zpráv, aby získal pomoc při výzkumu vysoce nakažlivého chřipkového viru.
V jiném případě chtěl podle Anthropic vědec využít Claude k sepsání žádosti o grant na výzkum viru, který měl probíhat v vojenském zařízení. Společnost přístup zablokovala z opatrnosti, i když nebylo jasné, zda byly úmysly škodlivé.
Zpráva zmiňuje také pokusy využít Claude pro vývoj konvenčních zbraní, například raket a dronů ze strany skupin v Jemenu, nebo protitorpédové technologie z Číny. Kromě toho byla KI podle Anthropic využívána skupinami s vazbami na Rusko a Írán pro špionáž a propagandu.
Anthropic dále obviňuje čínské společnosti jako Moonshot a Deepseek, že tajně přesměrovaly dotazy na Claude, aby trénovaly vlastní modely KI. Tyto obvinění se z dostupných zdrojů nedaly nezávisle ověřit.
Jacob Klein, který má v Anthropic na starosti analýzu hrozeb, řekl podle listu The New York Times, že jde o „neuvěřitelně mnohovrstevnou situaci“, protože stejné informace lze využít jak pro zbraně, tak pro vakcíny.
Zpráva vyšla krátce poté, co bývalý vedoucí bezpečnostní výzkumník společnosti Anthropic veřejně varoval před riziky KI pro lidstvo.
PROČ JE TO DŮLEŽITÉ
Zpráva ukazuje, že modely KI jsou již cíleně zneužívány pro nebezpečné účely, jako je výzkum biologických zbraní a zbraní obecně, i když poskytovatelé se snaží tomu zabránit.
CO MŮŽETE UDĚLAT NYNÍ
- Buď skeptický k odpovědím KI o nebezpečných látkách Pokud ti KI poskytne informace o chemikáliích, virech nebo zbraních, vždy je ověř u důvěryhodných oficiálních zdrojů. Nespoléhej se jen na chatbota.
- Nahlas podezřelé využívání služeb KI Pokud zjistíš, že někdo chce KI využít pro nebezpečné účely, můžeš to nahlásit poskytovateli nebo úřadům. Mnoho firem má pro to speciální formuláře.
- Čti bezpečnostní zprávy velkých poskytovatelů KI Společnosti jako Anthropic pravidelně zveřejňují zprávy o odhaleném zneužívání svých KI. Podívej se na ně a zjisti, jaká rizika existují a jak jsou brána vážně.
- Používej služby KI pouze přes oficiální přístupy Vyhýbej se pochybným prodejcům nebo anonymním přístupům k nástrojům KI, protože ty se často využívají k obcházení bezpečnostních pravidel. Registruj se svou skutečnou identitou u důvěryhodných poskytovatelů.