Anthropic blokuje próby wykorzystania Claude do produkcji broni biologicznej
Anthropic opublikował raport, w którym opisuje, jak między grudniem 2025 a sierpniem 2026 roku wykrył i powstrzymał próby wykorzystania swojego modelu KI Claude do niebezpiecznych celów.
Zgodnie z informacjami firmy, było pięć przypadków, w których ludzie próbowali użyć Claude do badań nad bronią biologiczną. W jednym z przykładów ktoś korzystał z anonimowego adresu e-mail i VPN, aby wysłać tysiące wiadomości z prośbą o pomoc w badaniach nad wysoce zaraźliwym wirusem grypy.
W innym przypadku naukowiec chciał, według Anthropic, użyć Claude do sformułowania wniosku o dofinansowanie badań nad wirusem, które miały zostać przeprowadzone w placówce wojskowej. Firma zablokowała dostęp z ostrożności, mimo że nie było pewne, czy intencje były szkodliwe.
Raport wspomina również o próbach wykorzystania Claude do rozwoju konwencjonalnej broni, np. rakiet i dronów przez grupy w Jemenie oraz technologii przeciwtorpedowej z Chin. Ponadto KI została, według Anthropic, użyta przez grupy powiązane z Rosją i Iranem do szpiegostwa i propagandy.
Anthropic oskarża również chińskie firmy, takie jak Moonshot i Deepseek, o tajemne przekierowywanie zapytań do Claude w celu trenowania własnych modeli KI. Te zarzuty nie mogły zostać niezależnie zweryfikowane na podstawie dostępnych źródeł.
Jacob Klein, odpowiedzialny w Anthropic za analizy zagrożeń, powiedział, według New York Times, że jest to „niesamowicie złożona sytuacja”, ponieważ te same informacje mogą zostać wykorzystane zarówno do produkcji broni, jak i szczepionek.
Raport ukazał się niedługo po tym, jak były główny badacz ds. bezpieczeństwa w Anthropic publicznie ostrzegł przed zagrożeniami, jakie KI stwarza dla ludzkości.
DLA CZEGO TO WAŻNE
Raport pokazuje, że modele KI są już celowo wykorzystywane do niebezpiecznych celów, takich jak badania nad bronią biologiczną i innymi rodzajami uzbrojenia, mimo że dostawcy starają się temu zapobiegać.
CO MOŻESZ ZROBIĆ TERAZ
- Bądź sceptyczny wobec odpowiedzi KI na temat substancji niebezpiecznych Jeśli KI dostarcza ci informacji na temat chemikaliów, wirusów lub broni, zawsze sprawdź je w zaufanych, oficjalnych źródłach. Nie polegać wyłącznie na czacie.
- Zgłaszaj podejrzane wykorzystanie usług KI Jeśli zauważysz, że ktoś próbuje użyć KI do niebezpiecznych celów, możesz to zgłosić dostawcy lub władzom. Wiele firm oferuje specjalne formularze zgłoszeniowe.
- Czytaj raporty bezpieczeństwa dużych dostawców KI Firmy takie jak Anthropic regularnie publikują raporty o wykrytych nadużyciach swoich KI. Rzucenie na nie okiem pokaże ci, jakie istnieją ryzyka i jak poważnie są traktowane.
- Korzystaj z usług KI tylko przez oficjalne kanały Unikaj podejrzanych pośredników lub anonimowych dostępów do narzędzi KI, ponieważ często są one wykorzystywane do omijania zasad bezpieczeństwa. Rejestruj się swoją prawdziwą tożsamością u zaufanych dostawców.