Anthropic bloqueia tentativas de usar Claude para armas biológicas
A Anthropic publicou um relatório no qual descreve como, entre dezembro de 2025 e agosto de 2026, descobriu e interrompeu tentativas de usar seu modelo de IA, Claude, para fins perigosos.
De acordo com a Anthropic, isso incluiu cinco casos em que pessoas tentaram usar o Claude para pesquisar armas biológicas. Em um exemplo, alguém usou um endereço de e-mail anônimo e uma VPN para enviar milhares de mensagens pedindo ajuda na pesquisa de um vírus da gripe altamente contagioso.
Em outro caso, segundo a Anthropic, um cientista queria usar o Claude para redigir um pedido de financiamento para uma pesquisa sobre um vírus que seria realizada em uma instalação militar. A empresa bloqueou o acesso por precaução, embora não tenha ficado claro se a intenção era maliciosa.
O relatório também menciona tentativas de usar o Claude para o desenvolvimento de armas convencionais, como mísseis e drones por grupos no Iêmen, e tecnologia antitorpedeiro da China. Além disso, a IA foi usada, segundo a Anthropic, por grupos com vínculos à Rússia e ao Irã para espionagem e propaganda.
A Anthropic também acusa empresas chinesas como Moonshot e Deepseek de terem redirecionado secretamente solicitações ao Claude para treinar seus próprios modelos de IA. Essas alegações não puderam ser verificadas de forma independente com base nas fontes disponíveis.
Jacob Klein, responsável por análises de ameaças na Anthropic, disse ao New York Times que se trata de uma "situação incrivelmente complexa", pois as mesmas informações poderiam ser usadas tanto para armas quanto para vacinas.
O relatório foi publicado pouco depois de um ex-pesquisador de segurança sênior da Anthropic ter alertado publicamente sobre os riscos da IA para a humanidade.
POR QUE ISSO É IMPORTANTE
O relatório mostra que modelos de IA já estão sendo usados de forma direcionada para fins perigosos, como pesquisas sobre armas biológicas e armas convencionais, mesmo que os provedores tentem evitar isso.
O QUE VOCÊ PODE FAZER AGORA
- Mantenha ceticismo em relação a respostas de IA sobre substâncias perigosas Se uma IA fornecer informações sobre produtos químicos, vírus ou armas, sempre verifique as informações em fontes oficiais confiáveis. Não confie apenas no chatbot.
- Denuncie o uso suspeito de serviços de IA Se perceber que alguém está usando uma IA para fins perigosos, você pode denunciar ao provedor ou às autoridades. Muitas empresas oferecem formulários específicos para isso.
- Leia relatórios de segurança de grandes provedores de IA Empresas como a Anthropic publicam regularmente relatórios sobre casos de uso indevido de suas IAs. Dar uma olhada neles mostra quais são os riscos e como eles são levados a sério.
- Use serviços de IA apenas por meio de acessos oficiais Evite revendedores duvidosos ou acessos anônimos a ferramentas de IA, pois eles são frequentementes usados para contornar regras de segurança. Cadastre-se com sua identidade real em provedores sérios.