Anthropic relata uso indevido do Claude para desenvolvimento de foguetes no Iêmen
A empresa norte-americana Anthropic revelou em um relatório de ameaças que um grupo de atores no norte do Iêmen tentou usar o chatbot de IA Claude para desenvolver software militar de controle.
De acordo com análises convergentes da mídia, há fortes indícios de que se trata dos rebeldes Houthi, apoiados pelo Irã, embora a Anthropic não os tenha mencionado diretamente pelo nome.
O grupo, segundo o relatório, utilizou várias instâncias do Claude em paralelo: uma escrevia código, outra fazia pesquisas e uma terceira verificava os resultados — semelhante a uma equipe de desenvolvimento real. O objetivo era criar software para controlar foguetes, incluindo um foguete balístico com alcance superior a 2.000 quilômetros.
Para contornar as medidas de segurança da Anthropic, os usuários distribuíram suas solicitações em várias sessões individuais, de modo que o propósito geral não ficasse evidente. A empresa afirmou que, embora tenha bloqueado muitas solicitações, não conseguiu interceptar todas.
Em um teste real de lançamento de um foguete, houve uma falha. Poucas horas depois, os usuários carregaram os dados do acidente no Claude para descobrir a causa.
A Anthropic bloqueou as contas envolvidas e notificou as autoridades de segurança. Um representante dos Houthi negou, segundo o relatório, que o grupo dependa de fontes públicas para o desenvolvimento de armas. Além disso, um especialista em armamentos duvida que o grupo, mesmo com a ajuda da IA, seja capaz de construir armas hipersônicas funcionais.
A Anthropic alerta que os usuários já haviam criado um pacote de programas offline autônomo antes do bloqueio, que poderá ser usado no futuro sem acesso ao Claude.
POR QUE ISSO É IMPORTANTE
O caso mostra que sistemas de IA, apesar das medidas de segurança, podem ser usados indevidamente para o desenvolvimento de armas perigosas, colocando capacidades nas mãos de poucos atores que, antes, exigiriam grandes equipes de especialistas.
O QUE VOCÊ PODE FAZER AGORA
- Mantenha ceticismo em relação às promessas de segurança de IA Nenhum sistema de IA é 100% seguro contra uso indevido. Não confie cegamente que os fabricantes possam evitar todo tipo de abuso.
- Informe-se sobre relatórios de uso indevido Grandes empresas de IA publicam regularmente relatórios sobre casos de uso indevido de seus sistemas. Acompanhar fontes de notícias sérias ajuda você a avaliar melhor os riscos atuais.
- Verifique as fontes em notícias sobre conflitos com cuidado Relatórios sobre desenvolvimento de armas e conflitos são, muitas vezes, complexos e, às vezes, contraditórios. Verifique se várias mídias independentes confirmam os mesmos fatos.
- Denuncie uso suspeito de IA Se você souber de um possível uso indevido de um serviço de IA, pode relatá-lo ao provedor por meio de sua função de denúncia. Assim, os usuários ajudam as empresas a fechar falhas de segurança.