Google, OpenAI e Anthropic negociam sobre segurança em IA
A OpenAI confirmou que, há várias semanas, a empresa tem trocado informações com os concorrentes Anthropic e Google DeepMind sobre questões de segurança no desenvolvimento de IA. Isso foi revelado pelo chefe de políticas da OpenAI, Chris Lehane, segundo a TechCrunch, na terça-feira.
De acordo com relatórios internos da revista The Information, essas conversas já vêm acontecendo desde julho. Supostamente, o objetivo é criar uma organização conjunta para supervisionar padrões de segurança em sistemas de IA.
O debate público foi desencadeado por um ensaio do CEO da Anthropic, Dario Amodei, publicado no sábado, no qual ele pede para reduzir o ritmo do desenvolvimento de IA a fim de acompanhar melhor os riscos de segurança. Anteriormente, segundo a heise, um funcionário da Anthropic deixou a empresa e criticou publicamente que os aspectos de segurança estavam sendo negligenciados.
Vários CEOs de empresas de IA, incluindo Sam Altman, da OpenAI, e Demis Hassabis, do Google, apoiaram o apelo de Amodei. Altman anunciou, segundo a TechCrunch, que a OpenAI pretendia incorporar auditores independentes em seus processos de segurança.
Ainda não está claro, segundo os relatórios, se essa colaboração violaria as leis de concorrência. Amodei sugeriu uma exceção governamental para isso, mas Lehane afirmou que, em sua opinião, isso não seria necessário.
O governo dos EUA, sob o presidente Trump, expressou ceticismo em relação às preocupações de segurança e alertou, segundo a TechCrunch, que uma desaceleração poderia dar vantagem à China. Segundo a heise, a Meta também teria uma postura crítica em relação a uma autoridade de controle nacional.
Permanece incerto se e quando a organização de segurança planejada realmente será criada, já que várias informações são baseadas em fontes anônimas e as empresas envolvidas ainda não se manifestaram publicamente de forma completa sobre o assunto.
POR QUE ISSO É IMPORTANTE
Mostra como as maiores empresas de IA lidam com os riscos de suas próprias tecnologias e se um controle independente pode surgir.
O QUE VOCÊ PODE FAZER AGORA
- Mantenha-se cético em relação a notícias sobre IA Compare relatórios sobre segurança em IA com várias fontes confiáveis. Assim, você identifica se uma notícia é realmente confirmada ou baseada apenas em rumores.
- Preste atenção a auditorias independentes Verifique se um provedor de IA utiliza auditores ou organizações de fiscalização independentes. Isso mostra o quanto a empresa leva a segurança a sério.
- Acompanhe regulamentações reais, não apenas anúncios Informe-se junto a autoridades ou meios de comunicação confiáveis sobre quais leis ou padrões para IA foram realmente aprovados. Não confie apenas nas declarações das empresas.
- Use serviços de IA de forma consciente e moderada Escolha provedores que relatam abertamente suas medidas de segurança. Antes de usar, pense sobre quais dados você insere e como a empresa lida com eles.