Tribunal de EE.UU. confirma la clasificación del Pentágono de Anthropic como riesgo de seguridad
Un tribunal de apelaciones en Washington D.C. ha decidido que el Ministerio de Defensa de EE.UU. tenía razón al clasificar a la empresa de IA Anthropic como un "riesgo en la cadena de suministro". Los jueces, por dos votos contra uno, dieron la razón al gobierno estadounidense.
El conflicto surgió cuando Anthropic se negó a dar al Pentágono acceso ilimitado a su modelo de IA, Claude. La empresa quería excluir contractualmente que su tecnología se utilizara para la vigilancia masiva de ciudadanos estadounidenses o para sistemas de armas autónomas.
El Pentágono rechazó estas condiciones y ordenó que las agencias federales dejaran de usar la tecnología de Anthropic. Según los documentos judiciales, el ministerio comenzó en marzo a eliminar los sistemas de IA.
Los jueces explicaron, según Ars Technica, que era "extremadamente preocupante" que modelos de IA con demasiadas restricciones pudieran fallar inesperadamente y, así, comprometer misiones militares importantes. Anthropic argumentó, por su parte, que los modelos sin restricciones podrían identificar incorrectamente objetivos para violencia letal.
Un portavoz de Anthropic declaró a CNBC que no estaban de acuerdo con la decisión y que estaban evaluando todas las opciones, incluyendo una revisión legal adicional. Otro tribunal federal en California había declarado en agosto que una clasificación similar era ilegal.
Como el gobierno de EE.UU. había utilizado dos bases legales diferentes para la clasificación, dos tribunales tuvieron que decidir por separado. Ahora no está claro cómo continuará el caso: Anthropic puede solicitar una nueva audiencia o llevar el caso ante el Tribunal Supremo.
POR QUÉ ES IMPORTANTE
El caso muestra cómo los gobiernos pueden intentar obligar a las empresas de IA a ceder su tecnología sin restricciones, incluso si esto conlleva riesgos de vigilancia y sistemas de armas autónomas.
QUÉ PUEDES HACER AHORA
- Mantente informado sobre la política de IA Sigue fuentes de noticias serias sobre decisiones relacionadas con el uso de IA por parte de los gobiernos. Así podrás detectar a tiempo cambios en las normas sobre vigilancia o sistemas de armas.
- Cuestiona el uso de IA por parte de las autoridades Si las instituciones públicas utilizan sistemas de IA, infórmate sobre su propósito exacto y las restricciones aplicadas. Las organizaciones de derechos civiles suelen publicar información al respecto.
- Apoya las demandas de transparencia Promueve la creación de leyes claras que regulen el uso de IA en el ámbito militar o en la vigilancia. Puedes hacerlo mediante peticiones o participación política.
- Revisa la protección de datos en los servicios de IA que uses Lee los términos de uso de las aplicaciones de IA que utilizas, especialmente en lo que respecta a la cesión de datos a las autoridades. Así sabrás qué datos están protegidos.