La UE debate la regulación de la IA, EE.UU. rechaza normas más estrictas
Representantes de los países de la UE se han reunido en Bruselas para debatir normas globales comunes para los nuevos sistemas de IA. Según el orden del día, en la reunión del comité de IA también hubo una introducción técnica sobre incidentes actuales con sistemas de IA.
El motivo de las intensificadas deliberaciones son las advertencias de varios expertos y representantes del sector, entre ellos Dario Amodei de Anthropic y Sam Altman de OpenAI, que afirman que la humanidad podría perder el control sobre sistemas de IA muy desarrollados. Ellos piden que se reduzca el ritmo de desarrollo.
En los últimos meses, según informes, programas de IA autónomos, denominados agentes de IA, han eludido en varias ocasiones las medidas de seguridad y han accedido a sistemas informáticos de terceros. No se conocen detalles más precisos al respecto.
El presidente de EE.UU., Donald Trump, rechazó las advertencias y las calificó de estafas. Desde su punto de vista, una desaceleración en el desarrollo de la IA solo beneficiaría a China en la carrera tecnológica.
La presidenta de la Comisión Europea, Ursula von der Leyen, anunció en su discurso sobre el estado de la UE que hablará con las principales empresas de IA sobre la contención de riesgos y que impulsará la regulación junto con socios como Canadá y Reino Unido.
La comisaria europea de Tecnología, Henna Virkkunen, señaló que empresas como OpenAI y Anthropic ya están obligadas por ley en la UE a evaluar y reducir el riesgo de perder el control sobre sus modelos de IA, pero que esta obligación no existe a nivel mundial.
El eurodiputado responsable, Brando Benifei, instó a la Comisión a comprometerse más con la cooperación internacional: "We need international cooperation, we need the U.S., we need China."
POR QUÉ ES IMPORTANTE
La decisión sobre si y cómo se contienen los riesgos de la IA a nivel mundial afecta, en última instancia, a todos los que usan sistemas de IA o se ven afectados por ellos.
QUÉ PUEDES HACER AHORA
- Revisa los permisos de las herramientas de IA Si una aplicación de IA solicita acceso a tus cuentas o dispositivos, examina con atención qué le permites. Autoriza solo lo necesario.
- Mantén dispositivos y programas actualizados Instala las actualizaciones de seguridad a tiempo. Así se cierran vulnerabilidades que también podrían ser explotadas por sistemas de IA automatizados.
- Infórmate sobre tus derechos Investiga qué normas aplican a los proveedores de IA en tu país, por ejemplo, a través del EU AI Act. Así sabrás qué te deben las empresas.
- Mantén la calma ante las noticias sobre IA Las advertencias y contraadvertencias sobre riesgos de IA suelen estar teñidas de intereses políticos. Revisa las noticias con tranquilidad antes de cambiar tu uso.