El rey Carlos advierte a los líderes tecnológicos sobre los riesgos de la IA
El rey Carlos III convocó el 17 de septiembre de 2026 en Dumfries House, Ayrshire, Escocia, a los principales representantes del sector de la IA para una cumbre.
Entre los asistentes se encontraban el ministro británico de IA, Kanishka Narayan, un asesor del Papa, así como representantes de Nvidia, OpenAI, Anthropic y Google DeepMind.
En su discurso, el rey advirtió sobre los "peligros existenciales" que podrían surgir si las tecnologías de IA caen en las manos equivocadas o se utilizan de manera catastrófica.
Según Carlos, cada vez más desarrolladores advierten que la IA podría desarrollar "capacidades más oscuras", incluso con la posibilidad de quitar vidas.
La reunión se produjo tras varios incidentes llamativos: un investigador de Anthropic había dimitido recientemente tras una advertencia pública sobre los riesgos de la IA, y OpenAI había informado de seis casos de comportamiento inesperado o preocupante en sus modelos.
Las opiniones de los directivos presentes fueron divergentes: el CEO de Nvidia, Jensen Huang, criticó las demandas de detener el desarrollo y afirmó que las empresas deberían decidir por sí mismas cuándo un producto es lo suficientemente seguro. El cofundador de DeepMind, Demis Hassabis, consideró que una IA general estaba "a solo unos años de distancia" y reconoció que el riesgo de un fracaso era "definitivamente no cero".
Aún no está claro si la reunión dará lugar a normas concretas o principios vinculantes para el desarrollo de la IA; el rey simplemente instó a encontrar principios comunes.
POR QUÉ ES IMPORTANTE
La advertencia de un jefe de Estado muestra que la preocupación por una IA sin control ya se toma en serio más allá del sector tecnológico.
QUÉ PUEDES HACER AHORA
- Verifica los resultados de la IA de forma crítica No confíes ciegamente en lo que un programa de IA te muestra o dice. Compara siempre la información importante con una segunda fuente de confianza.
- No introduzcas datos sensibles en chats de IA No compartas contraseñas, datos bancarios ni secretos personales con chatbots. Nunca sabes exactamente cómo se almacenan o reutilizan esos datos.
- Mantente informado sobre las nuevas normas de IA Sigue con regularidad las noticias sobre leyes y regulaciones de inteligencia artificial. Así te darás cuenta pronto si hay cambios que te afecten como usuario.
- Usa herramientas de IA de manera consciente y selectiva Utiliza programas de IA solo donde realmente entiendas su beneficio. En decisiones importantes, como las relacionadas con dinero o salud, busca además consejo humano.