El Supervisor Europeo de Protección de Datos (SEPD/EDPS) ha dado un paso fundamental en la gobernanza de la Inteligencia Artificial (IA) al publicar su «Guía para la Gestión de Riesgos de los Sistemas de Inteligencia Artificial«. Emitido el 11 de noviembre de 2025, este documento actúa como una brújula técnica diseñada para las Instituciones, Órganos, Oficinas y Agencias de la Unión Europea (EUIs), con el objetivo de identificar y mitigar los riesgos en sistemas de IA que puedan afectar los derechos y libertades fundamentales de los ciudadanos.
Contexto y objetivo de la guía del SEPD
La guía del SEPD nace en un contexto donde el uso de sistemas de IA se expande rápidamente en la administración pública europea. Su objetivo principal es ofrecer un marco práctico para que las EUIs integren la gestión de riesgos en sistemas de IA, garantizando la protección de datos personales y el respeto de los derechos fundamentales.
A diferencia de normativas rígidas, esta guía actúa como un marco analítico y técnico, ofreciendo orientación sobre cómo evaluar riesgos y aplicar estrategias de mitigación.
¿Cuál es el enfoque práctico y su alineación metodológica?
Marco analítico y técnico
El documento no se limita a describir obligaciones legales; propone una evaluación sistemática de riesgos, enfocada en la protección de datos. Cada organización puede adaptar las recomendaciones según su contexto y necesidades específicas.
Relación con ISO 31000:2018
La guía se alinea con la norma ISO 31000:2018 sobre gestión de riesgos, abarcando las fases de identificación, análisis, evaluación y tratamiento de riesgos. Aunque deja el análisis específico de probabilidad e impacto a cada entidad, proporciona herramientas para estructurar el proceso de gestión de riesgos en sistemas de IA de manera coherente y estandarizada.
¿Cuáles son los pilares centrales de esta guía?
Interpretabilidad y explicabilidad como requisito
Uno de los principios más destacados es la exigencia de interpretabilidad y explicabilidad. Esto significa que ningún sistema de IA debe operar como una “caja negra”; todas las decisiones automatizadas deben poder ser entendidas, justificadas y auditadas.
Equidad y sesgo algorítmico
La guía subraya la importancia de evaluar y mitigar sesgos en los datos y algoritmos para garantizar la equidad en la toma de decisiones automatizada.
Exactitud y errores de los modelos de lenguaje
Se advierte sobre problemas de exactitud, como las llamadas “alucinaciones” de modelos de lenguaje, que pueden generar resultados incorrectos o incompletos si no se supervisan adecuadamente.
Seguridad y protección de datos de entrenamiento
Otro pilar crítico es la seguridad, enfocada en proteger los datos usados para entrenar los sistemas de IA y prevenir ataques como la fuga de información o inferencias indebidas.
Retos técnicos para los derechos de los interesados
El documento también aborda desafíos técnicos importantes, como garantizar la supresión completa de datos personales absorbidos por modelos complejos de IA. Esto resalta la necesidad de soluciones técnicas robustas para asegurar que los derechos de los interesados se puedan ejercer plenamente.
Conclusión: responsabilidad y monitoreo continuo
En esencia, la guía del SEPD se presenta como una herramienta invaluable para integrar una cultura de responsabilidad y monitoreo continuo en la gobernanza de la IA. Si bien ofrece estrategias de mitigación de riesgos, la responsabilidad final de evaluar el cumplimiento y asegurar el respeto de los derechos fundamentales recae en los responsables del tratamiento de dato

