Análisis de la norma UNE-ISO/IEC 42001:
Sistema de gestión de la IA en las organizaciones
Juan Pablo Peñarrubia
Vicepresidente Consejo General de Colegios Profesionales de Ingeniería en Informática - CCII
Experto español y project leader en comités internacionales de IA
ISO SC 42 & CEN-CLC JTC 21 Artificial intelligence
Sumario
1. Contexto
✓ Global, Europa, España
2. Análisis de la UNE-ISO/IEC 42001 Sistema de Gestión de IA en las organizaciones
✓ Estructura y aplicación
✓ Comprensión de alto nivel
✓ Implicaciones para la organización y para la sociedad
✓ Conexión con otras vertientes de la gobernanza de la IA en la empresa: Gestión de riesgos
✓ Entronque con regulación europea de IA (AI Act)
Norma UNE-ISO/IEC 42001: Sistema de gestión de la IA en las organizaciones © JPPeñarrubia / UNE - 10 de julio 2025
1. Contexto: Visión europea de la gobernanza de la IA
Gobernanza de la IA basada en normas de regulación legal complementada con normas de estandarización de IA
Norma UNE-ISO/IEC 42001: Sistema de gestión de la IA en las organizaciones © JPPeñarrubia / UNE - 10 de julio 2025
1. Contexto: Visión internacional de la gobernanza de la IA
Gobernanza de la IA basada en normas de regulación legal complementada con normas de estandarización de IA
No solo en Europa !
…aunque cada aproximación podrá ser
diferente (USA, China…)
Norma UNE-ISO/IEC 42001: Sistema de gestión de la IA en las organizaciones © JPPeñarrubia / UNE - 10 de julio 2025
1. Contexto: Visión europea (y española) de la gobernanza de la IA
Gobernanza de la IA basada en normas de regulación legal complementada con normas de estanzarización de IA
¿Por qué?
- Los estándares serán frecuentemente la materialización “accionable” de IA Act.
- Las organizaciones requieren concreción sobre que hacer para cumplir la ley y promover la
excelencia
“To advance technical harmonisation in the field of artificial intelligence and to prepare the necessary technical environment
for the implementation of the Artificial Intelligence Act, it is necessary to start the work on European standards and
European standardisation deliverables to support the key technical areas covered by the Artificial Intelligence Act proposal.
Such standards should include the specifications for the design and the development of AI systems identified as high-risk in the
proposal, for AI providers’ quality management systems and for the conformity assessment of AI systems”
→ Presunción de conformidad legal
Norma UNE-ISO/IEC 42001: Sistema de gestión de la IA en las organizaciones © JPPeñarrubia / UNE - 10 de julio 2025
1. Contexto: Últimas noticias a nivel europeo
Norma UNE-ISO/IEC 42001: Sistema de gestión de la IA en las organizaciones © JPPeñarrubia / UNE - 10 de julio 2025
1. Contexto: España
Gobernanza de la IA basada en normas de regulación legal complementada con normas de estanzarización de IA
España
! Importancia de la particicipación de expertos españoles en comités internacionales de
estandarización de la IA: ISO SC 42 Artificial intelligence / CEN-CLC JTC 21 Artificial intelligence
➢ Influencia directa en enfoques adoptados (para acercarlos a la realidad y prioridades de España)
! Importancia de la existencia de normas en español:
- De normas ISO clave
- De normas CEN/CLC, especialente las armonizadas complementarias de IA Act
➢ Incidencia directa en la adopción y competitividad: Tanto de empresas de la industria
informática como de empresas generalistas usuarias de IA.
➢ No solo para España sino para países hispanohablantes
Compromiso de CCII de seguir apoyando a UNE para producer versiones en español de normas IA
Norma UNE-ISO/IEC 42001: Sistema de gestión de la IA en las organizaciones © JPPeñarrubia / UNE - 10 de julio 2025
2. Análisis UNE-ISO/IEC 42001 Sistema de Gestión de IA en las organizaciones
Estándar Internacional
UNE-ISO/IEC 42001 Tecnología de la información. Inteligencia artificial. Sistema de gestión
[Adopción de ISO/IEC 42001:2023 Information technology — Artificial intelligence — Management system]
Objeto y campo de aplicación:
Especifica los requisitos y proporciona orientación para establecer, implementar, mantener y mejorar
continuamente un sistema de gestión de la IA en una organización.
Destinado para ser utilizado por una organización que provea o use productos o servicios que utilicen
sistemas de IA. Este documento pretende ayudar a la organización a desarrollar, proveer o usar sistemas de
IA de forma responsable en la consecución de sus objetivos y a cumplir los requisitos aplicables, las
obligaciones relacionadas con las partes interesadas y las expectativas de éstas.
Aplicable a cualquier organización, independientemente de su tamaño, tipo y naturaleza, que provea o use
productos o servicios que utilicen sistemas de IA.
Norma UNE-ISO/IEC 42001: Sistema de gestión de la IA en las organizaciones © JPPeñarrubia / UNE - 10 de julio 2025
2. Análisis UNE-ISO/IEC 42001 Sistema de Gestión de IA en las organizaciones
Pero el tipo de organización (tamaño, pública/privada, etc.) y el rol de IA tendrán muy diferentes
implicaciones en el Sistema de Gestión de IA.
Primera cuestión esencial: Organización solo usuaria de sistemas de IA vs. suministradora de sistema de IA
Norma UNE-ISO/IEC 42001: Sistema de gestión de la IA en las organizaciones © JPPeñarrubia / UNE - 10 de julio 2025
2. Análisis UNE-ISO/IEC 42001 Sistema de Gestión de IA en las organizaciones
Reflexión clave:
Solo puede haber gobernanza social de la IA mediante gobernaza de la IA en las organizaciones.
Especialmente las empresas: No solo las proveedoras de sistemas de IA y la industria Informática en
general, sino las empresas generalistas usuarias de IA.
….el conjunto de las empresas
Norma UNE-ISO/IEC 42001: Sistema de gestión de la IA en las organizaciones © JPPeñarrubia / UNE - 10 de julio 2025
2. Análisis UNE-ISO/IEC 42001 Sistema de Gestión de IA en las organizaciones
Reflexión clave:
Solo puede haber gobernanza social de la IA mediante gobernaza de la IA en las organizaciones.
Especialmente las empresas: No solo las proveedoras de sistemas de IA y la industria Informática en
general, sino las empresas generalistas usuarias de IA.
….el conjunto de las empresas
La gobernanza de la IA se sustenta esenciamente en la existencia de un Sistema de Gestión de la IA que
integre todas las esferas de actividad de la organización (dirección, estructura, operación, procesos…)
sistema de gestión:
Conjunto de elementos de una organización interrelacionados o que interactúan para establecer políticas y objetivos, así como procesos
para lograr estos objetivos.
NOTA 1 Un sistema de gestión puede considerar una sola disciplina o varias disciplinas.
NOTA 2 Los elementos del sistema de gestión incluyen la estructura, los roles y las responsabilidades, la planificación y la
operación de la organización.
Norma UNE-ISO/IEC 42001: Sistema de gestión de la IA en las organizaciones © JPPeñarrubia / UNE - 10 de julio 2025
2. Análisis UNE-ISO/IEC 42001 Sistema de Gestión de IA en las organizaciones
Estructura:
2 bloques Bloque 1:
Sistema de Gestión de IA – AIMS/SGIA ( 20 págs.)
Bloque 2:
Controles y guías de orientación ( 40 págs.)
Norma UNE-ISO/IEC 42001: Sistema de gestión de la IA en las organizaciones © JPPeñarrubia / UNE - 10 de julio 2025
2. Análisis UNE-ISO/IEC 42001 Sistema de Gestión de IA en las organizaciones
Comprensión básica del Sistema de Gestión de IA: Bloque 1
3 Términos y definiciones *
4 Contexto de la organización
5 Liderazgo
6 Planificación
7 Apoyo Estructura común
8 Operación
9 Evaluación del desempeño
10 Mejora
Norma UNE-ISO/IEC 42001: Sistema de gestión de la IA en las organizaciones © JPPeñarrubia / UNE - 10 de julio 2025
2. Análisis UNE-ISO/IEC 42001 Sistema de Gestión de IA en las organizaciones
Comprensión básica del Sistema de Gestión de IA: Bloque 2
Controles: 38 Controldes específicos a implementar para la consecución de los objetivos
A.2 Políticas relativas a la IA
A.3 Organización interna
A.4 Recursos para los sistemas de IA
A.5 Evaluación de los impactos de los sistemas de IA
A.6 Ciclo de vida del sistema de IA
A.7 Datos para sistemas de IA
A.8 Información para las partes interesadas en los sistemas de IA
A.9 Uso de sistemas de IA
A.10 Relaciones con terceros y clientes
Norma UNE-ISO/IEC 42001: Sistema de gestión de la IA en las organizaciones © JPPeñarrubia / UNE - 10 de julio 2025
2. Análisis UNE-ISO/IEC 42001 Sistema de Gestión de IA en las organizaciones
UNE-ISO/IEC 42001 Tecnología de la información. Inteligencia artificial. Sistema de gestión
Sistema de Gestión de IA – AIMS/SGIA
Todas las normas UNE-ISO de Sistemas de Gestión tienen la misma estructura
9001,
27001,
14001...
[Link]
Norma UNE-ISO/IEC 42001: Sistema de gestión de la IA en las organizaciones © JPPeñarrubia / UNE - 10 de julio 2025
2. Análisis UNE-ISO/IEC 42001 Sistema de Gestión de IA en las organizaciones
UNE-ISO/IEC 42001 Tecnología de la información. Inteligencia artificial. Sistema de gestión
Sistema de Gestión de IA – AIMS/SGIA
UNE-ISO: Sistemas de Gestión tipo A o B
Tipo A: Contienen REQUISITOS sobre los cuales una organización puede querer acreditar conformidad
Tipo B: Contienen recomendaciones
UNE-ISO/IEC 42001 es un estándar de Sistema de Gestión de tipo A: Una organización puede ser certificada sobre
la conformidad con el estándar
Norma UNE-ISO/IEC 42001: Sistema de gestión de la IA en las organizaciones © JPPeñarrubia / UNE - 10 de julio 2025
2. Análisis UNE-ISO/IEC 42001 Sistema de Gestión de IA en las organizaciones
Comprensión básica del Sistema de Gestión de IA
3 Términos y definiciones *
4 Contexto de la organización
5 Liderazgo
6 Planificación
7 Apoyo
8 Operación
9 Evaluación del desempeño/rendimiento
Conexión con: ISO/IEC 23894:2023 Information technology — Artificial
10 Mejora intelligence — Guidance on risk management
(En proceso de publicación versión en español. Norma UNE)
Muy diferente dependiendo del caso: IA Generativa o no , Automatización o
no, Supervisión humana o no, etc.
Norma UNE-ISO/IEC 42001: Sistema de gestión de la IA en las organizaciones © JPPeñarrubia / UNE - 10 de julio 2025
2. Análisis UNE-ISO/IEC 42001 Sistema de Gestión de IA en las organizaciones
Comprensión básica del Sistema de Gestión de IA
3 Términos y definiciones *
4 Contexto de la organización
Ejemplo para ver conexión 5.2 con controles A.2
5 Liderazgo
6 Planificación
7 Apoyo
8 Operación
9 Evaluación del desempeño/rendimiento
10 Mejora
Norma UNE-ISO/IEC 42001: Sistema de gestión de la IA en las organizaciones © JPPeñarrubia / UNE - 10 de julio 2025
2. Análisis UNE-ISO/IEC 42001 Sistema de Gestión de IA en las organizaciones
Comprensión básica del Sistema de Gestión de IA
Ej: Disposiciones y Controldes específicos a implementar en materia de Políticas de IA
Norma UNE-ISO/IEC 42001: Sistema de gestión de la IA en las organizaciones © JPPeñarrubia / UNE - 10 de julio 2025
2. Análisis UNE-ISO/IEC 42001 Sistema de Gestión de IA en las organizaciones
Comprensión básica del Sistema de Gestión de IA
Ej Controldes específicos a implementar en materia de Políticas de IA
Los controldes son
evidencias clave para la
certificación de conformidad
Objetivo: Establecer la rendición de cuentas dentro de la organización, para mantener su
enfoque responsable en la implementación, operación y gestión de los sistemas de IA.
¿Tiene la empresa las políticas de IA adecuadas?
Norma UNE-ISO/IEC 42001: Sistema de gestión de la IA en las organizaciones © JPPeñarrubia / UNE - 10 de julio 2025
2. Análisis UNE-ISO/IEC 42001 Sistema de Gestión de IA en las organizaciones
Entronque con regulación europea de la IA (AI Act):
Permite certificación de conformidad
Incide en vertientes esenciales del cumplimiento de obligaciones a nivel corporativo:
• El Sistema de Gestión de IA es la base para el conjunto de medidas de gestión, gobernanza y controles
de todos los sistemas de IA:
• Tanto suministrados como usados
• Para todos los niveles de riesgo (Alto riesgo -> obligaciones legales / todos los sistemas IA -> excelencia)
• Integración de la gestión del riesgo asociado a los sistemas de IA: tanto suministrados como usados
• Gestión de responsabilidades: directivas, corporativas, internas, etc.
• Integración con otros sistemas de gestión corporativos
UNE-ISO/IEC 42001 es un elemento central para materilizar la gobernanza de la IA en las organizaciones
…aunque habrá “European specificities”
Norma UNE-ISO/IEC 42001: Sistema de gestión de la IA en las organizaciones © JPPeñarrubia / UNE - 10 de julio 2025
Juan Pablo Peñarrubia Carrión
Experto CTN 71/SC 42 - Inteligencia artificial y big data
Experto ISO/IEC JTC 1/SC 42 - Artificial intelligence
Experto CEN/CLC JTC21 Artificial intelligence
Vicepresidente Consejo General de Colegios
Profesionales de Ingeniería Informática de España - CCII
[Link]/in/jppenarrubia
Norma UNE-ISO/IEC 42001: Sistema de gestión de la IA en las organizaciones © JPPeñarrubia / UNE - 10 de julio 2025