La inteligencia artificial está creando un ecosistema profesional completamente nuevo. Las organizaciones empiezan a necesitar personas capaces de evaluar la gobernanza de la IA y sus sistemas de gestión, revisar los controles de riesgos e impactos, cuestionar las evidencias técnicas y proporcionar aseguramiento independiente sobre cómo se desarrolla, despliega y utiliza la inteligencia artificial.
Esta demanda apunta a un nuevo mercado de certificación de personas potencialmente importante: Auditores de IA, profesionales de gobernanza de IA, especialistas en riesgos de IA y otros profesionales cuya competencia debe demostrarse de manera independiente.
Este desarrollo es una consecuencia natural de una transformación más amplia de la regulación y la evaluación de la conformidad. ISO/IEC 42001 ha establecido un marco internacional de sistemas de gestión de inteligencia artificial, el Reglamento de IA de la UE introduce expectativas de gobernanza y competencia en las organizaciones e ISO/IEC 17024:2026 ofrece un marco para certificar de forma independiente la competencia profesional.
La cuestión está pasando de si las organizaciones necesitan gobernanza de IA a otra más práctica: ¿Quién tiene competencia para diseñarla, auditarla y proporcionar aseguramiento sobre ella?
La gobernanza de IA se convierte en una disciplina organizativa
Antes, la inteligencia artificial se consideraba principalmente una cuestión de desarrollo tecnológico.
Eso está cambiando rápidamente.
Las organizaciones deben considerar ahora los riesgos de IA, la responsabilidad, la supervisión humana, la gobernanza de datos, la transparencia, la ciberseguridad, las obligaciones normativas, los sistemas de terceros y el seguimiento del ciclo de vida.
Estas responsabilidades abarcan cada vez más funciones de la organización.
La gobernanza de IA requiere profesionales que trabajen entre disciplinas técnicas, normativas, de sistemas de gestión y de aseguramiento, más allá de centrarse exclusivamente en el desarrollo de modelos.
ISO/IEC 42001 crea un nuevo entorno de aseguramiento
ISO/IEC 42001:2023 especifica requisitos para establecer, implementar, mantener y mejorar continuamente un sistema de gestión de inteligencia artificial.
La norma ofrece un marco estructurado para gestionar riesgos y oportunidades relacionados con IA y demostrar el desarrollo, la provisión y el uso responsables de sistemas de IA.
A medida que aumenta la adopción de sistemas de gestión de IA, las organizaciones necesitarán personas capaces de evaluar si están bien diseñados e implementados de forma eficaz.
Los auditores evalúan sistemas de calidad, medio ambiente, seguridad y salud en el trabajo, seguridad de la información o energía frente a normas establecidas.
Los auditores necesitan comprender la gobernanza de IA, los controles del ciclo de vida, los riesgos, los impactos, los datos, la transparencia, la supervisión humana y la interacción entre sistemas técnicos y gestión organizativa.
El auditor de IA puede necesitar un perfil de competencia diferente
Auditar un sistema de gestión de inteligencia artificial requiere más que conocer las cláusulas de los sistemas de gestión.
La IA introduce conceptos técnicos y de gobernanza que los auditores tradicionales quizá no hayan tenido que evaluar anteriormente.
Un auditor competente de IA puede necesitar combinar conocimientos de varias disciplinas.
Comprender principios de auditoría, evidencias, muestreo, hallazgos, acciones correctivas y evaluación de la eficacia de los sistemas de gestión.
Comprender responsabilidades organizativas, políticas, estructuras de supervisión y rendición de cuentas de los sistemas de IA.
Evaluar cómo las organizaciones identifican, evalúan, tratan y supervisan los riesgos asociados a la inteligencia artificial.
Comprender el papel de la calidad, procedencia, representatividad, integridad y gobernanza de los datos en los sistemas de IA.
Comprender suficientemente los sistemas, modelos, ciclos de desarrollo y limitaciones de IA para cuestionar adecuadamente las evidencias técnicas.
Comprender cómo la gestión de IA interactúa con la legislación, los requisitos sectoriales y las obligaciones de evaluación de la conformidad.
Los profesionales de gobernanza de IA abarcarán más que la auditoría
La auditoría representa solo una parte del panorama profesional emergente.
Las organizaciones también necesitan personas capaces de diseñar estructuras de gobernanza, coordinar evaluaciones de riesgos, gestionar inventarios de IA, establecer políticas, supervisar controles y apoyar el cumplimiento normativo.
Esto crea varios perfiles profesionales potenciales.
A medida que maduran estas funciones, las organizaciones necesitarán una forma fiable de distinguir entre quienes han asistido a formación en IA y quienes han demostrado de manera independiente una competencia profesional definida.
La formación por sí sola no equivale a certificación
El mercado de formación en IA se expande rápidamente.
Los cursos, talleres, programas en línea y formación profesional pueden aportar conocimientos y concienciación valiosos.
Pero completar una formación no demuestra automáticamente la competencia.
La certificación de personas responde a una cuestión diferente.
La persona completa un programa educativo definido destinado a desarrollar conocimientos o habilidades.
Un proceso independiente de certificación evalúa si la persona cumple los requisitos definidos de competencia establecidos por un esquema de certificación.
Esta distinción puede ser especialmente importante en la gobernanza de IA, donde las organizaciones necesitan confiar en que los profesionales evalúan situaciones técnicas y normativas complejas, además de explicar terminología.
ISO/IEC 17024 proporciona la estructura de certificación
ISO/IEC 17024 es la norma internacional que establece requisitos para los organismos que realizan certificación de personas.
La norma está diseñada para apoyar mecanismos de certificación de personas coherentes, fiables y reconocidos internacionalmente.
Para una profesión emergente como la gobernanza de IA, un esquema creíble debe definir claramente:
Definir con precisión qué función o competencia profesional representa el certificado.
Establecer conocimientos, habilidades, capacidades y criterio profesional necesarios para la certificación.
Determinar los requisitos previos adecuados de educación, experiencia, formación o práctica profesional.
Determinar cómo se evaluará la competencia mediante pruebas escritas, orales, prácticas o basadas en escenarios.
Garantizar que las decisiones de certificación sean independientes, imparciales y basadas en evidencias suficientes.
Establecer cómo se demostrará la competencia continua en un entorno de IA que cambia rápidamente.
La pregunta más difícil es: ¿qué es un auditor de IA?
La expresión «auditor de IA» puede significar cosas muy diferentes.
Un profesional puede auditar un sistema de gestión ISO/IEC 42001.
Otro puede evaluar técnicamente un modelo de IA en cuanto a robustez, sesgos o desempeño.
Otro puede examinar el cumplimiento jurídico del Reglamento de IA de la UE.
Otro puede evaluar ciberseguridad, gobernanza de datos o impactos algorítmicos.
Las distintas funciones de aseguramiento de IA pueden necesitar certificaciones diferentes
Evalúa si el sistema de gestión de IA de una organización cumple los requisitos aplicables y está implementado de forma eficaz.
Diseña y opera estructuras organizativas de gobernanza, políticas, responsabilidades y mecanismos de supervisión.
Se centra en identificar, evaluar, tratar y supervisar riesgos asociados a sistemas de IA y su uso.
Evalúa los posibles impactos de los sistemas de IA sobre personas, organizaciones u otras partes interesadas.
Evalúa características técnicas como desempeño, robustez, ensayos, validación u otros criterios definidos.
Evalúa las obligaciones de organizaciones o productos derivadas de la legislación de IA y los requisitos de conformidad asociados.
La auditoría de IA exige capacidad para cuestionar evidencias
La documentación de gobernanza de IA puede parecer sofisticada.
Las políticas, registros de riesgos, fichas de modelos, evaluaciones de impactos, paneles de seguimiento e informes técnicos pueden aportar evidencias.
Pero el auditor debe determinar si esas evidencias demuestran realmente un control eficaz.
- ¿Sabe la organización dónde se utiliza IA?
- ¿Se clasifican adecuadamente los sistemas de IA según sus riesgos?
- ¿Están claramente asignadas las responsabilidades y la rendición de cuentas?
- ¿Se evalúan los riesgos de IA durante todo el ciclo de vida?
- ¿Las evaluaciones de impactos son significativas o meramente procedimentales?
- ¿Pueden respaldarse con evidencias las declaraciones de gobernanza de datos?
- ¿Son eficaces en la práctica los mecanismos de supervisión humana?
- ¿Se controlan adecuadamente los sistemas de IA de terceros?
- ¿Puede el seguimiento identificar problemas incipientes?
- ¿Actúa la dirección cuando fallan los controles de gobernanza de IA?
Los marcos de riesgos de IA aumentan la necesidad de profesionales competentes
ISO/IEC 42001 no es el único marco que configura la gobernanza organizativa de IA.
Por ejemplo, el Marco de Gestión de Riesgos de IA del NIST organiza las actividades en torno a las funciones de Gobernar, mapear, medir y gestionar.
Las organizaciones que operan en mercados internacionales pueden necesitar profesionales capaces de comprender varios marcos de gobernanza y riesgos de IA y convertirlos en controles organizativos prácticos.
El Reglamento de IA de la UE añade una dimensión de competencia
El Reglamento de IA de la UE introduce expresamente el concepto de alfabetización en IA.
Los proveedores y responsables del despliegue de sistemas de IA deben adoptar medidas, en la mayor medida posible, para garantizar un nivel suficiente de alfabetización en IA del personal pertinente y otras personas que gestionan los sistemas en su nombre.
El nivel adecuado depende de factores como conocimientos técnicos, experiencia, educación, formación y contexto de uso del sistema.
Los esquemas de certificación deben evitar la superficialidad
El rápido crecimiento de la IA genera la tentación comercial de introducir certificaciones muy deprisa.
Pero la credibilidad requiere más que un examen breve sobre terminología de IA.
Una certificación profesional debe reflejar la complejidad y responsabilidad de la función certificada.
Los candidatos memorizan conceptos, completan un breve examen de opción múltiple y reciben un título profesional amplio.
Los candidatos demuestran conocimientos, interpretación práctica, criterio de riesgos, capacidad de auditoría y aptitud para evaluar situaciones realistas de gobernanza de IA.
La evaluación basada en escenarios puede ser esencial
La gobernanza de IA implica con frecuencia criterio profesional, más que respuestas simplemente correctas o incorrectas.
Un profesional puede tener que determinar si una evaluación de riesgos es suficiente, si un impacto es material, si una evidencia es creíble o si un control de gobernanza es proporcional al riesgo.
Por ello, los esquemas pueden beneficiarse de métodos de evaluación que vayan más allá de los exámenes tradicionales de conocimientos.
Exigir a los candidatos evaluar escenarios realistas de gobernanza organizativa de IA.
Evaluar si los candidatos identifican evidencias suficientes, insuficientes o contradictorias.
Evaluar si los candidatos reconocen y priorizan riesgos relacionados con IA.
Exigir a los candidatos explicar y defender sus conclusiones profesionales ante preguntas.
Observar a los candidatos al planificar, realizar e informar sobre una auditoría de gobernanza de IA.
Evaluar cómo responden los candidatos cuando los requisitos, evidencias y realidades organizativas no están completamente claros.
La recertificación podría ser crítica en IA
La inteligencia artificial se desarrolla más rápido que muchas disciplinas profesionales tradicionales.
La regulación, las normas, las tecnologías y las prácticas de gestión de riesgos pueden cambiar considerablemente en poco tiempo.
Una credencial obtenida una sola vez y mantenida indefinidamente puede ofrecer un aseguramiento limitado de la competencia continua.
- Desarrollo profesional continuo;
- Cambios en normas y regulación de IA;
- Nuevas tecnologías de IA y patrones de riesgo;
- Práctica profesional o experiencia de auditoría;
- Avances éticos y de gobernanza;
- Evaluación actualizada de competencias; y
- Mantenimiento de conocimientos técnicos pertinentes.
La independencia e imparcialidad del auditor serán importantes
Al comercializarse la gobernanza de IA, los profesionales pueden prestar simultáneamente consultoría, implementación, formación y auditoría.
Esto genera cuestiones conocidas de evaluación de la conformidad sobre independencia e imparcialidad.
Los esquemas de certificación y empleadores deben distinguir entre quienes ayudan a diseñar la gobernanza de IA de una organización y quienes la evalúan de manera independiente.
¿Podría la IA auditar a la IA?
Hay otra dimensión de la profesión emergente.
Las propias herramientas de IA pueden ayudar cada vez más a los auditores a revisar documentos, analizar grandes conjuntos de datos, identificar anomalías, preparar pistas de auditoría o comprobar determinados controles.
Esto podría aumentar considerablemente la capacidad de auditoría.
Pero no elimina la necesidad de competencia del auditor.
La IA puede ayudar a analizar más información, identificar patrones y centrar la atención en posibles áreas de riesgo.
El profesional mantiene la responsabilidad de determinar si las conclusiones están justificadas, las evidencias son fiables y los hallazgos adecuados.
El mercado de certificación podría desarrollarse por niveles
No todos los profesionales de gobernanza de IA requieren el mismo nivel de experiencia.
Un ecosistema maduro podría desarrollar varios niveles de competencia o itinerarios específicos por función.
Demuestra comprensión de conceptos básicos de gobernanza, riesgos, ética y sistemas de gestión de IA.
Demuestra capacidad para implementar y operar controles de gobernanza y gestión de riesgos de IA.
Demuestra competencia para evaluar internamente los mecanismos de gestión de IA de una organización.
Demuestra competencia para planificar, dirigir, realizar e informar sobre auditorías completas de sistemas de gestión de IA.
Demuestra capacidad avanzada para identificar, evaluar, tratar y supervisar riesgos de IA.
Demuestra una capacidad más amplia para diseñar, gestionar y supervisar programas organizativos de gobernanza de IA.
El reconocimiento internacional podría convertirse en una gran ventaja
La inteligencia artificial es intrínsecamente internacional.
Las plataformas, proveedores, equipos de desarrollo y usuarios de IA suelen operar en varias jurisdicciones.
La certificación de personas basada en esquemas de competencia claramente definidos y principios creíbles de evaluación de la conformidad podría aportar mayor coherencia a las expectativas profesionales entre mercados.
Esto es especialmente relevante para multinacionales que buscan una referencia común de competencia para su personal de gobernanza y aseguramiento de IA.
El mercado necesitará credibilidad, además de más credenciales
Es probable que las certificaciones de IA se multipliquen rápidamente.
La cuestión importante no será cuántos certificados existen.
Será si empleadores, reguladores, organismos de certificación y clientes pueden distinguir las credenciales que demuestran competencia profesional de aquellas que demuestran principalmente la finalización de un curso.
El próximo mercado de certificación de IA debe centrarse en «¿Quién puede evaluar profesionalmente la gobernanza de IA de forma fiable?», más allá de «¿Quién ha completado un curso de IA?».
¿Qué deben considerar los organismos de certificación y propietarios de esquemas?
Las organizaciones que desarrollan programas para auditores y profesionales de gobernanza de IA deben empezar por la competencia requerida por la profesión, antes de diseñar el examen.
Establecer exactamente qué actividades se espera que realice el profesional certificado.
Determinar los conocimientos, habilidades, criterio y experiencia necesarios para esa función.
Mantener una independencia adecuada entre actividades de aprendizaje y certificación de competencias.
Combinar pruebas de conocimientos con evaluación práctica, basada en escenarios o centrada en auditoría cuando corresponda.
Garantizar que los intereses comerciales, de consultoría o formación no comprometan las decisiones de certificación.
Establecer recertificación capaz de responder al rápido cambio tecnológico y normativo.
De la concienciación sobre IA al aseguramiento profesional
Las organizaciones avanzan más allá de la concienciación general sobre IA.
Necesitan personas que conviertan principios de IA en estructuras de gobernanza, evalúen evidencias, identifiquen riesgos, cuestionen declaraciones técnicas y aseguren que los controles funcionan eficazmente.
Esta transformación crea la base de un nuevo mercado de certificación profesional.
ISO/IEC 42001 ofrece un marco de gestión organizativa. ISO/IEC 17024 ofrece un marco de certificación de personas. La regulación y los marcos de riesgos aumentan la necesidad de profesionales competentes.
El siguiente paso es desarrollar esquemas maduros y creíbles de competencia que conecten estos elementos.
¿Estamos preparados para certificar a quienes gobiernan la IA?
La oportunidad de mercado es considerable, pero la credibilidad determinará su valor a largo plazo.
Los esquemas desarrollados hoy pueden definir lo que las organizaciones entienden por auditor de IA, profesional de gobernanza de IA y especialista en riesgos de IA.
Si se basan en competencias, son imparciales y se alinean con principios reconocidos de evaluación de la conformidad, pueden contribuir de manera significativa a la confianza en la economía emergente de IA.
La IA fiable requerirá más que tecnología fiable. Necesitará personas competentes capaces de gobernar, evaluar y cuestionar esa tecnología.