✦ Hacia una IA Responsable y de VALOR: ¿Es GRC todo lo que necesitas? (1 parte)

En este artículo comparto un conjunto de reflexiones sobre la importancia de apoyarse en un enfoque sistémico, a la vez que multidisciplinar, para abordar con éxito el desarrollo, despliegue y uso responsable de la IA (responsable, valga la redundancia). No sólo a nivel organizativo o institucional, sino también desde el plano más personal.

La pregunta del título hace un guiño al artículo “Attention is all you need” [1]. (Atención es todo lo que necesitas), una de las publicaciones más influyentes de los últimos años en el ámbito de la IA (aprendizaje profundo, IA generativa), y frecuentemente aludida como catalizadora de su avance meteórico reciente.

¿Se puede empezar con la IA, sin tener una GRC “adecuada” …?

Si se tratase de un pequeño experimento “personal” (sin usar datos personales ni privados, ni PI de nadie) por ej. usando una App o la solución “de turno” de AI Generativa, sólo a nivel privado, doméstico o individual pudiera pensarse que no … Sin embargo, en este escenario “privado”, el simple hecho de acotar tanto el alance del experimento ya lleva consigo en cierta forma, aspectos de GRC. Y si fuese el caso, en cuanto deseamos llevar esa idea inicial a un planteamiento más amplio, adecuado (o serio) a nivel organizacional – de empresa o equipo, una “buena” gestión de la GRC aporta “EL” enfoque estructurado para la alinear las diversas perspectivas organizacionales, la identificación y gestión de riesgos, y el cumplimiento normativo. Pero ¿es suficiente GRC? Probablemente no, ya que hay elementos o aspectos que quizás se escapan al alcance puro de GRC, aunque esta disciplina puede servir como guion central para el desarrollo de una estrategia participativa y emergente. Y precisamente, con estrategia empiezan las buenas prácticas.

Una aproximación jerárquica para una estrategia IA participativa

El creciente número de normativas, regulaciones, referencias metodológicas y publicaciones, que no paran de aumentar, suelen condicionar o pueden marcar las pautas de cómo abordamos los proyectos de IA. Por ello, para el desarrollo de soluciones y sistemas que incorporan IA, así como su despliegue y explotación, es importante ser capaces de “aproximarse” a estos marcos atendiendo a la cierta jerarquía de perspectivas y niveles de alcance que con sus referencias normativas y regulatorias que aportan múltiples grupos de interés. Varias de estas perspectivas incluyen (una lista NO exhaustiva) [2]:

• Instituciones de alcance global: ONU, UNICEF, WEF, etc.
• Referencias de alcance regional/territorial: EU (RIA), España, USA, China, etc.
• Agencias, Asociaciones, “Think-Tanks”, etc.: iniciativas y publicaciones.
• Entidades públicas, instituciones educativas: principios éticos.
• Entidades y empresas privadas: buenas prácticas, códigos de conducta.
• Certificaciones “organizacionales” e individuales.
• Entidades de certificación (con respecto a cada norma/regulación, etc.).
• Publicaciones de carácter científico e investigaciones.
• Expertos independientes, autores, creadores, educadores, SMEs, etc.
• Público general, “influencers”, medios de comunicación: percepción social.

¡El mapa no es el territorio! Pero, como ayuda…

Otra “buena práctica” para navegar este ecosistema puede ser la creación y uso de mapas de interesados, reflejando el valor que aportan, y una visión global de la jerarquía de las normas y referencias que éstos proporcionan y cómo nos afectan: ¿son de obligado cumplimiento?, ¿son buenas prácticas (sólo recomendadas)? ¿su adopción puede aportarnos reconocimiento y reputación? ¿son parte de un comportamiento ético y responsable?, entre otras preguntas clave.

Además, podemos elaborar un catálogo sistemático de todos los tipos de documentos, cuerpos de conocimientos, y referencias relevantes desde las perspectivas anteriores, facilitándonos el trabajo a futuro. Para un META-MAPA, algunos ejemplos destacables en este sentido serían:

• AI con sus distintos repositorios [3] (ej. políticas IA países/regiones, catálogo de herramientas y métricas, AI Incidents Monitor, etc.).
• Inventarios de normas (ej. la ISO/IEC 42001 [4]).
• Informes “Gobernanza de la IA en Beneficio de la Humanidad” (ONU [5]).
• Iniciativas estatales para impulsar la IA (ALIA [6]), datos abiertos [7].
• Registro de riesgos del MIT [8].
• Inventario de riesgos y amenazas de la IA generativa a la seguridad informática (ej. publicaciones de Carnegie Mellon SEI, IEEE, NIST [9]).
• Consideraciones del impacto de la IA en el trabajo, el empleo, etc. [10].
• Guía práctica de uso de la IA en el día a día en los proyectos [11].
• Ley Europea de IA (o RIA), accesible con una presentación “amigable” [12].

Pero ¿y todo esto cómo se gestiona? ¿cómo se organiza o coordina…?

Hacia una gestión “orquestada” de la Adopción de la IA

Organizativamente, también se pueden identificar roles, y funciones que acompañen esta monitorización de la evolución del mercado y entorno normativo. Por ejemplo, un “observatorio de vigilancia normativa” se vislumbra como una entidad de gran valor en este contexto. O un rol como el/a CAIO (Chief AI Officer) [13].

Se trata de un conjunto de responsabilidades o funciones que puede desempeñar o atribuirse a un rol/puesto/perfil que deberá servir de agente catalizador del cambio necesario para adoptar e impulsar la IA (incluyendo como no: una colaboración estrecha con GRC). Desde mi punto de vista y experiencia, no necesariamente será un “puesto” o “título” que deba aparecer en la descripción de trabajo de algún/a directivo/a. Es posible que este rol sea asimilado “inicialmente” por otros roles existentes (ej. CIO, CDO, CISO, etc.). Aunque también existe el debate creciente sobre la IA “autónoma” (y los agentes de IA – Agentic AI), las personas (humanas) “amplificadas”, los equipos híbridos (humanos + agentes AI) todo lo cual anticipa que más pronto que tarde, gobernar la IA /y/o su gestión) será algo a abordar estrechamente de la mano de “gobernar” a la gestión de personas. Yo anticipo que el rol de Gestión de RR.HH. (en su perspectiva más estratégica y de talento o desarrollo organizativo) convergerá con el rol de Gestión de la Inteligencia (sea artificial, humana o híbrida). Un aspecto que he podido contrastar en primera persona, debatiendo y explorando ampliamente estos temas con directivos y profesionales de la gestión de personas [14], con diseñadores, arquitectos, ingenieros, artistas, músicos, y otras profesiones “altamente creativas” [15][16] [17] [18][19]. Por tanto, ¿quién debe gobernar la IA? (¿y los datos? ¿y el HW? ¿y los proveedores? ¿y…?) Pues quizás, sea una labor/reto de todos, que nos afecta a muchos roles, pero que además nos ofrece numerosas sinergias y oportunidades para aportar valor. Especialmente desde los nuevos roles organizativos-emergentes.

Creando sinergias de la GRC con ESG y ODS

Pero las sinergias no lo pueden venir desde otros roles y área, sino también desde ámbitos con gran afinidad hacia el buen Gobierno, la Gestión de Riesgos y el Cumplimiento Normativo. Por ejemplo, con las perspectivas/dimensiones de la ESG y/o de los Objetivos de Desarrollo Sostenible (ODS).

A continuación, una comparativa de las principales sinergias, diferencias y similitudes:

• Enfoque en la Gobernanza: GRC y ESG incluyen la gobernanza como un pilar esencial, mientras que los ODS promueven instituciones sólidas (por ej. el ODS 16). 

• Gestión de Riesgos: GRC y ESG consideran la gestión de riesgos clave, mientras que los ODS fomentan la resiliencia ante riesgos globales (Ej. ODS 11, 13). 

• Reputación Corporativa: Todas las estrategias que se planteen bajo estos marcos deben fortalecer la reputación empresarial al alinearse con buenas prácticas y regulaciones internacionales, en particular en materia de la IA, justicia, no-discriminación, actuación responsable y transparente, etc. 

• Cumplimiento Normativo: Mientras que GRC se enfoca en leyes y regulaciones, ESG y ODS promueven normativas ambientales y sociales alineadas con marcos de referencia y objetivos de impacto global.

Algunos ejemplos de complementariedad entre GRC, ESG y ODS

Como podemos ver, mientras que GRC busca garantizar el cumplimiento normativo y la gestión de riesgos, ESG amplía la visión hacia la sostenibilidad y la responsabilidad social, y los ODS proporcionan objetivos concretos para contribuir al desarrollo global. Integrar estos enfoques puede fortalecer la resiliencia, la competitividad y el impacto positivo de una empresa en la sociedad. Pero del cuadro anterior no sólo se deriva que GRC, ESG y los ODS son marcos complementarios que deben coexistir dentro de una organización, sino también pueden servir de punto de enlace o inspiración para iniciativas de responsabilidad ciudadana o individual.

Y es precisamente, lo que incorpora un proyecto personal que he desarrollado desde hace años, integrando Arte Generativo, IA, Datos como ingredientes adecuadamente “mezclados” mediante herramientas como el data-driven storytelling, buenas prácticas de gestión de proyectos, y/o la gamificación [16]. Un tema que presentaré en el evento PMI Global Summit 2025 (7-8 de abril) [17], que compartiremos aquí más adelante.

Pero antes, volviendo a nuestro punto de partida, cabe volverse a plantear la pregunta inicial. Pues parafraseando el título del artículo original [1], con un puntito de ironía – ya que es bien sabido que el avance/alcance actual de la IA no se debe a un solo factor o “descubrimiento” – pero a la vez, invitando a la profunda observación que el desarrollo y adopción o uso de sistemas IA es a la vez un complejo sistema dinámico e híbrido. Sin dudas, GRC es (y de deber seguir siendo) una disciplina troncal y articuladora de valor en la adopción de la IA en las organizaciones, pero también puede y debe ser un espacio para “poner” y mantener a la persona en el centro (o como se suele decir HITL “human in the loop”) como los principales beneficiarios – y en última instancia los perceptores del valor que la IA y los agentes inteligentes pueden ofrecer.

¿Qué opinas? ¿es GRC todo lo que necesitas? (para una IA Responsable y de Valor).

Nota: aim2AI#22. Artículo parte de la Serie aim2.AI (publicada en FC desde 2019).

Este artículo incluye algunas partes editadas-revisadas del ensayo de Yan Bello enviado al Concurso de Ponencias del 1er FORO GRC (AEC-Govertis) 2025.

Referencias/citas

• [1] Vaswani, A. (2017). Attention is all you need. Advances in Neural Information Processing Systems. 

• [2] Bello, Y. (2024) AI Risk Management: ¿Una oportunidad para gobernar la IA y gestionar las “nuevas” amenazas…? Forum calidad, Nº 354, 2024 

• [3] OECD.AI https://oecd.ai/en/ 

• [4] (ISO, 2023) “ISO/IEC 42001:2023. Information technology — Artificial intelligence — Management system”. https://www.iso.org/standard/81230.html 

• [5] (ONU, 2024). Informe “Gobernanza de la IA en Beneficio de la Humanidad” https://www.un.org/en/ai-advisory-body 

• [6] (Gobierno de España, 2025). La infraestructura pública de IA en castellano y lenguas cooficiales. https://langtech-bsc.gitbook.io/alia-kit 

• [7] (Gobierno de España, 2025). Iniciativa de datos abiertos. https://datos.gob.es/es/ 

• [8] (MIT, 2024). MIT AI Register. Consultado en: https://airisk.mit.edu/ 

• [9] (NIST, 2024). NIST Trustworthy and Responsible AI. NIST AI 600-1. Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile. Consultado en: https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf 

• [10] (WEF, 2025) The Future of Jobs Report 2025, World Economic Forum. https://www.weforum.org/publications/the-future-of-jobs-report-2025/ 

• [11] (PMI, 2024) AI Essentials for Project Professionals: A companion guide to incorporating AI in day-to-day project management. https://www.pmi.org/standards/ai-essentials-for-project-professionals 

• [12] Explorador del AI EU Act: https://artificialintelligenceact.eu/es/ai-act-explorer/ 

• [13] Bello, Y. (2024). AIM2AI 2024 “(un)wrapped” ¿…Cómo prepararnos para orquestar la creación de valor con IA…(en 2025)? (¡CAIO PREVIEW!). FC 357.

• [14] Congreso AEDIPE 2024: Gestionando Personas con Inteligencia. Con ponencia de Yan Bello y stand de SpaceMinds (sobre IA y RR.HH.).

• [15] Bello, Y. (2024). Workshop “AImplify your Creative Collaborations with Generative AI and VAMOS TOD@S Multidisciplinary Innovation (AImplify.PRO)”. https://sigradi.org/sigradi2024/

• [16] Bello, Y. (2022). XXV Generative Art Conference – GA2022. “An Agile – Multidisciplinary Approach and Innovative Toolkit to Catalyze Generative Creativity and Change.” Rome, Italy. https://www.generativeart.com/

• [17] Bello, Y. (2025). “AI, Generative Art and Project Management for Good: A Case Study”. PMI Global Summit Series Europe (Barcelona, April 2025). https://pmiglobalsummiteu.gcs-web.com/

Lo último

Noticias