Un estudio global revela que muchos organismos públicos se apoyan en exceso en una IA sin fiabilidad demostrada

Las organizaciones gubernamentales demuestran un nivel de madurez en IA sorprendentemente sólido en términos generales. Sin embargo, la inversión pública en tecnología de IA fiable y en su regulación suele quedarse atrás. Esto sugiere que los organismos públicos podrían estar implementando soluciones de IA avanzada sobre una base de datos poco sólida, lo que aumenta el riesgo de resultados sesgados, brechas de seguridad y fallos operativos costosos. Esta conclusión se basa en los resultados de un informe de SAS junto con IDC centrado en el sector público: Data and AI Impact Report: The Trust Imperative.

El informe examina el «dilema de la confianza” al que se enfrentan las organizaciones, que tienen que elegir entre no utilizar la IA por no confiar lo suficiente en ella, o depender de sistemas de IA que no han sido debidamente validados.

Esa falta de coherencia que se ha registrado en todos los países es uno de los principales frenos para que las instituciones adopten la IA de forma efectiva. Además, este informe muestra las tendencias en el uso e inversión en IA en distintas regiones, y cómo cada una intenta reducir esa brecha de confianza. Aunque todos los sectores se enfrentan a este problema, en el caso del sector público la confianza es imprescindible.

Afshin Almassi, public sector & healthcare director en SAS España de SAS, explica: «Para que el sector público pueda apoyarse en la IA, esta debe aportar un valor tangible y, al mismo tiempo, proteger el bienestar de la ciudadanía. Materializar ese valor para los ciudadanos y las comunidades exige alinear la ambición con la preparación real. Los resultados del informe indican que aún nos queda camino para lograrlo».

Encontrar el equilibrio entre la rapidez de la IA y la responsabilidad pública

Los gobiernos de todo el mundo están adoptando la IA a un ritmo acelerado, con un uso de los agentes de IA (52%) superior al de otros sectores de referencia como la banca, la sanidad y el comercio minorista. Sin embargo, según el informe, solo el 6% de los organismos gubernamentales admite una alta confianza interna en la IA y con sistemas de IA fiables. Se trata del porcentaje más bajo entre todos los sectores incluidos en el informe.

Además, el 38% de las administraciones públicas dependen de la IA, pero, irónicamente, no aprovechan las herramientas y medidas de seguridad para hacerla confiable. En su lugar, confían en sistemas como la IA Generativa, que se ha demostrado en varias ocasiones que no son totalmente fiables.

De hecho, los encuestados confían en la IA generativa bastante más que en el machine learning . A pesar de los años de uso contrastado de esta tecnología en funciones como la detección de fraude fiscal, los cargos públicos depositan mayor confianza en soluciones menos transparentes y más propensas a errores.

En cuanto a la implementación de una IA fiable, el sector público se sitúa por detrás del sector asegurador, la banca y las ciencias de la salud. Solo el 15,3% opera en el nivel más alto del índice de IA fiable, frente a una media global del 19,8%. Asimismo, sus expectativas de inversión futura están por debajo de las del sector bancario y asegurador.

Chris Marshall, vicepresidente de investigación en datos, analítica, IA, sostenibilidad e industria de IDC, afirma: «Las instituciones públicas están pasando rápidamente de la experimentación con IA a su uso operativo, pero la confianza no puede darse por sentada, especialmente cuando los sistemas influyen en resultados que afectan a la ciudadanía. Sin una base de datos sólida y unas reglas claras, la confianza en la IA puede adelantarse a su fiabilidad real, lo que aumenta el riesgo tanto para los ciudadanos como para los propios organismos».

Cómo cerrar la brecha de confianza en la IA en el sector público

Aunque algunos gobiernos están avanzando en la integración de prácticas de IA fiable, la mayoría aún enfrenta carencias significativas en centralización de datos, supervisión de la IA y talento especializado, lo que frena su capacidad para aprovechar todo el potencial de esta tecnología. La preparación y las capacidades en IA de los gobiernos varían considerablemente según la región, aunque también existen puntos en común.

Según el informe: 

• *    Todas las regiones identifican la falta de una base de datos centralizada u optimizada como el principal obstáculo para implementar la IA.
• *    La falta de gestión de datos se menciona con frecuencia como el segundo mayor desafío, con la excepción de América Latina, donde ocupa el cuarto lugar.

Los organismos públicos prevén aumentar su inversión en IA durante el próximo año. El 12,6% prevé incrementos superiores al 20%, y casi la mitad espera un crecimiento de entre el 4% y el 20%. Los encuestados creen que el valor de la IA está en mejorar los procesos y hacerlos más ágiles. Además, mencionan la importancia del aumento de la productividad personal en un 60% de los casos, lo que supone el índice más alto entre todos los sectores analizados.

Además, se detecta más falta de formación entre los empleados en general que entre los equipos técnicos especializados. Ante este problema, las administraciones están dando prioridad tanto a mejorar su infraestructura tecnológica como a formar a su personal

«Independientemente de la región, muchas entidades públicas tienen planes ambiciosos para ampliar su uso de la IA en los próximos años», comenta Ravi Kant Sharma, director de investigación de Government Insights en IDC Asia-Pacífico. «El informe indica que también son conscientes de los desafíos. Invertir en el equilibrio correcto entre infraestructura y tecnologías fiables será clave para que la implementación de la IA tenga éxito».

Descubre más sobre los esfuerzos del sector público para convertir el potencial de la IA en un valor real para la ciudadanía en el documento técnico: Cómo la IA fiable transforma el servicio público . 

Lo último

Noticias