En poco más de 12 meses, la IA generativa ha pasado de ser una novedad técnica a convertirse en una potente herramienta empresarial. Sin embargo, los altos directivos de TI del sector público creen que la tecnología conlleva riesgos y también beneficios.
Según el Informe Immuta 2024 sobre el estado de la seguridad de los datos, el 88% de los altos directivos afirma que su personal ya utiliza herramientas de IA. Esto es independiente de si su organización tiene una política firme de adopción.
Cuando se les pidió que nombraran las principales ventajas de la IA para la seguridad informática, los participantes en la encuesta de Immuta señalaron la mejora de la identificación de ataques de phishing y la simulación de amenazas como dos de las principales. Otras fueron la detección de anomalías y la mejora de las auditorías y los informes.
A la hora de identificar los riesgos relacionados con la IA, los encuestados señalaron la exposición involuntaria de información sensible por parte de los empleados y el uso no autorizado de modelos creados específicamente fuera de contexto. Otros riesgos mencionados fueron la exposición involuntaria de datos sensibles por parte de grandes modelos lingüísticos (LLM) y el envenenamiento de los datos de entrenamiento.
Estos riesgos son significativos si se tienen en cuenta los grandes volúmenes de datos sensibles y de identificación personal que poseen los departamentos y organismos de todo el sector. El robo o la exposición de estos datos podría tener implicaciones significativas para los ciudadanos.
Crecimiento continuo
A pesar de estas preocupaciones, parece probable que la adopción de la IA por parte de los organismos del sector público siga siendo rápida. La empresa de análisis Gartner predice que el gasto en TI aumentará más del 70% durante el próximo año, y una parte significativa se invertirá en tecnologías y herramientas relacionadas con la IA. Las organizaciones tendrán que seguir adoptando esta nueva tecnología para seguir siendo competitivas y relevantes en el panorama económico actual.
Es probable que 2024 se convierta también en el año del sistema de control de IA. Aparte del bombo publicitario que rodea a la IA generativa, existe una cuestión más amplia en torno al desarrollo de un sistema de control para la tecnología. Esto se debe a que la IA aporta un paradigma totalmente nuevo en el que el control humano es escaso o nulo. Por tanto, las iniciativas de IA no llegarán a la producción a gran escala sin una nueva forma de sistema de control.
Al mismo tiempo, las organizaciones del sector público se darán cuenta de que, a medida que aumente el uso de la IA, tendrán que prestar aún más atención a la seguridad de los datos. Como hemos visto con los gobiernos de todo el mundo, también ha habido una necesidad urgente de promulgar nuevas leyes y reglamentos para garantizar que se aborden los problemas de privacidad y seguridad de los datos con la IA generativa.
A medida que evolucione la tecnología, quedará claro que la clave para aprovechar el poder de la IA basada en modelos de gran lenguaje (LLM) reside en disponer de un marco sólido de gobernanza de datos. Dicho marco es esencial no sólo para guiar el uso ético y seguro de los LLM, sino también para establecer normas que permitan medir sus resultados y garantizar su integridad.
La evolución de los LLM abrirá nuevas vías de aplicación en el análisis de datos, el servicio al cliente y los procesos de toma de decisiones, integrando aún más los LLM en el tejido de las industrias basadas en datos.
Los mayores ganadores en lo que respecta al uso de la IA serán los departamentos y organismos que creen un valor real a partir de mejores procesos de ingeniería de datos que se utilicen para aprovechar modelos que utilicen sus propios datos y contexto empresarial. El impacto clave para estas empresas será una mejor gestión del conocimiento.
Una continua reasignación de prioridades y recursos
Dado que es probable que el ritmo de cambio de la tecnología y el uso de los datos siga aumentando, los departamentos y organismos se verán obligados a reorientar los recursos hacia nuevas áreas relacionadas con los datos que se convertirán en prioritarias. Algunos ejemplos son la gobernanza y el cumplimiento de la normativa en materia de datos, la calidad de los datos y la integración de datos.
A pesar de la continua presión para hacer más con menos, las organizaciones no pueden detener ni detendrán la inversión en TI. Estas inversiones se centrarán en los bloques de construcción críticos que forman la base de una pila de datos moderna necesaria para respaldar las iniciativas de IA.
Además, la demarcación tradicional entre las capas de datos y aplicaciones en una infraestructura de TI se sustituirá por un enfoque más integrado centrado en los productos de datos. En lugar de unas pocas docenas de aplicaciones, habrá cientos de productos de datos. Este enfoque, denominado “arquitectura centrada en los datos”, permitirá a las organizaciones extraer un mayor valor de sus recursos de datos y respaldar mejor sus operaciones.
Al trabajar más cerca de los datos, los equipos de datos pueden reducir la latencia y mejorar el rendimiento, abriendo nuevas posibilidades para la elaboración de informes y análisis en tiempo real. Esto, a su vez, favorece una mejor toma de decisiones y unos procesos empresariales más eficientes.
El año que viene veremos algunos cambios fundamentales en la forma en que el sector público gestiona y trabaja con la IA y los datos. Aquellos organismos que se tomen tiempo para experimentar con la tecnología y determinar sus mejores casos de uso estarán mejor situados para extraer el máximo valor y lograr resultados óptimos para los ciudadanos.
Publicado originalmente en Govtech Review