La inteligencia artificial está entrando en las empresas a un ritmo que, en muchos casos, supera la capacidad de las organizaciones para gobernarla. Los llamados agentes en la sombra, agentes o flujos de trabajo autónomos de IA creados y utilizados sin el conocimiento completo de los equipos de TI, empiezan a convertirse en un nuevo problema para las compañías de EMEA. Un estudio de Censuswide para Veeam Software, en el que se han recabado opiniones de 1.000 responsables de TI, datos y seguridad de empresas de más de 500 empleados de Reino Unido, Alemania, Francia y Oriente Medio y África, destaca que el 70 % de las organizaciones encuestadas reconoce que los flujos de trabajo automatizados de IA interactúan con datos corporativos sensibles sin una supervisión completa. Al mismo tiempo, el 67 % afirma que sus empleados están creando flujos de trabajo autónomos que los equipos de TI no pueden rastrear por completo. El problema, según Veeam, va más allá de conocer qué herramientas de IA utilizan los empleados. Los agentes autónomos pueden acceder e interactuar con información corporativa, elevando el riesgo de que datos sensibles queden expuestos, aumenten los problemas de cumplimiento normativo o se utilicen datos cuya fiabilidad no está garantizada.
En este escenario, la gobernanza de la IA deja de ser una cuestión exclusivamente tecnológica. La presión regulatoria y la creciente responsabilidad de los directivos están llevando el debate hasta los consejos de administración. El 58 % de las empresas consultadas afirma estar sujeto a nuevas leyes de responsabilidad corporativa, mientras que un 12 % considera que las responsabilidades individuales de los directivos siguen siendo poco claras. La nueva situación también está teniendo consecuencias dentro de los equipos de dirección. El 40 % muestra preocupación por la responsabilidad personal y sus posibles consecuencias, el 39 % habla de un mayor escrutinio por parte del consejo de administración y el 37 % reconoce un incremento del estrés o la ansiedad. Además, un 32 % asegura que esta situación ha provocado tensiones o conflictos entre directivos. Pero no todo son dificultades. El 45 % considera que el aumento de la responsabilidad ha mejorado la alineación y el enfoque del liderazgo. Para Tim Pfaelzer, director general y vicepresidente sénior para EMEA de Veeam, esta mayor implicación de los consejos puede acabar reforzando la gobernanza de los datos y de la IA.
A este escenario se suma la entrada en aplicación de la Ley de IA de la Unión Europea y los diferentes plazos de cumplimiento que continuarán hasta 2028. La mayoría de los directivos encuestados, un 83 %, considera que la normativa tendrá un impacto positivo tanto en las organizaciones como en el entorno. Sin embargo, existe una importante preocupación sobre su aplicación. El 62 % cree que las ambigüedades y zonas grises de la norma pueden generar riesgos de incumplimiento y el 63 % teme que pueda introducir riesgos operativos o legales no deseados.
Para Veeam la respuesta no pasa por intentar controlar individualmente cada agente autónomo. La compañía considera que este enfoque no es escalable, en su opinión las organizaciones tienen que centrar sus esfuerzos en proteger, gobernar y conocer los datos sobre los que trabajan estos sistemas.
