En 2027, más del 40 % de las violaciones de datos relacionadas con la IA serán causadas por el uso indebido de la inteligencia artificial generativa (GenAI) a nivel transfronterizo. Así lo asegura Gartner, que destaca que la rápida adopción de estas tecnologías por parte de los usuarios ha superado el desarrollo de medidas adecuadas de gobernanza y seguridad de datos, lo que ha generado preocupaciones sobre la localización de los datos debido al poder computacional centralizado necesario para soportar estas tecnologías.
El uso inapropiado de GenAI y la falta de supervisión adecuada han provocado transferencias no intencionadas de datos a través de fronteras. Estas situaciones suelen ocurrir cuando la GenAI se integra en productos existentes sin una descripción clara o un anuncio previo. Esto representa un riesgo significativo, especialmente cuando se envían solicitudes sensibles a herramientas de IA y API alojadas en ubicaciones desconocidas. Las organizaciones han notado cambios en el contenido generado por los empleados que utilizan estas herramientas. Si bien estos sistemas pueden ser empleados en aplicaciones empresariales aprobadas, su uso indebido puede comprometer la seguridad de los datos.
La falta de estándares y mejores prácticas globales en materia de IA y gobernanza de datos está exacerbando este problema. La fragmentación del mercado obliga a las empresas a desarrollar estrategias específicas para cada región, lo que limita su capacidad para escalar operaciones de manera global y aprovechar los productos y servicios de IA. Según Gartner, la complejidad de gestionar los flujos de datos debido a políticas de IA localizadas puede generar ineficiencias operacionales. Las organizaciones deben invertir en una gobernanza avanzada de IA y en medidas de seguridad para proteger los datos sensibles y garantizar el cumplimiento normativo.
Gartner predice que, para 2027, la gobernanza de la IA será un requisito en todas las leyes y regulaciones soberanas de IA a nivel mundial. Las organizaciones que no logren integrar los modelos de gobernanza y controles necesarios podrían encontrarse en desventaja competitiva, especialmente aquellas que carecen de los recursos para extender rápidamente los marcos de gobernanza de datos existentes. Esto representa una oportunidad para que las empresas inviertan en servicios de seguridad, gobernanza y cumplimiento de IA, así como en soluciones tecnológicas que mejoren la transparencia y el control sobre los procesos de IA.
Para mitigar los riesgos de violaciones de datos relacionadas con el uso indebido de GenAI transfronteriza y garantizar el cumplimiento normativo, Gartner recomienda que las empresas adopten varias acciones estratégicas. En primer lugar, deben mejorar la gobernanza de datos, extendiendo los marcos de gobernanza para incluir pautas específicas para los datos procesados por IA. Además, es crucial la creación de comités de gobernanza que se encarguen de la supervisión técnica, la gestión de riesgos y el cumplimiento normativo. También deben fortalecer la seguridad de los datos mediante el uso de tecnologías avanzadas, cifrado y anonimización, y aplicar productos de gestión de confianza, riesgos y seguridad (TRiSM) específicos para la IA. Con estas acciones, las organizaciones podrán proteger mejor los datos sensibles y reducir los riesgos asociados con la adopción de la IA generativa.
