La rápida evolución de la inteligencia artificial está transformando el panorama de las ciberamenazas a una velocidad sin precedentes. Según Gartner, existen cuatro amenazas críticas e impredecibles que otorgarán una ventaja significativa a los atacantes durante los próximos dos años: la suplantación de identidad mediante deepfakes, el compromiso de aplicaciones de IA, la inyección de prompts y los ataques contra las cadenas de suministro de software.
John Watts, analista de Gartner, explica que el creciente número de iniciativas de seguridad impulsadas por las empresas líderes en inteligencia artificial está generando más complejidad en un entorno ya de por sí saturado.n“Los líderes de ciberseguridad deben ser capaces de identificar las señales relevantes entre todo el ruido para responder a los cambios en el panorama de amenazas”.
Aplicaciones de IA: una nueva superficie de ataque
El auge de las herramientas de inteligencia artificial generativa y los agentes autónomos ha ampliado considerablemente la superficie de ataque de las organizaciones. Las aplicaciones de IA, tanto internas como orientadas al público, se han convertido en objetivos prioritarios para los ciberdelincuentes.
Los riesgos ya no se limitan al software tradicional. Los atacantes buscan explotar agentes personalizados, integraciones con terceros y herramientas utilizadas exclusivamente por empleados, donde una configuración inadecuada puede exponer datos sensibles o credenciales corporativas.
Para reducir estos riesgos, Gartner recomienda incorporar la seguridad desde las primeras fases del desarrollo de aplicaciones de IA mediante modelos de amenazas específicos y marcos como TRiSM (Trust, Risk and Security Management). Asimismo, aconseja reforzar la clasificación de datos, adoptar controles de acceso basados en propósito (PBAC) y desplegar mecanismos de monitorización en tiempo real.
Deepfakes: la nueva era de la suplantación digital
La mejora de las capacidades de generación de voz, vídeo e imágenes mediante inteligencia artificial ha convertido los deepfakes en una herramienta cada vez más accesible para los ciberdelincuentes.
Según Gartner, los ataques basados en deepfakes ya se utilizan para vulnerar sistemas de autenticación biométrica, ejecutar campañas de ingeniería social altamente sofisticadas y manipular procesos de selección de personal. “Los deepfakes se han convertido en un recurso habitual para hacer que las estafas y los ataques de phishing sean mucho más difíciles de detectar”, advierte Watts.
La consultora sostiene que la detección de deepfakes por sí sola no es suficiente. Las organizaciones deben implementar estrategias multicapa que combinen controles tecnológicos, procedimientos de verificación reforzados y programas de concienciación para empleados.
Entre las medidas recomendadas destacan la protección frente a ataques de presentación e inyección en sistemas biométricos, la incorporación de señales contextuales para validar identidades y la aplicación de autenticación fuerte en reuniones virtuales y comunicaciones en línea.
La cadena de suministro de software, bajo presión
Los ataques a la cadena de suministro de software continúan evolucionando y podrían acelerarse aún más por el creciente uso de componentes de inteligencia artificial y software de código abierto.
Gartner alerta de que las organizaciones dependen cada vez más de bibliotecas externas, modelos de IA de terceros y contenedores reutilizables, lo que amplía las oportunidades para que los atacantes introduzcan código malicioso o exploten vulnerabilidades ocultas.
Para mitigar este riesgo, los expertos recomiendan exigir a proveedores inventarios detallados de componentes de software (SBOM) y de modelos de inteligencia artificial (AIBOM), evaluar continuamente el riesgo de cada componente y utilizar repositorios controlados para código, imágenes de contenedores y modelos de IA.
Además, se aconseja reforzar los procesos de desarrollo mediante la firma de artefactos durante la compilación, la aplicación estricta del principio de mínimo privilegio y la monitorización constante de las actividades ejecutadas por agentes automatizados.
Prompt injection: el talón de Aquiles de los modelos generativos
Otra de las amenazas destacadas por Gartner es la denominada “prompt injection”, una técnica que busca manipular las instrucciones proporcionadas a los modelos de lenguaje para alterar su comportamiento.
A través de este tipo de ataques, los ciberdelincuentes pueden lograr que una IA revele información sensible, eluda restricciones de seguridad o ejecute acciones no autorizadas. A medida que las organizaciones integran modelos generativos en sus procesos de negocio, el impacto potencial de estos ataques aumenta significativamente.
Para hacer frente a esta amenaza, Gartner recomienda adoptar un enfoque de defensa en profundidad que incluya pruebas de seguridad específicas para sistemas de IA, validación y saneamiento de entradas, supervisión continua de comportamientos anómalos y mecanismos de protección en tiempo de ejecución capaces de bloquear acciones sospechosas.
Asimismo, los resultados de estas pruebas deben incorporarse al ciclo de desarrollo para mejorar continuamente las defensas y reducir las posibilidades de explotación.
El informe de Gartner refleja una realidad cada vez más evidente: la inteligencia artificial no solo está transformando la productividad empresarial, sino también las capacidades ofensivas de los atacantes.
