Un estudio reciente realizado por Gartner reveló que el 62 % de las organizaciones en todo el mundo fue víctima de ataques con deepfakes durante los últimos 12 meses. Estos ataques, que utilizan técnicas avanzadas de manipulación audiovisual y digital, se han empleado principalmente para llevar a cabo campañas de ingeniería social o para explotar procesos automatizados dentro de las empresas.
Entre las principales conclusiones del informe se encuentra el hecho de que un 32 % de las organizaciones sufrió ataques específicamente dirigidos a aplicaciones de inteligencia artificial. En estos casos, los atacantes emplearon técnicas de manipulación de prompts (las instrucciones o preguntas que se introducen en sistemas basados en modelos de lenguaje) para inducir a los sistemas a generar respuestas maliciosas o sesgadas. Esto afecta especialmente a asistentes conversacionales y otras herramientas de IA que dependen de modelos de lenguaje de gran escala.
Asimismo, el 29 % de los encuestados afirmó que su infraestructura empresarial de aplicaciones de inteligencia artificial generativa (GenAI) fue objeto de ataques en el último año. Estos datos evidencian que las plataformas que combinan automatización y generación de contenido mediante IA están emergiendo como objetivos prioritarios para los cibercriminales.
El estudio de Gartner subraya la urgencia de que las organizaciones refuercen sus estrategias de ciberseguridad para afrontar estas nuevas amenazas, que no solo son más sofisticadas, sino que también se aprovechan de tecnologías cada vez más extendidas y complejas dentro del entorno empresarial.
