La irrupción de la inteligencia artificial está haciendo que se incremente la preocupación por la ciberseguridad y, por tanto, sea una de las primeras aplicaciones de la IA generativa que se están implementando. Ésta es una de las principales conclusiones de un estudio de Omdia que asegura que el 72 % de las empresas “early adopter” de tecnología o han implantado o están probando tecnología que garantice la seguridad de sus sistemas.
Los primeros casos se centran en detectar y prevenir amenazas (identificación de anomalías en el tráfico de red y en el comportamiento de usuarios que indiquen un ciberataque y prevención del fraude analizando correos electrónicos y otros contenidos buscando lenguaje y contexto sospechosos, la simulación de ataques, la gestión de vulnerabilidades o la automatización de las evaluaciones de riesgos); en la respuesta a incidentes (creación de resúmenes concisos para apoyar la toma de decisiones); o en la capacitación de analistas de SOC (automatización de tareas rutinarias, repetitivas y aumento de capacidades).
Sin embargo, a pesar de su potencial para acelerar la madurez y resistencia de la ciberseguridad de las organizaciones, la IA generativa presenta nuevos retos y riesgos que deben evaluarse antes de que su adopción se generalice, especialmente en los sectores regulados.
Tal y como destaca Canalys, comprender la diversidad de los datos de entrenamiento y la fiabilidad y precisión de los resultados de la IA es fundamental para generar confianza. La transparencia de los algoritmos y la garantía de la privacidad de los datos son igualmente importantes, así como el cumplimiento de la normativa y las normas del sector. La auditoría sistemática y la supervisión continua son esenciales. Se necesitan nuevas competencias para integrar y optimizar las herramientas de inteligencia artificial generativa, pero muchas organizaciones carecen actualmente de recursos técnicos y operativos internos. También es esencial asegurar los propios modelos y evaluar los nuevos vectores de brechas que provocan. Hasta ahora se ha prestado poca atención a este aspecto, ya que las organizaciones siguen adelante con las implantaciones.
Todas estas cuestiones deben abordarse antes de que los proyectos pasen de la fase de prueba de concepto a la de producción. Los proyectos inteligencia artificial generativa suelen contar con presupuestos independientes para crecer, algo que pone de relieve no solo la satisfacción con los resultados iniciales, que cumplieron o superaron las expectativas, sino también la confianza en el potencial de la tecnología para transformar la ciberseguridad y otras áreas, incluida la productividad de los empleados, la atención al cliente externo y el marketing personalizado.
