Los agentes de inteligencia artificial están comenzando a incorporarse a los departamentos financieros, pero su mayor autonomía introduce nuevos riesgos frente a las tecnologías de automatización utilizadas hasta ahora, según Gartner.
Alex Levine, Director Analyst de la práctica de Finanzas de Gartner, explica que estos sistemas pueden interpretar objetivos, planificar acciones, ejecutar tareas e interactuar con distintos sistemas, lo que amplía su capacidad de actuación.
A diferencia de la automatización tradicional, que sigue reglas predefinidas, los agentes pueden tomar decisiones que no siempre son visibles o fácilmente explicables para las personas. Gartner advierte además de que los errores pueden propagarse rápidamente cuando no existen mecanismos claros de supervisión.
Ante esta situación, la consultora señala que los primeros proyectos deberían servir también para comprobar la capacidad de la organización para gobernar estos sistemas, antes de ampliar su utilización a procesos de mayor impacto.
Gartner recomienda comenzar con procesos de bajo riesgo, con límites definidos, pasos repetibles y resultados verificables. También aconseja evitar inicialmente actividades relacionadas con reformulaciones financieras o informes regulatorios.
Antes de desarrollar el agente, los equipos deberían establecer qué datos puede consultar, qué acciones puede realizar y en qué situaciones será necesaria la intervención humana. La consultora también destaca la importancia de definir responsabilidades entre Finanzas, Tecnología y auditoría o gestión de riesgos.
La trazabilidad es otro de los aspectos destacados por Gartner. En cada ejecución, los equipos deberían poder reconstruir qué planificó el agente, a qué información accedió y qué resultado produjo, además de registrar los errores detectados y las medidas adoptadas para corregirlos.
“El éxito debería medirse por el grado de preparación en materia de gobernanza, y no únicamente por la autonomía o el retorno de la inversión”, afirma Levine. Según Gartner, los primeros pilotos también deberían generar procedimientos, formación y mecanismos de gobernanza que puedan reutilizarse en futuras implantaciones de agentes de IA.
