La inteligencia artificial está revolucionando la forma en la que las empresas interactúan con sus clientes y gestionan sus operaciones internas, aunque la misma también plantea interrogantes en torno a la seguridad y privacidad de los datos.
Desde Medallia, compañía especializada en la gestión de experiencias que ayuda a entender a los clientes y empleados a poner en marcha acciones que buscan la mejora de las métricas de negocio, consideran que uno de los aspectos clave en este sentido es entender dónde va y cómo se utiliza la información. Algunos modelos de IA pueden necesitar que esa información salga de los centros de datos de una empresa para su llevar a cabo su análisis, planteando riesgos de seguridad.
Entre las medidas que se pueden tomar para garantizar la protección de la información sensible figuran la encriptación de los datos, el control de acceso, la anonimización de los datos, el cumplimiento normativo, la monitorización y auditoría, sin olvidar la transparencia.
Así, con la encriptación, si los datos se ven comprometidos no puedan ser utilizados sin autorización. Al controlar el acceso a los datos se reduce la exposición de los datos a posibles amenazas internas o externas. Por su parte la anonimización reduce el riesgo de identificación de individuos a partir de los datos utilizados.
Imprescindible cumplir con todas las regulaciones y leyes de protección de datos, siendo fundamental también Implementar sistemas de monitorización y auditoría para detectar y responder rápidamente a cualquier actividad sospechosa o no autorizada relacionada con los datos de IA. Y ser transparente con los usuarios sobre cómo se están utilizando sus datos y qué medidas de seguridad se están implementando para protegerlos.
Desde Medallia, Alfonso Jiménez, director de servicios profesionales, avanza que una de las medidas que han implementado en la compañía es la creación de un consejo de moderación de IA interno, encargado de supervisar el desarrollo de todos los productos de IA de la empresa, así como una Junta Asesora de IA externa, que incluye la participación tanto de clientes y como de socios de Medallia.