Entre los riesgos que se pueden generar en las empresas al utilizar herramientas de IA generativa figura los modelos propios, diseñados desde el inicio a través de una gran inversión con una base predefinida que puede transformarse y personalizarse con pequeños retoques. Herramientas que deben servir para mejorar la eficiencia y productividad ética y responsablemente, con supervisión humana ya que dejar funcionar a la inteligencia artificial a su libre albedrío es un riesgo que puede poner en peligro la sostenibilidad de las organizaciones. Estas conclusiones se pusieron de manifiesto en la sesión “Iniciándonos en la IA: fundamentos y aplicaciones prácticas”, organizada por el Club Excelencia en Gestión, asociación multisectorial sin ánimo de lucro e impartida por el director del equipo de Client Engineering de IBM España, Portugal, Grecia e Israel: Enric Delgado.
Delgado puso de manifiesto que hay que para evitar los riesgos debemos intentar evitar las alucinaciones, es decir, los errores que pueden aparecer en la generación de texto o imágenes. Contenido que no se basa en datos reales entre los que se incluyen vídeos manipulados que representan a personas que llevan a cabo acciones que nunca han sucedido.
El directivo recomienda entrenar al modelo con datos lo más curados y filtrados posible, teniendo en cuenta aspectos legales y éticos, evitando utilizar datos protegidos, sensibles o personales sin consentimiento. Tampoco datos sesgados que pueden promover resultados discriminatorios por edad, género, religión, color de la piel…
Un mal uso de los algoritmos, usando información falsa o palabras malsonantes, puede llevarnos a la desinformación tóxica y agresiva, repercutiendo negativamente para la organización.
Fundamental explicar cómo se han diseñado las herramientas personalizadas de IA, incluso en la web. Transparencia que también hay mostrar a nivel interno, haciendo partícipes a todos los miembros de la compañía que trabajen en ella sobre cómo es y cómo funciona el modelo, cómo se va a introducir en los engranajes del día a día para facilitar la labor de los trabajadores y mejorar el rendimiento, por pone algunos ejemplos.
En todo ello juega un papel fundamental la supervisión humana, vital para que la inteligencia artificial genere un impacto positivo en cualquier organización. Una apuesta por la innovación y la actualización constante en el ámbito tecnológico es una de las palancas de acción de esa Gestión 5.0, muy presente en el Modelo EFQM, modelo de gestión impulsado en España por el Club Excelencia en Gestión.
Este modelo es una herramienta que permite medir el grado de madurez de la gestión, a nivel integrado, de una organización, para afrontar de forma ágil la transformación, necesaria para la sostenibilidad de cualquier organización a lo largo del tiempo, buscando un equilibrio entre la mejora de su funcionamiento en el presente y su preparación para el futuro.
