El Club Excelencia en Gestión ha celebrado la sesión ‘Iniciándonos en la IA: Fundamentos y aplicaciones prácticas’, dirigida por Enric Delgado, director del equipo de Client Engineering de IBM en España, Portugal, Grecia e Israel. En ella se han plasmado, entre otros aspectos, los riesgos que pueden aparecer en las empresas al utilizar herramientas de inteligencia artificial generativa.
Estas son las cinco claves que se deben tener en cuenta para evitar problemas dentro de nuestras organizaciones:
- Alucinaciones: Son errores o distorsiones que pueden aparecer en la generación de texto e imágenes porque los algoritmos de nuestro modelo decodifican incorrectamente la información. El control humano es esencial para evitarlos.
- Alimentación del modelo: Hay que entrenar a nuestro modelo con datos curados y filtrados, y siempre teniendo en cuenta aspectos legales y éticos. Por ejemplo, evitando utilizar información personal y protegida sin consentimiento, o datos sesgados que promuevan resultados discriminatorios.
- Mal uso del algoritmo: Si le damos información falsa o agresiva, con insultos y palabras malsonantes, nuestro algoritmo terminará generando (des)información tóxica que podría afectar negativamente al prestigio de la organización y al ecosistema que le rodea.
- Modelos transparentes: Los líderes de nuestra organización deben saber explicar cómo se han desarrollado sus herramientas personalizadas de IA, cómo se han entrenado y cómo están evolucionando. Así demostrarán que se están comportando como deben y que se están atajando las desviaciones de forma responsable.
- Introducción interna: Hay que hacer partícipes a las personas que conforman nuestra organización de cómo se va a introducir la nueva herramienta en la gestión diaria del trabajo, cómo va a facilitar su labor y a mejorar el rendimiento de la empresa. Así se mejoran los niveles de control y se minimizan los riesgos.
La apuesta por la innovación y la actualización constante de una forma ordenada y responsable está muy presente en el Modelo EFQM, una herramienta eficaz para enfocar procesos de transformación en todo tipo de organizaciones.
Si buscas nuevas fórmulas para fomentar una gestión a largo plazo excelente, innovadora y sostenible, desde el Club Excelencia en Gestión podemos ayudarte. Para más información, ponte en contacto con nosotros.