Construyendo confianza en la era de la IA

El 26 de febrero, CDO LATAM realizó el webinar virtual Construyendo confianza en la era de la IA: analítica moderna para decisiones críticas, un espacio de conversación sobre el nivel real de adopción de la inteligencia artificial, la calidad de los datos, el gobierno corporativo, la gestión del cambio y las capacidades que necesitan las organizaciones para incorporar estas tecnologías en sus procesos.

La sesión, auspiciada por Qlik, reunió perspectivas del sector financiero, la industria tecnológica, la minería y la educación. La discusión no se concentró únicamente en las capacidades técnicas de la inteligencia artificial, sino en las condiciones organizacionales que permiten confiar en sus resultados y convertirlos en decisiones útiles para el negocio.

Moderadora:

  • Norma Espinosa, Director Datos & Analítica en Gentera.

Panelistas:

  • Johnsy Edison Duque, Director del Centro de Excelencia de Gobierno de Información en Aval Valor Compartido – AVC.
  • Isaac Parra, LATAM Enterprise Sales Manager en Qlik.
  • Carlos Calderón, Managing Director en VIXORA.

Una adopción que todavía se concentra en procesos operativos

Las experiencias presentadas durante el panel mostraron que la inteligencia artificial ya forma parte de distintas organizaciones de América Latina, aunque su integración todavía se concentra principalmente en procesos operativos, automatización, analítica descriptiva y modelos predictivos.

Carlos Calderón estimó que, dentro de su organización, no más de dos de cada diez procesos reciben actualmente algún apoyo de inteligencia artificial. Entre los casos más maduros mencionó la predicción de demanda para orientar decisiones de compra de mercadería.

La situación cambia en entornos industriales donde un error puede tener consecuencias graves. En operaciones mineras, VIXORA participa en la implementación de sistemas de asistencia para prevenir colisiones y detectar fatiga o microsueños en conductores de vehículos pesados. En esos escenarios, Calderón calculó que alrededor de cinco de cada diez recomendaciones ya se apoyan en sistemas maduros de inteligencia artificial.

La necesidad operativa ha acelerado la adopción en actividades donde una colisión puede provocar pérdidas humanas, detener la producción y activar procesos de investigación que afectan a toda la operación minera. La tecnología funciona como una capa de asistencia que alerta sobre riesgos, recomienda reducir la velocidad o evita el inicio de una maniobra peligrosa.

En el sector financiero, Johnsy Edison Duque ubicó a Grupo Aval en un nivel de madurez intermedio. La organización ya utiliza inteligencia artificial en automatización, hiperautomatización y procesos tácticos, pero todavía no la incorpora de manera generalizada en decisiones estratégicas.

Isaac Parra ofreció una lectura regional basada en las conversaciones de Qlik con diferentes empresas. Según su estimación, la mayoría se encuentra entre cuatro y seis en una escala de madurez del uno al diez. La inteligencia artificial se utiliza para obtener información descriptiva o predictiva, pero todavía existe resistencia a delegarle decisiones o automatizar procesos que antes dependían por completo de una persona.

En muchos casos, los resultados producidos por los sistemas requieren una segunda o tercera validación. Esa necesidad de revisión refleja una madurez todavía limitada en la calidad de los datos, los modelos y los mecanismos internos de control.

La confianza comienza en los datos y en su gobierno

Uno de los consensos más consistentes de la conversación fue que la confianza en la inteligencia artificial no puede separarse de la confianza en los datos que la alimentan.

Grupo Aval comenzó a desarrollar un modelo corporativo de gobierno de inteligencia artificial apoyado en la experiencia acumulada durante seis o siete años de gobierno de información. La organización trabaja sobre pilares vinculados con alineación estratégica, uso ético y seguro, protección de datos, eficiencia, reutilización de capacidades y responsabilidad corporativa.

Las iniciativas deben mantener una conexión con la estrategia y las prioridades del grupo. También se busca evitar que distintas empresas desarrollen de forma aislada soluciones similares, dupliquen esfuerzos o desaprovechen capacidades que podrían reutilizarse dentro de la organización.

El modelo incorpora documentación técnica para los sistemas que llegan a producción, auditorías periódicas, mecanismos de observabilidad y controles para reducir riesgos. Las áreas de riesgo, protección de datos personales, seguridad de la información y gobierno participan en la definición de los lineamientos.

La responsabilidad no recae únicamente en el equipo que desarrolla el modelo. El enfoque presentado por Duque distribuye esa responsabilidad entre las áreas que diseñan, supervisan, utilizan y controlan la solución. La inteligencia artificial se aborda como una capacidad organizacional y no como un proyecto exclusivo del área tecnológica.

También se estableció que las iniciativas deben surgir de una necesidad del negocio y contar, cuando corresponda, con un caso que justifique su valor. Existen proyectos relacionados con riesgo o cumplimiento que no necesariamente se evalúan con los mismos criterios financieros, pero también requieren una justificación concreta y mecanismos propios de validación.

La aspiración de Grupo Aval no es tomar decisiones basadas únicamente en inteligencia artificial, sino avanzar hacia decisiones basadas en datos. La inteligencia artificial, la analítica avanzada y otras capacidades permiten analizar esos datos, pero no sustituyen la estructura, las personas, los procesos ni el gobierno necesarios para convertirse en una organización orientada por información.

La gestión del cambio define la adopción real

La disponibilidad de una solución técnicamente precisa no garantiza que las personas confíen en ella. La experiencia en minería presentada por Calderón mostró que la adopción puede ser más compleja y costosa que el propio desarrollo tecnológico.

Los primeros sistemas para detectar microsueños requerían instalar cámaras dentro de las cabinas de los vehículos. La medida provocó preocupación entre los conductores, que podían interpretarla como una invasión de su privacidad o como un mecanismo de vigilancia.

La aceptación cambió después de varios años, cuando los trabajadores comenzaron a percibir los beneficios y se establecieron protocolos sobre el uso de la información. Con el tiempo, los sistemas dejaron de verse únicamente como una forma de control y comenzaron a valorarse como instrumentos de protección.

La experiencia muestra que la confianza se construye mediante resultados verificables, reglas comprensibles y claridad sobre la manera en que se utilizarán los datos. La gestión del cambio debe abordar tanto el funcionamiento de la tecnología como los temores relacionados con privacidad, autonomía profesional y posibles consecuencias laborales.

Parra planteó que la adopción también depende de la repetición, las victorias tempranas y los casos que demuestren resultados positivos. Cuando los usuarios comprueban que una herramienta mejora tiempos, viabilidad o desempeño, su incorporación al trabajo cotidiano deja de depender únicamente de una instrucción corporativa.

El proceso requiere integrar la tecnología en prácticas habituales y evitar que permanezca como una iniciativa paralela, experimental o desconectada de la operación.

Arquitecturas preparadas para una tecnología que cambia constantemente

La velocidad con la que aparecen modelos, agentes y plataformas puede provocar que las organizaciones posterguen decisiones por temor a elegir una tecnología que pronto quede superada.

Parra sostuvo que la selección tecnológica no debería paralizar los proyectos. Las empresas necesitan escoger una solución, avanzar con una metodología definida y construir sobre lo que ya han implementado. Reemplazar por completo una arquitectura cada vez que aparece una nueva herramienta genera pérdida de tiempo y deteriora las inversiones realizadas.

La alternativa propuesta consiste en diseñar arquitecturas escalables e interoperables, capaces de incorporar nuevas capacidades sin eliminar lo anterior. Una solución debería evolucionar, conectarse con nuevas tecnologías y permitir cambios graduales en los modelos utilizados.

Duque coincidió en la necesidad de mantener flexibilidad. Grupo Aval trabaja en una capa dedicada a revisar nuevas tecnologías, agentes y regulaciones. El seguimiento no se limita al entorno local, porque las organizaciones también deben considerar normas y desarrollos internacionales que pueden afectar sus operaciones.

El modelo de gobierno debe permitir modificar un agente, una solución conversacional o un componente analítico cuando aparezca una opción que ofrezca mejores capacidades. La arquitectura cumple una función central para evitar que cada cambio tecnológico obligue a reconstruir los proyectos.

La regulación representa un desafío adicional. Su desarrollo suele avanzar a un ritmo menor que la tecnología, por lo que las empresas necesitan mecanismos internos para incorporar nuevos criterios legales, técnicos y éticos sin esperar a que todo el entorno normativo se estabilice.

Ciencia de datos e inteligencia artificial generativa no avanzan al mismo ritmo

Calderón propuso separar dos ámbitos que con frecuencia se presentan como si tuvieran el mismo nivel de madurez.

El primero corresponde a la ciencia de datos y a la analítica aplicada a problemas empresariales. En este espacio existen organizaciones que han invertido durante años, han desarrollado equipos especializados y ya obtienen resultados económicos. Los datos se gestionan como un activo que puede apoyar la eficiencia, la competitividad y la generación de ingresos.

Según los estudios de adopción mencionados durante el panel, alrededor del 20 % de las 500 empresas más grandes del Perú ya cuenta con un Chief Data Officer. Aunque ese grupo representa una parte pequeña del total de empresas del país, concentra una proporción relevante de la actividad económica.

El segundo ámbito corresponde a la inteligencia artificial generativa. Calderón señaló que, por ahora, su uso se mantiene principalmente en el plano individual, como apoyo para tareas personales o actividades concretas dentro de los equipos. Desde su perspectiva, todavía son limitados los casos en los que la inteligencia artificial generativa ha transformado procesos empresariales completos.

La separación entre ambos mundos permite evaluar las inversiones con mayor rigor. La ciencia de datos cuenta con una trayectoria más extensa y casos de valor acumulados durante años. La inteligencia artificial generativa tiene un potencial amplio, pero todavía se encuentra en una etapa temprana de adopción corporativa.

Calderón advirtió sobre el riesgo del amarillismo tecnológico, que transmite la idea de que una empresa puede desaparecer si no genera resultados inmediatos con inteligencia artificial. Una adopción precipitada, sin datos adecuados, talento, gobierno ni objetivos de negocio, también puede provocar pérdidas.

La creación de valor requiere inversiones sostenidas, capacidades técnicas, conocimiento del negocio y tiempo para transformar los procesos. La inteligencia artificial puede acelerar una estrategia basada en datos, pero no reemplaza los fundamentos necesarios para ejecutarla.

El talento debe comprender el propósito antes que la herramienta

La discusión sobre talento partió de una premisa compartida por los panelistas. La inteligencia artificial es un medio para alcanzar un objetivo empresarial, no un objetivo independiente.

Calderón explicó que los programas académicos especializados deben formar profesionales capaces de crear valor. En sectores como la minería, una solución puede combinar inteligencia artificial, internet de las cosas, procesamiento en el borde, sistemas satelitales y mecanismos de alta precisión. El algoritmo representa solo una parte del caso de uso.

El conocimiento técnico conserva su importancia, pero debe integrarse con una comprensión profunda del problema. Un profesional puede dominar herramientas de inteligencia artificial y, aun así, no saber cómo aplicarlas a una necesidad comercial, operativa o estratégica.

Parra identificó dos grandes grupos de competencias. Los equipos tecnológicos necesitan capacidades de arquitectura, desarrollo, análisis y gestión de información. Las áreas funcionales deben entender cómo utilizar la inteligencia artificial para mejorar finanzas, ventas, logística, contabilidad u otros procesos.

La capacitación no debería limitarse a enseñar cómo hacer consultas a un asistente. También debe mostrar cómo automatizar actividades, activar procesos, combinar fuentes de información y utilizar la tecnología dentro de una estrategia gobernada.

Una experimentación dispersa puede producir múltiples prácticas incompatibles dentro de la misma empresa. La innovación requiere lineamientos comunes, prioridades definidas y coordinación entre los equipos.

Duque añadió que todas las organizaciones se encuentran en proceso de aprendizaje. Grupo Aval ha creado laboratorios y espacios donde profesionales con diferentes niveles de experiencia pueden desarrollar capacidades de manera conjunta. En algunos proyectos, el conocimiento técnico se ha obtenido mediante socios externos, mientras el talento interno aporta una mayor comprensión funcional y del negocio.

Norma Espinosa compartió una experiencia similar. Su organización se apoyó inicialmente en terceros con capacidades técnicas y concentró sus esfuerzos internos en conectar ese conocimiento con casos de uso derivados de la estrategia. El reto consiste en que los profesionales jóvenes amplíen su perspectiva y comprendan el propósito de la iniciativa, no solo la plataforma utilizada.

Un gobierno corporativo que combine dirección y autonomía

Durante la sección de preguntas, Duque explicó que Grupo Aval utiliza una estructura de gobierno por capas.

La capa corporativa reúne a los responsables de datos de las distintas entidades. En ese nivel se definen principios rectores, prioridades estratégicas, criterios de eficiencia y oportunidades de colaboración. Las decisiones se toman mediante un modelo balanceado en el que participan las empresas del grupo.

Cada entidad cuenta también con una capa organizacional y con comités propios de datos e inteligencia artificial. Los lineamientos corporativos se trasladan a esa estructura, que conserva capacidad para ejecutar y adaptar las iniciativas dentro de su operación.

El modelo combina coordinación central con ejecución distribuida. La estructura busca mantener coherencia en temas estratégicos y de riesgo, sin impedir que cada empresa responda a sus necesidades particulares.

Duque también identificó tres prácticas que contribuyeron a extender el gobierno de información dentro de la organización.

La primera fue incorporar a un especialista en gestión del cambio, con participación de Recursos Humanos, durante el desarrollo del modelo. El acompañamiento continuó incluso después de que el proyecto se transformara en una función permanente.

La segunda fue asegurar patrocinio ejecutivo. El proceso comenzó con la presidencia y las vicepresidencias, lo que facilitó el despliegue posterior hacia el resto de la organización.

La tercera fue mantener programas periódicos de capacitación. El gobierno de información no pertenece a un área aislada, por lo que sus principios deben reforzarse entre todos los colaboradores.

La sostenibilidad económica también condiciona la confianza

La adopción de inteligencia artificial no depende únicamente de que una solución funcione. También debe ser económicamente sostenible.

Parra advirtió que el crecimiento de los proyectos puede aumentar el volumen de información, la capacidad de procesamiento, el número de plataformas y los costos de licenciamiento. Sin control, una iniciativa puede alcanzar un nivel de gasto que obligue a restringir su uso o retirar capacidades que ya forman parte de los procesos.

Las empresas necesitan dimensionar las soluciones, medir su retorno y controlar su evolución. La escalabilidad no debería entenderse como una expansión sin límites, sino como la capacidad de crecer de acuerdo con resultados y prioridades concretas.

En el horizonte cercano, Parra prevé una inteligencia artificial cada vez más incorporada en los procesos cotidianos. Su uso dejaría de presentarse como una actividad separada y pasaría a formar parte de las herramientas con las que las personas gestionan información y toman decisiones.

Calderón consideró que los próximos cinco años pueden producir transformaciones relevantes en la vida laboral y en el funcionamiento de las oficinas. Aun así, recomendó mantener una estrategia de inversión prudente, con iniciativas concretas y capacidad para aprender, sin concentrar todos los recursos en tecnologías que todavía se encuentran en evolución.

Duque proyectó una organización con un modelo de gobierno más robusto y una mayor capacidad para tomar decisiones basadas en datos. Esa evolución no depende solo de componentes tecnológicos. También requiere estructuras, responsabilidades, procesos y personas capaces de convertir la información en acciones.

Conclusión

La confianza en la inteligencia artificial se construye mediante datos de calidad, gobierno corporativo, arquitecturas flexibles, controles de riesgo y una gestión del cambio que responda a las preocupaciones de quienes utilizarán las soluciones. La adopción actual avanza con mayor rapidez en procesos operativos y analíticos que en decisiones estratégicas autónomas.

Las organizaciones necesitan evaluar la inteligencia artificial según el valor que aporta al negocio, no por la novedad de la herramienta. El desarrollo sostenible dependerá de la capacidad para integrar tecnología, talento, conocimiento funcional, responsabilidad compartida y control de las inversiones.

Scroll al inicio