EMPRESAS. Solo el 21 % de las organizaciones encuestadas por Deloitte cuenta con un modelo maduro para gobernar agentes de inteligencia artificial. Al mismo tiempo, el 74 % espera utilizarlos al menos de manera moderada para 2027.
Las cifras muestran el reto que enfrentan las empresas mientras incorporan sistemas capaces de consultar datos, tomar decisiones dentro de ciertos límites y ejecutar tareas con autonomía.
Un agente de IA puede, por ejemplo, recibir una solicitud, buscar información en varias aplicaciones y completar parte de un proceso sin esperar una instrucción humana en cada paso. Esa capacidad promete ahorrar tiempo, pero también obliga a responder preguntas concretas. ¿A qué datos puede acceder? ¿Qué acciones requieren autorización? ¿Quién revisa lo que hizo y responde si comete un error?
Qué riesgos aparecen cuando varios agentes de IA trabajan juntos
El desafío crece cuando una empresa utiliza agentes de distintos proveedores y los conecta con sus sistemas internos. Una tarea iniciada en una aplicación puede continuar en otra y terminar en una decisión que afecte a un cliente, un empleado o una operación. Sin un registro de esos pasos, reconstruir lo ocurrido puede resultar difícil.
“Durante los últimos años, la conversación estuvo centrada en cómo incorporar inteligencia artificial. Hoy el verdadero desafío es lograr que todos esos agentes trabajen de manera coordinada, segura y alineada con los objetivos del negocio”, explica Antonio Monti, VP NOLA & SOLA de BMC Helix.
La encuesta de Deloitte reunió a 3.235 líderes de negocios y tecnología de 24 países. Sus resultados reflejan una distancia entre el uso previsto de agentes y la preparación para supervisarlos. Las cifras corresponden a las organizaciones consultadas y no describen por sí solas la situación particular de América Latina.
Cómo gobernar los agentes de IA en una empresa
Gobernar estos sistemas significa fijar permisos, responsabilidades y límites antes de darles acceso a información o permitirles ejecutar acciones. También supone registrar sus decisiones, comprobar sus resultados y establecer en qué casos debe intervenir una persona.
Por ejemplo, un agente podría clasificar solicitudes de servicio y proponer respuestas. Si necesita modificar datos sensibles o aprobar una operación, la empresa puede exigir una revisión humana. El grado de autonomía dependerá del riesgo de cada tarea.
Estas reglas necesitan abarcar todo el recorrido del agente. Si una compañía controla cada herramienta por separado, puede perder de vista lo que ocurre cuando intercambian información entre sí.
Por qué la orquestación de agentes también importa
La gobernanza define qué puede hacer cada agente. La orquestación organiza cómo colaboran, en qué orden realizan las tareas y qué sistema recibe los resultados. Son funciones relacionadas, pero una coordinación eficiente no sustituye los controles.
Le recomendamos: Liderazgo digital con ética: cinco límites clave para no perder la humanidad en la era tecnológica
“Así como una orquesta necesita un director para que cada instrumento aporte valor en el momento indicado, un ecosistema de inteligencia artificial requiere una plataforma capaz de coordinar múltiples agentes, independientemente del modelo o proveedor con el que fueron desarrollados”, señala Monti.
En ese sentido, la plataforma de gestión de servicios y operaciones de TI, BMC Helix propone gestionar esas interacciones desde un entorno común. Para las empresas, la decisión de fondo es más amplia que escoger una plataforma. Antes de ampliar el uso de agentes, necesitan saber qué procesos les confiarán, cómo podrán seguir sus acciones y quién tendrá la facultad de detenerlas.
Además, para las empresas que buscan escalar la inteligencia artificial, la respuesta pasa cada vez más por combinar autonomía, gobernanza, innovación y responsabilidad como parte de una misma estrategia tecnológica.
La IA ya puede actuar por su cuenta. El control debe avanzar al mismo ritmo. Comparta este artículo ➡️ con quienes toman decisiones en las empresas. #AgentesDeIA #GobernanzaIA
___________________________________ 
