Los demos de agentes impresionan. En producción, lo que importa es qué pasa cuando el modelo se equivoca con confianza.
El problema no es la inteligencia
El problema es la autoridad. Un agente que puede abrir tickets, mover stock o escribir a un cliente no es un chatbot: es un actor con side effects. Si no hay un humano (o una política dura) en el camino crítico, estás automatizando el riesgo.
Tres capas que sí funcionan
- Clasificar antes de actuar. Separar “informar”, “proponer” y “ejecutar”. Solo la última toca sistemas.
- Aprobación por umbral. Acciones baratas o reversibles pueden ir solas; las caras, irreversibles o ambiguas esperan a una persona.
- Auditoría legible. Quién aprobó qué, con qué contexto, y qué hizo el agente. Sin esto no hay mejora ni cumplimiento.
Humano en el bucle no es “lentitud”
Bien diseñado, el humano no revisa todo: revisa excepciones. El agente absorbe el volumen; la persona absorbe la responsabilidad. Esa división es la que escala en equipos pequeños.
Qué evitar
- Prompts eternos en lugar de permisos.
- “Confianza del modelo” como único freno (es un score, no una garantía).
- Flujos donde el humano solo ve el resultado cuando ya es tarde.
Si estás montando agentes sobre ERP, soporte o logística, empieza por el mapa de acciones y por quién puede firmar cada una. El modelo es el motor; el bucle humano es el freno y el volante.