¿Cómo se gobierna un agente sintético? Freno, intervención y bitácora

¿Por qué un agente necesita gobierno?

Porque un agente no sólo contesta: ejecuta. Agenda, cotiza, contacta, registra, a veces toca dinero o datos de clientes. Un error de un programa que sólo informa se corrige con una disculpa; el de un agente que actúa puede tener consecuencias reales. Gobernarlo es decidir de antemano qué puede hacer, quién responde y cómo se detiene, en vez de descubrirlo el día del problema.

¿Qué reglas tiene un agente y quién las define?

Las reglas dicen qué tareas le tocan, qué información puede usar, hasta qué monto o condición decide solo y cuándo debe pasar el caso a una persona. Las define el dueño del proceso en el negocio, no el proveedor, y quedan escritas en un lugar donde se pueden leer y cambiar con control de versiones. Lo que no está en las reglas, el agente no lo hace. Esto es parte de Synthetic OS, el sistema operativo de cada agente sintético.

¿Cómo se frena a un agente?

Con un freno al alcance de las personas autorizadas: pausar a un agente, o todos, sin pedir permiso técnico ni esperar a que alguien abra un ticket. Lo que se revisa al contratar es cuánto tarda en surtir efecto, quién tiene la llave y qué ve el cliente mientras el agente está detenido (un aviso claro y una persona que lo atienda, no un silencio). Un freno que sólo existe en el contrato no es un freno.

¿Cómo interviene una persona en una conversación?

El equipo puede ver las conversaciones del agente, tomar una en cualquier momento, responder como persona y devolverla al agente cuando termine. Además, el agente mismo pasa el caso cuando sale de sus reglas, cuando el cliente pide hablar con una persona o cuando detecta una situación delicada, y lo hace con el contexto completo para que el cliente no repita nada. Esta doble vía —la persona toma al agente y el agente llama a la persona— es lo que mantiene el control en manos del equipo.

¿Qué debe registrar la bitácora?

Cada acción del agente, con fecha, qué hizo, por qué y con qué resultado; cada intervención humana y quién la hizo; y cada cambio de reglas. La prueba de que es útil es sencilla: si un cliente, un auditor o un regulador pregunta «¿qué pasó con este caso?», alguien puede responder leyendo la bitácora, sin reconstruirlo de memoria. Es la base para auditar y la razón por la que no hay cajas negras.

¿Quién vigila al agente cuando nadie lo mira?

Una vigilancia continua que revisa que el agente esté funcionando en el canal real por donde atiende, no sólo que el servidor esté encendido, y que avisa a una persona cuando algo falla. Hay fallas que no dan error y sólo se notan porque el agente dejó de contestar; por eso se mide en el canal y no en el servidor. Cuando la falla es conocida, el sistema puede corregirla y registrar que lo hizo; cuando no lo es, la escala a una persona.

¿Se hace pasar por persona?

Nunca. Ningún agente finge ser una persona: se presenta como lo que es y, si alguien pregunta, no lo niega. Siempre hay una persona disponible, y el cliente puede pedirla. No es sólo ética: un cliente que se entera después de que hablaba con una máquina deja de confiar en toda la empresa.

¿Cómo reviso esto antes de contratar?

• Pide ver dónde están escritas las reglas y quién del negocio puede cambiarlas.
• Pide una demostración del freno: quién lo acciona, desde dónde y qué ve el cliente.
• Pide una bitácora de ejemplo y busca en ella un caso concreto.
• Pregunta qué pasa a las tres de la mañana si el agente falla: quién se entera y cómo.
• Pregunta cómo se presenta el agente ante el cliente y cómo se llega a una persona.
• Revisa dónde viven tus datos y si se usan para entrenar modelos.

Para medir si el agente cumple lo que debe, está cómo se mide un agente sintético. Si el sector en que operas está regulado, valida con tus asesores legales qué obligaciones aplican: esta página describe un modelo de control, no es asesoría legal.