Agentes LLM: presupuesto de latencia para email

说明与用途

文章说明了如何为等待邮件的LLM代理设置延迟预算，使用带有deadline和poll_interval的清晰合同，以及结构化的证据，以避免歧义并改进诊断。

问题

Un agente LLM que espera un email con una instrucción vaga puede quedarse dando vueltas o declarar éxito por accidente, ya que no hay límite de tiempo, señal de cancelación ni evidencia de cada consulta.

结果

Implementar un presupuesto de latencia con deadlines y poll_intervals, junto con un contrato de observación estructurado, reduce errores de diagnóstico, mejora la trazabilidad y facilita pruebas en CI.

工作流

• 1. Definir contrato con estados, run_id, deadline y regla de coincidencia.
• 2. Adaptar proveedor de inbox temporal y entorno local.
• 3. Inyectar reloj controlable para pruebas de expiración.
• 4. Registrar intentos, latencia y resultado sin exponer cuerpos completos.
• 5. Describir entradas y salidas del LLM con ejemplos de expired y ambiguous.
• 6. Probar escenarios de entrega rápida, tardía, mensaje duplicado y viejo.

证据

Un agente LLM que espera un email suele tener una instrucción muy vaga: “comprueba si llegó”.

来源

El agente no necesita decidir todos esos números. El orquestador puede entregarle un deadline y el tiempo restante.

来源

Los estados principales pueden ser pending, observed, expired, cancelled y ambiguous.

来源