Agentes LLM: presupuesto de latencia para email

Описание и применение

В статье описывается, как установить лимит времени ожидания письма для LLM‑агентов, используя понятный контракт с deadline и poll_interval, а также структурированную доказательность, чтобы избежать неопределённости и улучшить диагностику.

Задача

Un agente LLM que espera un email con una instrucción vaga puede quedarse dando vueltas o declarar éxito por accidente, ya que no hay límite de tiempo, señal de cancelación ni evidencia de cada consulta.

Результат

Implementar un presupuesto de latencia con deadlines y poll_intervals, junto con un contrato de observación estructurado, reduce errores de diagnóstico, mejora la trazabilidad y facilita pruebas en CI.

Рабочий процесс

• 1. Definir contrato con estados, run_id, deadline y regla de coincidencia.
• 2. Adaptar proveedor de inbox temporal y entorno local.
• 3. Inyectar reloj controlable para pruebas de expiración.
• 4. Registrar intentos, latencia y resultado sin exponer cuerpos completos.
• 5. Describir entradas y salidas del LLM con ejemplos de expired y ambiguous.
• 6. Probar escenarios de entrega rápida, tardía, mensaje duplicado y viejo.

Доказательства

Un agente LLM que espera un email suele tener una instrucción muy vaga: “comprueba si llegó”.

Источник

El agente no necesita decidir todos esos números. El orquestador puede entregarle un deadline y el tiempo restante.

Источник

Los estados principales pueden ser pending, observed, expired, cancelled y ambiguous.

Источник