latency monitoring
Categoria: dashboards e analytics
Monitoramento do tempo que o agente leva para completar suas operações. Em agentes de IA, a latência é dominada pelo tempo de inferência do LLM e pode variar significativamente entre modelos, tamanho de prompt e carga do provedor.