latência

Categoria: modelos e inferência

Tempo que o agente leva para começar a responder após receber uma pergunta. Latência alta significa espera longa; latência baixa significa resposta quase instantânea.