velocidade de resposta

Categoria: modelos e inferência

Rapidez com que o agente completa a geração da resposta, desde o início até o fim. Diferente da latência, que mede apenas o tempo até o início da resposta.