latency vs accuracy

Dilema entre a velocidade de resposta e a precisão do resultado: modelos mais rápidos ou com menos etapas de raciocínio respondem em menos tempo, mas tendem a cometer mais erros, enquanto técnicas como chain-of-thought ou múltiplas chamadas melhoram a acurácia ao custo de maior latência.