inference

Categoria: modelos e inferência

Processo de executar um modelo treinado para gerar uma resposta a partir de uma entrada. Cada vez que o agente envia um prompt ao modelo e recebe uma resposta, uma inferência foi realizada.