custo por token

Categoria: modelos e inferência

Valor cobrado pelo provedor para cada token processado ou gerado pelo modelo. Tokens de entrada (pergunta) e saída (resposta) geralmente têm preços diferentes.