Recebi um erro de "messages" ou "content" muito grande na API do gateway; quais são os limites do payload?
Categoria: Recursos da Plataforma
A API do LLM Gateway valida o tamanho do que você envia:
- No máximo 200 mensagens por requisição (o array messages). Acima disso vem erro pedindo para reduzir.
- No máximo 500 mil caracteres (~500 KB) por mensagem, no campo content.
- Cada mensagem precisa ter um role válido: user, system, assistant ou tool. Qualquer outro valor é recusado.
- model e um messages não-vazio são obrigatórios.
Se estourar qualquer um desses, a API devolve 400 (invalid_request_error) apontando exatamente qual mensagem e qual limite foi excedido.