API de Lotes: metade do preço, se você puder esperar

O que é a API de Lotes

A API de Lotes da Anthropic (Message Batches API) recebe muitos pedidos de uma vez e processa tudo de forma assíncrona. Em troca da espera, cobra metade do preço. A documentação oficial diz que o desconto é de 50% na entrada e na saída.

A regra de prazo é simples. A maioria dos lotes termina em menos de 1 hora. O resultado fica disponível quando todos os pedidos terminam ou depois de 24 horas, o que vier primeiro. Se o processamento não acabar em 24 horas, os pedidos que sobraram expiram. Os resultados ficam guardados por 29 dias.

Ou seja: o lote serve para tudo o que pode esperar algumas horas. Classificação, extração de dados, resumo de documentos, avaliação de prompts, tradução de catálogo. Não serve para chatbot nem para nada em que um usuário espera a resposta na tela.

Pela tabela de preços do site, atualizada em outubro de 2026, o efeito por milhão de tokens fica assim:

No Haiku 5.5, a faixa vale para prompts de até 100 mil tokens. O nosso caso usa 2.600 tokens por chamada, bem abaixo do limite.

Passo 1: a conta em tempo real

Primeiro, o custo de uma chamada sem desconto nenhum. A entrada soma as instruções e o texto do cliente: 2.000 + 600 = 2.600 tokens.

No Sonnet 5.5, uma chamada custa 2.600 × US$ 2,00 por milhão na entrada, mais 120 × US$ 10,00 por milhão na saída. Dá US$ 0,00640 por chamada.

Parece pouco. Mas são 40.000 chamadas por dia, durante 30 dias: 1.200.000 chamadas no mês. O total vai a US$ 7.680,00, cerca de R$ 38.473,73 pelo dólar de referência do site.

Passo 2: a mesma conta em lote

O lote corta 50% de tudo. Então a conta é direta: US$ 7.680,00 × 0,5 = US$ 3.840,00 por mês. A economia é de US$ 3.840,00 por mês, cerca de R$ 19.236,86.

Nada muda no prompt. O pedido dentro do lote é o mesmo que você mandaria para a Messages API, com um custom_id para achar a resposta depois.

Passo 3: somar o cache de prompt

As instruções fixas são iguais em todos os chamados. É o caso clássico de cache de prompt. A documentação de preços diz que os multiplicadores de cache se somam ao desconto de lote.

Há um detalhe. Num lote, os pedidos rodam em paralelo e fora de ordem, então o acerto de cache é "melhor esforço". A documentação cita taxas típicas de 30% a 98%, conforme o padrão de tráfego. Ela também recomenda o cache de 1 hora, porque um lote pode levar mais de 5 minutos.

No exemplo, supomos 70% de acerto. Também supomos, por cautela, que cada falha paga uma gravação de cache de 1 hora. Na prática, parte das falhas pode sair mais barata. A conta fica assim:

• Prefixo com acerto: 2.000 tokens a US$ 0,10 por milhão, já antes do desconto de lote.
• Prefixo com falha: 2.000 tokens a US$ 4,00 por milhão (gravação de 1 hora).
• Texto do cliente e saída: preço normal.
• Tudo isso multiplicado por 0,5 do lote.

Resultado: US$ 2.964,00 por mês no Sonnet 5.5, cerca de R$ 14.848,45. Contra o tempo real, a queda é de 61%.

Agora o cuidado. Se o acerto cair para 30%, o pior caso típico da documentação, o mês vai a US$ 4.836,00. Fica mais caro que o lote sem cache, de US$ 3.840,00. A gravação de 1 hora custa mais que a entrada normal, então cada falha pesa.

Com a premissa de que toda falha grava, o cache só compensa no Sonnet 5.5 com acerto acima de 51%. Meça o acerto real nos campos de uso que a API devolve em cada resposta antes de decidir.

Passo 4: comparar modelos

Com o lote, trocar de modelo também muda a conta. Mesmo caso, mesmos volumes:

Dois pontos saltam da tabela. O primeiro: o Opus 5.5 em lote custa US$ 7.680,00 por mês. O Sonnet 5.5 em tempo real, US$ 7.680,00. Se a tarefa precisa do modelo maior e pode esperar, o lote abre essa porta. O segundo: o Haiku 5.5 em lote sai por US$ 192,00. Para classificação simples, vale testar a qualidade dele antes de escolher o modelo maior.

Uma ressalva sobre o Haiku 5.5: o pensamento adaptativo vem ligado por padrão e os tokens de pensamento contam como saída. Os 120 tokens de saída do exemplo supõem resposta curta. Meça a saída real no seu caso antes de fechar a conta.

Passo 5: montar os lotes sem tropeçar

Os limites oficiais de um lote são 100 mil pedidos ou 256 MB, o que vier primeiro. Cada pedido carrega o prompt inteiro, inclusive as instruções fixas. Com milhares de pedidos de alguns milhares de tokens, o limite de tamanho pode chegar antes do limite de pedidos.

No exemplo, a loja divide os 40.000 chamados do dia em 4 lotes de 10.000. O número é exemplo; ajuste conforme o tamanho real dos seus pedidos.

Erros comuns

• Mandar para o lote o que tem usuário esperando. O prazo pode chegar a 24 horas. Lote é para fila, não para tela.
• Esquecer de baixar os resultados. Eles ficam disponíveis por 29 dias. Depois disso, o lote continua visível, mas os resultados não.
• Contar com 100% de acerto de cache. Em lote, o acerto é melhor esforço. No exemplo, abaixo de 51% de acerto o cache encarece a conta.
• Usar cache de 5 minutos em lote longo. A documentação recomenda o de 1 hora para lotes com contexto compartilhado.
• Tentar pré-aquecer o cache dentro do lote. Pedidos com max_tokens: 0 não são aceitos em lote; todo pedido precisa de max_tokens de pelo menos 1.
• Ignorar pedidos expirados. Se o lote não terminar em 24 horas, os pedidos que sobraram expiram. Trate esse retorno e reenvie o que faltou.

Checklist antes de migrar para lote

1. A resposta pode esperar algumas horas?
2. O volume diário cabe em lotes de até 100 mil pedidos e 256 MB?
3. Cada pedido tem um custom_id único para casar a resposta?
4. O prefixo comum está marcado com cache_control igual em todos os pedidos?
5. O código trata pedidos com erro e expirados?
6. Você mediu a saída real (com pensamento, se houver) num teste pequeno?

Perguntas frequentes

Quanto a loja do exemplo economiza por mês com lote?

Só com o lote, US$ 3.840,00 por mês no Sonnet 5.5, cerca de R$ 19.236,86. Com lote e cache de 1 hora a 70% de acerto, a economia vai a US$ 4.716,00.

Desconto de lote e cache de prompt se somam?

Sim. A documentação de preços diz que os multiplicadores de cache se somam ao desconto de lote. No exemplo, o mês sai de US$ 7.680,00 em tempo real para US$ 2.964,00 com os dois juntos.

Quanto custa classificar mil chamados em lote?

No Sonnet 5.5, US$ 3,20 por mil chamados, sem cache. No Haiku 5.5, US$ 0,160. Os valores usam os 2.600 tokens de entrada e 120 de saída do exemplo.

Quanto demora um lote?

A documentação diz que a maioria termina em menos de 1 hora. O prazo máximo é de 24 horas: depois disso, o que não foi processado expira. Planeje o fluxo para o pior caso.

Vale usar o Opus 5.5 em lote no lugar do Sonnet 5.5 em tempo real?

Pela conta, o Opus 5.5 em lote sai por US$ 7.680,00 por mês e o Sonnet 5.5 em tempo real por US$ 7.680,00. Se a tarefa ganha qualidade com o modelo maior e aceita espera, é uma troca a testar.

O cache de prompt funciona igual dentro do lote?

Funciona, mas com acerto menos previsível. A documentação cita de 30% a 98%. Com 30% de acerto, o exemplo custaria US$ 4.836,00 por mês, acima dos US$ 3.840,00 do lote sem cache. Com 70%, cai para US$ 2.964,00.

Faça a conta com os seus volumes na calculadora de custo de API de IA.

Leia também: Batch API: quando o desconto de 50% compensa