Quanto custa um RAG simples por mês: a conta da parte do modelo

1. O que é um RAG, em uma frase

RAG (do inglês retrieval-augmented generation, geração com recuperação) é a técnica de buscar os trechos relevantes antes de perguntar ao modelo. Em vez de mandar a central de ajuda inteira a cada pergunta, o sistema encontra os poucos parágrafos que falam do assunto e manda só eles.

Um RAG simples tem duas partes de custo:

1. A busca: transformar os artigos e as perguntas em vetores (os embeddings), guardar tudo num banco que encontre os vetores parecidos e consultar esse banco a cada pergunta. O calc.dev.br não calcula essa parte; ela depende do serviço de embeddings e do banco escolhidos.
2. A geração: mandar ao modelo as instruções, os trechos encontrados e a pergunta, e receber a resposta. É a parte que este guia calcula, com os preços que o site acompanha.

2. A conta da geração

Cada pergunta leva ao modelo:

• 800 tokens de instruções (tom, o que fazer quando não souber, como citar o artigo);
• 5 trechos de 400 tokens: 2.000 tokens;
• a pergunta: uns 50 tokens.

São 2.850 tokens de entrada e 350 de saída. No Sonnet 5.5:

• entrada: 2.850 × US$ 2,00 ÷ 1.000.000 = US$ 0,0057;
• saída: 350 × US$ 10,00 ÷ 1.000.000 = US$ 0,0035;
• por pergunta: US$ 0,0092, ou R$ 0,046.

Com 3.000 perguntas por dia em 30 dias, o mês fecha em US$ 828,00 (R$ 4.147,95), ou US$ 9.936,00 por ano.

Para orçar volumes diferentes, o número mais útil é o custo por mil perguntas: US$ 9,20 no Sonnet 5.5 e US$ 0,46 no Haiku 5.5. A conta cresce em linha reta com o volume. Se o assistente fizer sucesso e o número de perguntas dobrar, a fatura dobra junto; o preço por token da tabela pública é o mesmo para quem faz mil ou um milhão de chamadas por mês. Por isso vale acompanhar o uso semanal nos primeiros meses, principalmente depois de colocar o assistente num lugar mais visível do site ou do aplicativo.

A saída, com um oitavo dos tokens, responde por 38% do custo. Respostas mais curtas e diretas, que apontam o link do artigo em vez de copiá-lo, baixam a conta sem piorar o atendimento.

3. Quantos trechos mandar

O número de trechos (o top-k) é o principal botão de custo de um RAG. Mais trechos aumentam a chance de a resposta certa estar no meio, mas cada trecho é lido e pago em toda pergunta:

Passar de 5 para 20 trechos multiplica a entrada por 3,1 e o custo do mês no Sonnet 5.5 por 2,3. Antes de aumentar o top-k, vale melhorar a busca: trechos bem cortados (um assunto por trecho), títulos dos artigos junto do texto e uma etapa que reordena os resultados costumam render mais que mandar mais texto.

4. O cache ajuda pouco no RAG, e isso é normal

O cache de prompt aproveita só o começo idêntico do prompt. No RAG, as instruções são sempre iguais, mas os trechos mudam a cada pergunta. Então só os 800 tokens de instruções podem ir para o cache, e elas passam do mínimo de 512 tokens que o Sonnet 5.5 aceita.

Com as instruções lidas do cache (28% da entrada), na conta da calculadora, o mês cai de US$ 828,00 para US$ 691,20, 17% a menos. Ajuda, mas não muda a ordem de grandeza, porque a maior parte da entrada é diferente em cada pergunta.

Para o cache funcionar, a ordem importa: instruções primeiro, trechos depois, pergunta no fim. Se o sistema colocar a data, o nome do cliente ou qualquer dado variável antes das instruções, o cache deixa de acertar.

5. E se mandasse tudo, com cache?

Com janelas de 1 milhão de tokens, surge a pergunta: por que não mandar a central de ajuda inteira e deixar o modelo achar a resposta?

Primeiro, porque ela não cabe. Os 1.200 artigos, com umas 600 palavras cada, somam cerca de 1.694.118 tokens nos modelos Claude 5.x, acima da janela de 1.000.000 tokens.

Segundo, porque mesmo uma parte dela sai cara. Suponha que a empresa mande só os artigos mais consultados, somando 150.000 tokens, em toda pergunta, com o cache acertando em 95% das vezes:

Mesmo com o cache funcionando muito bem, mandar 150 mil tokens em cada pergunta custa 4,0 vezes o RAG. Sem cache, 33 vezes. A leitura do cache é barata, mas 150 mil tokens multiplicados por 90 mil perguntas por mês ainda são muitos tokens.

O documento inteiro no prompt faz sentido em outros casos: poucas perguntas sobre um documento só, análises que precisam do texto completo, ou bases pequenas, de poucos milhares de tokens. O guia sobre janela de contexto mostra essas contas.

6. O mesmo RAG em outros modelos

Com 5 trechos e sem cache, o caso fica assim em cada modelo:

Num RAG, o modelo não precisa "saber" a resposta: ela está nos trechos. Por isso modelos menores costumam ir bem, desde que a busca traga os trechos certos. Onde eles costumam tropeçar mais é em pergunta ambígua ou em trechos que se contradizem. Teste com perguntas reais de clientes, incluindo as difíceis.

Uma ressalva sobre a tabela: ela usa os mesmos tokens para todos os modelos. Nas médias do site, o mesmo texto em português vira menos tokens no tokenizador do GPT-5.6 do que nos modelos Claude 5.x, então a conta real dos modelos GPT-5.6 tende a ficar um pouco abaixo da mostrada.

7. Como manter o RAG barato

• Corte bem os trechos. Trechos de um assunto só permitem mandar menos deles.
• Comece com poucos trechos e só aumente se o teste mostrar respostas faltando informação.
• Instruções no começo, fixas, para o cache acertar.
• Respostas curtas, com link para o artigo completo.
• Meça o tamanho real dos trechos com o endpoint de contagem de tokens; o tokenizador muda de modelo para modelo.

O que fica fora desta conta

A estimativa cobre só a geração das respostas. Ficam de fora o custo de gerar os embeddings dos artigos e das perguntas, o banco de vetores, o servidor da aplicação, a manutenção da base de artigos, impostos e tarifas do cartão internacional e a variação do dólar.

Perguntas frequentes

Quanto custa uma resposta de RAG com o Claude Sonnet 5.5?

Com 5 trechos de 400 tokens, 800 tokens de instruções e resposta de 350 tokens, US$ 0,0092 por pergunta, cerca de R$ 0,046.

RAG é mais barato que mandar o documento inteiro?

Para muitas perguntas sobre uma base grande, sim. Neste caso, o RAG custa 4,0 vezes menos que mandar 150 mil tokens fixos em cada pergunta, mesmo com cache.

O calc.dev.br calcula o custo dos embeddings?

Não. As calculadoras cobrem a parte do modelo de linguagem; o custo de embeddings e do banco de vetores depende do serviço escolhido.

Para refazer a conta com o seu volume, use a calculadora de custo da API logo abaixo, que já vem com o RAG deste caso: 2.850 tokens de entrada e 350 de saída por pergunta.