Texto da publicação no LinkedIn
Reduzir 70% do Custo com LLMs sem Perder Qualidade
🚀 Dá para cortar 70% do custo com LLMs sem perder qualidade?
R. Bhardwaj publicou uma proposta com seis alavancas para isso. Revisei cada parte contra fontes primárias e transformei a análise em um infográfico de 41 slides, com 13 figuras originais e 55 referências auditadas.
O que encontrei:
- 🔵 A tese se sustenta: roteadores e cascatas igualaram o modelo mais forte por uma fração do custo (FrugalGPT: até 98%; RouteLLM: mais de 2×).
- 🟢 As economias se multiplicam, não se somam: 0,85 × 0,60 × 0,75 × 0,85 × 0,90 = −70,7%. Só o roteamento responde por 34 desses pontos.
- 🟣 Prompt caching e lote são as alavancas de menor risco: leitura em cache a 0,1× do preço e 50% de desconto em lote nos grandes provedores.
- 🟠 O número de 70% é ilustrativo: somando roteador, juízes, embeddings e avaliação, a economia líquida plausível fica em 61–68%.
- 🔴 "Mesma qualidade" precisa de prova: com 500 itens de avaliação, o ruído é de ±2,4 pontos, maior que as melhorias relatadas.
- 🟡 O cache semântico é o mais arriscado (acerto falso, resposta velha, vazamento entre tenants) e deve vir por último.
A métrica que recomendo: custo por tarefa bem-sucedida. Um modelo 10× mais barato que acerta metade das vezes é só 5× mais barato por sucesso.
Roteiro sugerido: medir primeiro, colher o baixo risco (dedup, limites de loop, prompt caching, lote) e só então rotear e cachear atrás de portões de qualidade.
📎 O infográfico completo está no PDF. Qual dessas alavancas você já usa em produção?
© Aridio Silva @aridiosilva · Outubro 2026