Como escolher, dimensionar e fazer deploy de modelos de pesos abertos em produção: qual modelo para qual tarefa, de qual tamanho, e em qual hardware — cobrindo CUDA e MLX.
Atualizado em maio de 2026 — reflete a onda de lançamentos de abril 2026 (DeepSeek V4, Qwen 3.6, Kimi K2.6).
Por que só modelos open-weights
APIs fechadas são fáceis. Você paga a conta, recebe a resposta. A engenharia interessante — e onde está a maior parte dos mal-entendidos — está do lado dos pesos abertos, onde você realmente precisa pensar em quantidade de parâmetros, arquitetura MoE, quantização, VRAM, e se o seu Mac Studio realmente roda aquele modelo de 1.6T que alguém tuitou.
Este guia cobre só modelos de pesos abertos. Todos os modelos descritos abaixo podem ser baixados, rodados no seu próprio hardware e enviados dentro de um produto sem pagar por token. A contrapartida é que você precisa entender o hardware. É disso que trata a maior parte deste guia.
Uma nota sobre atualidade: a fronteira de open-weights se move rápido — três dos modelos mais importantes deste guia (DeepSeek V4, Qwen 3.6, Kimi K2.6) saíram dentro de uma única janela de 30 dias em abril 2026. Os números de versão específicos vão continuar mudando. Os padrões arquiteturais e o dimensionamento de hardware não.
Parte 1 — Os modelos open-weights que importam em 2026
Existem aproximadamente 7 famílias de modelos que valem a pena conhecer para trabalho de produção real. Qualquer coisa que não esteja nesta lista é um artefato de pesquisa ou uma variante menor de uma destas.
DeepSeek — Família V4 (lançada em 24 de abril de 2026)
DeepSeek V4 é a fronteira atual de open-weights. Duas variantes lançadas simultaneamente, ambas sob licença MIT, ambas com contexto de 1M de tokens. A mudança arquitetural principal é a atenção híbrida CSA + HCA (Compressed Sparse Attention + Heavily Compressed Attention), que reduz os FLOPs de inferência para ~27% do V3.2 e a ocupação de KV cache para ~10% em contextos de 1M.
Tamanhos que você realmente usa:
- DeepSeek V4-Pro (MoE, 49B ativos / 1.6T totais) — classe fronteira, compete com Claude Opus e GPT-5 em código e raciocínio.
- DeepSeek V4-Flash (MoE, 13B ativos / 284B totais) — rápido, eficiente, executável em uma configuração multi-GPU que a maioria dos times consegue bancar.
- DeepSeek R1 (ainda mantido, MoE 37B/671B) — predecessor afinado para raciocínio; ainda relevante se você já está deployado nele ou quer uma opção de raciocínio fronteira menor.
Licença: MIT. Tão limpa quanto pode ser.
Casos de uso reais:
- “GPT-5 privado” auto-hospedado para uma empresa regulada — um banco grande (Itaú, Bradesco, Santander Brasil), uma operadora de saúde sujeita à LGPD, uma fintech sob regulação do BACEN, ou um órgão público sujeito a soberania de dados. V4-Pro em 8× H200 num datacenter privado é a resposta padrão em 2026 quando você não pode mandar dados para APIs fechadas mas precisa de qualidade fronteira.
- Pipeline de revisão de código em alto volume. V4-Flash processa pull requests, code review, sugestões de refatoração, ferramentas de migração automatizada. Com 13B parâmetros ativos, o throughput por GPU é excelente e o custo por token é desprezível depois do hardware.
- Análise de documentos longos em escalas que há seis meses só eram possíveis via API. O contexto de 1M do V4 com o novo mecanismo de atenção realmente funciona em ranges longos (o KV cache não explode). Útil para due diligence jurídica, revisão de literatura científica, análise de bases de código completas.
- Inferência barata via API da DeepSeek se você não quer auto-hospedar. V4-Flash a $0.14/M de tokens de entrada é ~18× mais barato que o flagship do GPT-5 e bom o suficiente para a maior parte do trabalho de produção.
- Base fronteira para fine-tunes proprietários. A licença MIT torna o fine-tuning comercial juridicamente limpo — importante para SaaS verticais que querem construir um modelo defensável em cima de uma base aberta.
Realidade de hardware: V4-Pro em precisão completa precisa de um cluster de 8× H100/H200. V4-Flash entra confortável em 2–4× H100 em FP8, ou um Mac Studio top de linha com quantização forte para inferência de um único usuário. A maioria dos times vai usar V4-Pro via API e auto-hospedar V4-Flash se precisar de controle.
Moonshot — Kimi K2.6 (lançado em abril 2026)
Kimi K2.6 é o modelo open-weights mais forte para programação em meados de 2026 — topo de cada benchmark relevante para tarefas de programação autônoma de longo horizonte. INT4 QAT nativo (treinamento consciente de quantização), o que significa que ele é especificamente construído para rodar quantizado sem perda de qualidade. Inclui capacidade de “agent swarm” — pode orquestrar até 300 sub-agentes em paralelo.
Tamanhos que você realmente usa:
- Kimi K2.6 (MoE, 32B ativos / 1T totais) — INT4 nativo, capacidade de visão, contexto de 256K.
- Kimi K2.5 (predecessor) — ainda amplamente deployado, mais barato de hospedar.
Licença: MIT Modificada (livre para quase todo uso comercial; atribuição obrigatória acima de 100M MAU ou $20M de receita mensal).
Casos de uso reais:
- Produtos de programação agêntica em produção (alternativas open-source a Cursor / Devin). K2.6 é o modelo por trás de vários deles em 2026. Economia competitiva contra APIs fechadas para startups de IA com aporte de VC.
- Code review e análise de PR auto-hospedado sobre bases de código corporativas. A quantização INT4 nativa é crítica aqui — você obtém qualidade de programação fronteira com materialmente menos hardware do que o V4-Pro exige.
- Tarefas autônomas de longo horizonte — a Moonshot demonstrou K2.6 executando 4.000+ chamadas a ferramentas ao longo de 12+ horas para completar um projeto real de engenharia. Útil para trabalho agêntico noturno em batch (migrações de bases de código, refactors em larga escala, geração de documentação).
- Bases de código poliglotas (Rust + Go + Python + frontend + DevOps). K2.6 generaliza entre linguagens melhor que a maioria dos modelos especializados em código, que tendem a ser muito focados em Python.
- Apps onde fazer deploy de capacidade fronteira de programação no seu próprio hardware é vantagem competitiva — software de defesa, sistemas de trading financeiro, firmware de dispositivos médicos. O código em si é a propriedade intelectual e não pode sair do prédio.
Realidade de hardware: O INT4 nativo significa que K2.6 é genuinamente deployável em 4× H100 ou 2× H200, o que é muito mais acessível que V4-Pro. Quantização forte roda num Mac Studio de 256GB para inferência de um único usuário.
Alibaba — Família Qwen 3.5 / 3.6
A família aberta mais completa. Cobre cada classe de tamanho desde sub-1B até flagships MoE de 1T. Qwen 3.5 (fevereiro 2026) foi o lançamento geracional principal; Qwen 3.6 (março-abril 2026) é o refresh focado em programação agêntica em cima. Ambas as linhas estão ativamente mantidas.
Tamanhos que você realmente usa (mix Qwen 3.5 / 3.6):
- Qwen 3.5 4B / 9B / 27B (denso) — todoterrenos fortes. O 9B especificamente faz 81.7 no GPQA Diamond, sem precedentes para modelos sub-30B.
- Qwen 3.6 27B (denso) — refresh do 27B com programação agêntica melhor.
- Qwen 3.6 35B-A3B (MoE, 3B ativos / 35B totais) — o ponto doce de throughput de todo o ecossistema open em 2026. Qualidade de 35B em velocidade de classe 3B.
- Qwen 3.5 122B-A10B (MoE, 10B ativos / 122B totais) — roda num Mac de 64GB.
- Qwen 3.5-397B-A17B flagship (MoE, 17B ativos / 397B totais) — classe fronteira.
- Qwen 3.6-Max-Preview — atualmente só API, não open-weight; mencionado só porque as derivadas open-weight do 3.6 fluem dele.
Licença: Apache 2.0 para tamanhos até ~30B; customizada (utilizável comercialmente) para os flagships maiores.
Casos de uso reais:
- Suporte multilíngue para produtos globais. Qwen lida com mandarim, japonês, coreano, indonésio, vietnamita, hindi, árabe, espanhol e português brasileiro em qualidade que Llama não consegue igualar. Para produtos brasileiros expandindo para LATAM (espanhol) e Ásia, Qwen é a escolha padrão.
- Backend de chat de alto throughput com orçamento de latência apertado. Qwen 3.6 35B-A3B serve 3–5× mais usuários concorrentes por GPU que alternativas densas de 30B porque só 3B parâmetros estão ativos por token. Melhor relação preço/desempenho para servir em produção em 2026.
- Programação agêntica local em Apple Silicon. Qwen 3.6 35B-A3B roda confortável num MacBook Pro M-series de 64GB via MLX. Essa combinação (MLX + 35B-A3B MoE) está virando o setup padrão de desenvolvedor solo.
- Deploy on-prem para empresas com requisitos de soberania de dados — pode rodar completamente desconectado da internet, atendendo a LGPD no Brasil, e às leis equivalentes no resto da LATAM (Ley 1581 na Colômbia, Ley 25.326 na Argentina, LFPDPPP no México).
- Base de fine-tuning para SaaS verticais. Os tamanhos Qwen 3.5 4B–14B são as bases de fine-tuning mais custo-eficientes do ecossistema — pequenas o suficiente para treinar numa única GPU, capazes o suficiente para mandar para produção.
- Deploy em edge. Os tamanhos Qwen 3.5 0.8B e 2B rodam em celulares e dispositivos IoT — útil para funcionalidades de IA offline em apps móveis.
Meta — Família Llama 4
A linha open mais suportada do mundo. Cada framework de inferência, biblioteca de fine-tuning e integração de ferramentas suporta Llama primeiro. Llama 4 introduziu MoE (Scout + Maverick) e multimodalidade nativa. Llama 3.3 70B continua sendo o cavalo de batalha denso; Llama 4 Behemoth (288B ativos / ~2T totais) foi anunciado como modelo professor mas não foi liberado como open-weights.
Tamanhos que você realmente usa:
- Llama 3.3 70B (denso) — ainda o 70B aberto mais deployado em produção.
- Llama 4 Scout (MoE, 17B ativos / 109B totais, 16 experts) — entra numa única H100 com quantização INT4, contexto de 10M tokens.
- Llama 4 Maverick (MoE, 17B ativos / 400B totais, 128 experts) — entra num único host H100 DGX (8× H100), contexto 1M, multimodal nativo.
Licença: Llama 4 Community License. Permissiva para a maioria dos usuários; exige licença especial acima de 700M MAU. Não disponível para empresas domiciliadas na UE no início de 2026 — vale verificar a licença atualizada antes de qualquer deploy cross-border a partir do Brasil para clientes europeus.
Casos de uso reais:
- Assistente interno de empresa treinado sobre seu wiki/documentação. Um fine-tune com LoRA de Llama 3.3 70B sobre documentação interna, servido via vLLM em uma única H100, dá a cada funcionário um equivalente privado do ChatGPT. O padrão de deploy de Llama mais comum em empresas de médio e grande porte no Brasil.
- RAG multimodal sobre bibliotecas de documentos (PDFs com diagramas, formulários escaneados, gráficos). A compreensão nativa de imagens do Llama 4 Scout + contexto de 10M lida com isso num único modelo. Caso típico no Brasil: arquivo histórico de atas notariais, prontuários médicos digitalizados, processos judiciais digitalizados pelo PJe.
- Workflows de documentos longos — análise de bases de código completas, processamento de documentos do tamanho de um livro, memória conversacional de múltiplas sessões. O contexto de 10M do Scout é genuinamente útil aqui.
- SaaS multi-tenant onde você precisa auto-hospedar. Llama é a opção aberta mais segura porque cada dependência que você precisaria (vLLM, TGI, Ollama, llama.cpp, MLX) suporta desde o dia zero.
- Times de fine-tuning que precisam de máximo suporte de bibliotecas. Llama é a base de fine-tuning mais documentada e suportada do ecossistema.
Mistral
O laboratório francês. Pragmático, bem licenciado, focado em código. Menos hype que DeepSeek ou Kimi, mais confiabilidade.
Tamanhos que você realmente usa:
- Mistral Small 3 (~24B denso) — eficiente, boa obediência a instruções.
- Mistral Medium / Large 3 — flagships densos e MoE classe fronteira.
- Codestral / Devstral — especializados em código; Devstral é afinado para programação agêntica multi-arquivo.
- Magistral (~24B raciocínio) — modelo aberto de raciocínio.
Licença: Apache 2.0 para a maioria dos lançamentos.
Casos de uso reais:
- Chatbot on-prem cumprindo regulamentação de proteção de dados — particularmente útil quando o cliente exige modelo de origem não-chinesa (alguns setores em defesa, banco e governo têm essa exigência explicitamente).
- Ferramenta de programação agêntica que edita múltiplos arquivos. Devstral foi feito especificamente para isso — é o modelo por trás de várias alternativas open-source ao Cursor.
- Backend de function-calling para features de produto. Os modelos Mistral são confiáveis para saída estruturada em JSON sem precisar de prompting exótico. Comum em features tipo “linguagem natural → consulta estruturada”.
- Processamento de documentos em português, espanhol, francês onde Mistral tem uma vantagem mensurável sobre Qwen em variantes europeias e algumas variantes latinas.
- Assistente de programação local barato em uma única GPU. Devstral 24B numa GPU de 24GB roda confortável e lida com tarefas reais de refatoração.
Google — Família Gemma
A resposta aberta da Google ao Llama e Qwen. Apache 2.0, tamanhos de ~1B a ~30B, com visão e tool calling na última geração.
Tamanhos que você realmente usa:
- Gemma 4 9B — modelo pequeno forte com visão + tool calling.
- Gemma 4 27B — denso de tamanho médio; boa obediência a instruções.
Licença: Apache 2.0.
Casos de uso reais:
- Agente local com tool calling em hardware modesto. Gemma 4 9B numa GPU de 16GB lida com function calling de forma confiável — bom para assistentes de desktop, extensões de browser, automação leve.
- Pipeline de extração de visão + texto sem pagar preços de API — ler screenshots, extrair dados de gráficos, processar formulários escaneados (usos típicos: digitalização de arquivos, automação de back-office em seguradoras, processamento de notas fiscais).
- Deploy em edge ou on-device para apps móveis, totens, dispositivos industriais. Gemma é a família aberta mais otimizada para isso.
- Apps onde Apache 2.0 é juridicamente exigida. Alguns processos de licitação pública e distribuições OSS exigem especificamente uma licença aprovada pela OSI. Gemma e Mistral são as opções mais limpas.
- Workloads em Google Cloud / Vertex AI onde Gemma tem suporte de infraestrutura de primeira classe.
NVIDIA — Família Nemotron
Os lançamentos abertos da NVIDIA, principalmente para mostrar o que o stack de treinamento e inferência deles consegue fazer. Vale considerar se você já está profundamente investido em CUDA/TensorRT/NeMo.
Tamanhos que você realmente usa:
- Nemotron Nano (~4B–9B) — raciocínio eficiente.
- Nemotron Cascade / Ultra — variantes MoE maiores afinadas para raciocínio.
Licença: Varia por lançamento; majoritariamente open-weight permissiva.
Casos de uso reais:
- Inferência em produção espremendo cada token/seg de H100/H200/B200. Nemotron é codesenhado com TensorRT-LLM e dá throughput mensuravelmente melhor que Llama/Qwen equivalente no mesmo hardware NVIDIA.
- Workloads de raciocínio em NVIDIA NIM microservices — se seu time de plataforma padronizou em NIM, Nemotron é o caminho de menor resistência.
- Times de fine-tuning que já usam NVIDIA NeMo. Ficar dentro de um único toolchain vale muito operacionalmente.
Continua com a segunda parte desta reportagem
