Se você já se pegou pensando “será que posso jogar esse contrato no ChatGPT?”, “esses documentos do meu cliente podem subir pra OpenAI?” ou simplesmente “queria um ChatGPT só meu, com os meus arquivos” — esse texto é pra você.
O AnythingLLM é uma das ferramentas mais práticas que existem hoje pra resolver isso. É open source, gratuito, roda na sua máquina (ou no seu servidor) e te dá um ambiente completo de IA com seus próprios documentos. Com a LGPD em vigor e a quantidade de dados sensíveis que escritórios, consultórios e empresas lidam diariamente, esse tipo de ferramenta deixou de ser “coisa de nerd” e virou questão de conformidade.
Bora ao que interessa.
Antes de começar: Desktop ou Docker?
Essa é a primeira decisão. Errar aqui faz você perder uma tarde inteira.
| O que você precisa | Versão indicada |
|---|---|
| Quero testar no meu notebook, sozinho | Desktop |
| Vou usar com a equipe do escritório / empresa | Docker |
| Quero colocar um chatbot no meu site | Docker (só ela tem widget) |
| Não quero configurar nada, só clicar e usar | Desktop (já vem com motor de IA incluído) |
| Tenho um VPS / servidor pra colocar isso pra rodar | Docker |
Regra simples: se é pra você sozinho, baixa o Desktop. Se é pra equipe ou produção, vai de Docker.
⚠️ Atenção: ativar o modo multiusuário no Docker é uma decisão sem volta. Pense antes se realmente precisa.
O que sua máquina precisa ter
- RAM: mínimo 2 GB; pra modelos locais decentes (Llama 3, Qwen, DeepSeek), mira em 8 GB ou mais
- Disco: pelo menos 10 GB livres
- Sistema: Windows, macOS, Linux ou qualquer servidor com Docker
- GPU: não é obrigatória, mas ajuda muito
Pra contexto: um notebook com Ryzen 5 / i5 e 16 GB de RAM já roda bem com modelos menores. Pra Llama 3 70B local, aí precisa de GPU parruda (RTX 3090/4090) ou alugar instância na nuvem.
Instalação Desktop (caminho rápido)
Baixa o instalador em anythingllm.com e instala:
- Windows: baixa o
.exe, dois cliques, next-next-finish. - macOS: baixa o
.dmg, arrasta pra pasta Applications. - Linux: baixa o
.AppImage(dáchmod +xe executa) ou o.deb(sudo dpkg -i arquivo.deb).
Na primeira abertura, um assistente te leva por três escolhas:
- Modelo de IA — motor embutido (zero configuração) ou Ollama, OpenAI, Anthropic, Gemini, Groq, DeepSeek
- Embeddings — o padrão local na CPU funciona bem
- Banco vetorial — LanceDB embutido, nada a configurar
Depois é só clicar em “New Workspace”, dar um nome e começar.
Instalação via Docker (pra servidor)
Tendo um VPS rodando — Hostinger, Locaweb, Magalu Cloud, Hetzner, DigitalOcean, qualquer um — cola isso no terminal:
export STORAGE_LOCATION=$HOME/anythingllm && \
mkdir -p $STORAGE_LOCATION && \
touch "$STORAGE_LOCATION/.env" && \
docker run -d -p 3001:3001 \
--cap-add SYS_ADMIN \
-v ${STORAGE_LOCATION}:/app/server/storage \
-v ${STORAGE_LOCATION}/.env:/app/server/.env \
-e STORAGE_DIR="/app/server/storage" \
mintplexlabs/anythingllm
Depois abre http://localhost:3001 no navegador.
O que cada flag faz:
-p 3001:3001→ porta onde o app vai rodar--cap-add SYS_ADMIN→ necessário pro scraping de web funcionar (usa Puppeteer por baixo)-v ...→ onde os dados ficam salvos (sobrevive a atualizações)
Dica de ouro pra quem usa Ollama com Docker
Se você tem Ollama rodando na máquina e quer conectar a partir do container, não use localhost — não funciona. Use:
http://host.docker.internal:11434
No Linux, ainda precisa adicionar --add-host=host.docker.internal:host-gateway no docker run.
⚠️ Se for expor pra internet, use Nginx com SSL na frente. O AnythingLLM não faz HTTPS sozinho. E troque as API keys com frequência — elas têm acesso total.
Os primeiros 10 minutos de uso
Passo 1: Criar um workspace
Cada workspace é tipo uma “pasta inteligente”: tem seus próprios documentos, modelo configurado e histórico. É o conceito mais importante da ferramenta.
Passo 2: Subir documentos
Clica no ícone de upload dentro do workspace. O AnythingLLM aceita:
- Documentos: PDF, DOCX, TXT, Markdown, CSV, XLSX, PPTX, HTML
- Código: mais de 50 tipos de arquivo
- Áudio: transcreve automaticamente com Whisper (ótimo pra gravação de reunião)
- Fontes externas: repositórios do GitHub, transcrições de YouTube, páginas do Confluence e qualquer site (tem scraper integrado)
Passo 3: Embeber (esse passo é crucial)
Ao subir um arquivo, tem duas escolhas:
- Attach (anexar): o documento entra só naquele chat específico. Bom pra análise pontual.
- Embed (embeber): o documento é quebrado em pedaços, virado em vetores e fica disponível em todo o workspace. Esse é o RAG de verdade.
Clica em “Move to Workspace” pra fazer o embed.
Passo 4: Perguntar
Escreve a pergunta no chat. O sistema busca os trechos relevantes e manda pro modelo.
Resposta veio ruim? Vai nas configurações do workspace (engrenagem) e muda o “Document similarity threshold” pra “No Restriction”. Depois vai subindo aos poucos até achar o ponto certo.
Passo 5: Acionar agentes
Pra ir além do chat com documentos, escreve @agent antes da sua pergunta:
@agent busca na web as últimas notícias sobre Receita Federal@agent quais documentos você consegue ver nesse workspace@agent gera um gráfico com os dados desse CSV
Pra sair do modo agente, escreve exit.
Casos de uso reais
🏛️ Caso 1: Escritório de advocacia analisando contratos e jurisprudência
O problema: advogado não pode simplesmente subir o contrato do cliente no ChatGPT — quebra sigilo profissional, viola LGPD e pode dar problema com a OAB.
A solução: AnythingLLM Desktop + Ollama + Llama 3 (ou Qwen 2.5) rodando 100% local. Cria um workspace por cliente ou por tipo de processo. Sobe contratos, petições, jurisprudências. Pergunta coisas tipo:
“Quais cláusulas desse contrato são abusivas conforme o CDC?” “Resume essa decisão do STJ em 5 pontos.” “Compara essa minuta com a versão anterior e me lista as mudanças.”
Nada sai da sua máquina. Conformidade com LGPD garantida.
💼 Caso 2: Contador / escritório contábil
O problema: balanços, demonstrações financeiras, planilhas com dados de centenas de clientes. Não dá pra mandar pro Gemini.
A solução: workspace por cliente. Sobe os balanços dos últimos anos, planilhas de SPED, livros fiscais. Pergunta:
“Compara o resultado operacional de 2023 e 2024 desse cliente.” “Identifica inconsistências entre o SPED Fiscal e o SPED Contribuições.” “Lista todos os clientes com aumento de receita superior a 30% no último trimestre.”
Combina com agentes pra automatizar relatórios mensais.
🏥 Caso 3: Clínicas, consultórios e profissionais de saúde
O problema: prontuários, anamneses, exames — dados ultra sensíveis protegidos pelo CFM e pela LGPD.
A solução: AnythingLLM Desktop offline, sem nenhuma API externa. Sobe protocolos, diretrizes, artigos científicos, e usa como apoio à decisão clínica:
“Quais são os protocolos atuais pra tratamento de hipertensão resistente?” “Resume os últimos consensos da SBC sobre esse tema.”
Os dados do paciente nunca tocam um servidor externo.
🏢 Caso 4: Base de conhecimento interna da empresa
O problema: o time fica perguntando as mesmas coisas no Slack: “qual o processo de reembolso?”, “como pedir férias?”, “onde fica o manual de onboarding?”. RH e TI viram FAQ humano.
A solução: AnythingLLM em Docker num servidor da empresa. Workspaces por área:
- RH: políticas, benefícios, processos
- TI: runbooks, documentação técnica, procedimentos
- Comercial: scripts, FAQ de produto, objeções comuns
- Financeiro: processos de NF, reembolso, fluxo de aprovação
Cada funcionário acessa só o que precisa (via roles). Vira o ChatGPT interno da empresa, sem nenhum dado vazando.
📚 Caso 5: Estudando pra concurso ou certificação
O problema: você tá estudando pra OAB, ENEM, residência médica, AWS, ou qualquer certificação — tem centenas de PDFs, apostilas, resumos, e nunca acha o que precisa.
A solução: workspace por matéria. Sobe tudo. Usa como tutor:
“Me faz 10 questões estilo CESPE sobre direito administrativo.” “Explica esse acórdão como se eu fosse iniciante.” “Qual a diferença entre EC2 e ECS, com exemplo prático?”
Dica: combina com o modo agente pra ele também buscar conteúdo complementar na web.
📰 Caso 6: Monitoramento e pesquisa
O problema: o ecossistema de IA muda toda semana. Lançamento da OpenAI hoje, modelo novo do DeepSeek amanhã, paper do Google depois. É impossível acompanhar tudo manualmente.
A solução: usa Agent Flows (o lienzo visual do AnythingLLM) pra montar um fluxo automatizado:
- Faz scraping do HackerNews filtrando por “AI”
- Pega os links relevantes
- Resume tudo em Markdown
- Salva no seu workspace de pesquisa
A documentação oficial tem um tutorial completo desse caso.
🌐 Caso 7: Chatbot no seu site (sem pagar SaaS caro)
O problema: você queria colocar um chatbot no seu site pra responder dúvidas sobre seus produtos, mas as opções de mercado cobram caro e mandam tudo pra fora.
A solução: AnythingLLM versão Docker, sobe sua documentação, e ele te gera um widget embebível. Cola o script no HTML do site e pronto — chatbot privado, treinado nos seus dados, sem custo recorrente de SaaS.
🔧 Caso 8: Automação com n8n / Make.com / Zapier
O problema: você quer que o agente faça coisas no mundo real: atualizar planilha do Google, postar no Instagram, criar tarefa no Notion, mandar mensagem no WhatsApp.
A solução: o AnythingLLM deixa você criar agent skills customizadas em JavaScript. A técnica mais usada: o agente chama um webhook do n8n (ou Make.com, Zapier), e essas plataformas fazem as integrações pesadas.
Exemplo: “Agente, anota esse contato no meu Google Sheets” → agente dispara webhook → n8n adiciona a linha na planilha → agente retorna confirmação.
💡 O n8n virou queridinho pela possibilidade de self-host sem limite de operações. Combinação perfeita com AnythingLLM.
Truques que pouca gente fala
- Mistura modelos por workspace. Cliente sensível? Llama 3 local. Tarefa criativa? GPT-4. Análise longa? Claude Opus. Você configura por workspace, não global. Isso muda o jogo.
- Documentos em português? Cuidado com embeddings. O modelo de embedding padrão é otimizado pra inglês. Se os documentos estão em PT-BR e os resultados estão fracos, instala um modelo multilingual (tipo um baseado em
e5) via Ollama. A diferença é grande. - Document Pinning: se um documento é crítico e cabe na janela de contexto, “fixa” ele (pin) e o AnythingLLM injeta o texto completo em cada prompt em vez de fazer RAG. Mais caro, mais lento, mas a compreensão é total. Útil pra contratos curtos ou manuais críticos.
- API de desenvolvedor: tudo o que dá pra fazer pela interface, dá pra fazer por API. A doc Swagger fica em
/api/docs. Útil pra integrar com sistemas internos. - Desliga a telemetria: adiciona
DISABLE_TELEMETRY=trueno.env. Pronto.
Erros comuns (e como resolver)
| Problema | Causa | Solução |
|---|---|---|
| Ollama não conecta com o Docker | Você usou localhost | Troca por http://host.docker.internal:11434 |
| Respostas vêm fora de contexto | Threshold de similaridade muito alto | Baixa pra “No Restriction” e vai subindo |
| Documentos em PT-BR dando resultado ruim | Embedder em inglês | Troca pra modelo multilingual via Ollama |
| Agente não usa ferramentas | Modelo não suporta tool calling nativo | Ativa PROVIDER_SUPPORTS_NATIVE_TOOL_CALLING ou troca de modelo |
Fechando
O AnythingLLM resolve um problema muito específico: como ter um ChatGPT só seu, com seus dados, sem depender da nuvem dos outros. Pra advogado, contador, médico, professor, pesquisador, empresa de qualquer porte — é uma das ferramentas mais bem posicionadas hoje.
E o melhor: a curva de aprendizado é baixa. Em 10 minutos você tem o primeiro workspace rodando. Mas o teto é alto — dá pra construir desde um assistente pessoal até toda uma camada de IA corporativa conectada a APIs externas.
Se você está montando um stack de IA própria — pra trabalho, empresa ou só pra estudar o ecossistema — vale muito a pena instalar e brincar com isso hoje mesmo.
