Pular para o conteúdo
EntrarCriar minha VPS

Rodar IA self-hosted sem depender da OpenAI

Rodar IA self-hosted significa usar modelos open-source (Llama, Mistral, Gemma, Qwen) em VPS própria em vez de pagar por token para OpenAI ou Anthropic. O Ollama é compatível com a API da OpenAI, você troca a base_url e o nome do modelo, sem alterar o restante do código. O custo fixo de uma VPS substitui o custo variável por token, vantajoso para volumes altos ou dados que precisam ficar no Brasil.

Por que ir self-hosted

Três razões principais justificam a migração de APIs externas para LLMs self-hosted:

Modelos open-source mais usados em 2026

O ecossistema open-source evoluiu muito, hoje há modelos competitivos com GPT-4 em várias tarefas:

Substituição drop-in da API da OpenAI com Ollama

O Ollama expõe /v1/chat/completions e /v1/embeddings com a mesma interface da OpenAI. A migração é de 2 linhas:

bash
# Antes (OpenAI)
from openai import OpenAI
client = OpenAI(api_key="sk-...")

# Depois (Ollama self-hosted) — mesma biblioteca, base_url diferente
from openai import OpenAI
client = OpenAI(
    base_url="http://localhost:11434/v1",
    api_key="ollama",  # qualquer string funciona
)

# O restante do código não muda:
response = client.chat.completions.create(
    model="llama3.1:8b",  # ← único campo que muda
    messages=[{"role": "user", "content": "Olá!"}],
)

Quando ainda faz sentido usar APIs externas

Self-hosted não é sempre a escolha certa. APIs externas fazem sentido quando:

Não quer configurar manualmente?

Implante o Ollama em menos de 5 minutos com a Runstack. Infraestrutura da OPEN Datacenter, com servidores em São Paulo.

Criar minha VPSVer apps prontos

Perguntas frequentes

Depende do volume. GPT-4o custa ~US$5/1M tokens de entrada e US$15/1M de saída. Uma VPS Pro Runstack (R$144/mês) com Llama 3.1 8B em CPU fica barata a partir de ~500K tokens/mês. Com GPU T4, a partir de ~2M tokens/mês. [VERIFICAR: preços da OpenAI mudam com frequência]

Sim, especialmente Llama 3.1, Qwen 2.5 e Gemma 2, treinados com dados multilinguais que incluem PT-BR. Para tarefas de instrução, sumarização e chatbot, a qualidade em português está próxima do GPT-3.5. Para raciocínio muito complexo, GPT-4o ainda leva vantagem.

Llama 3.1: melhor para uso geral em PT-BR. Mistral/Mixtral: forte em raciocínio e código em inglês. Gemma 2: boa opção se precisar de modelo de instrução leve. Qwen 2.5: destaque em código e matemática. Teste com seu caso de uso específico antes de decidir.

Sim. LangChain tem integração nativa: from langchain_ollama import ChatOllama. Configure com base_url="http://localhost:11434" e model="llama3.1:8b". LlamaIndex também tem integração direta.

Com Ollama rodando localmente, todo o processamento acontece na VPS, nenhum dado é enviado para servidores externos. Configure OLLAMA_HOST=127.0.0.1 (padrão) para aceitar conexões apenas locais, e acesse via túnel SSH ou rede interna Docker.

Continue lendo