Como rodar modelos de IA locais (Ollama) em VPS no Brasil?

O Ollama permite rodar LLMs como Llama 3, Mistral e Gemma localmente em um servidor, sem depender de APIs externas. Em uma VPS Runstack no Brasil (datacenter SP01 da OPEN DATACENTER), você tem latência abaixo de 15ms, sem limite de tokens, sem custo por chamada e dados que não saem do país.

O problema

APIs de LLM (OpenAI, Anthropic) cobram por token, têm limites de rate e enviam seus prompts para servidores nos EUA. Para aplicações internas, dados sensíveis ou uso intenso, o custo fica inviável e a latência prejudica a UX.

Como a Runstack resolve

Com Ollama em VPS Pro Runstack, você instala e roda modelos quantizados (GGUF) localmente. Llama 3.2 8B roda confortavelmente em 4 GB de RAM. A API REST do Ollama é compatível com o formato OpenAI, sem trocar o cliente.

terminal
# 1. Instale o Ollama
curl -fsSL https://ollama.com/install.sh | sh

# Habilite o serviço
systemctl enable --now ollama

# 2. Baixe modelos (escolha conforme sua RAM)
ollama pull llama3.2          # 8B · ~4.7 GB
ollama pull mistral           # 7B · ~4.1 GB
ollama pull gemma2:2b         # 2B · ~1.6 GB (ideal para Micro/Basic)
ollama pull phi3:mini         # 3.8B · ~2.3 GB

# 3. Teste via curl (API compatível com OpenAI)
curl http://localhost:11434/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "llama3.2",
    "messages": [{"role":"user","content":"Olá, tudo bem?"}]
  }'

# 4. Exponha com autenticação (Caddy + basic auth)
# ou use a interface Open WebUI (ver vps-para-open-webui)

Comparativo rápido

AspectoRunstack + OllamaOpenAI APIContabo + Ollama
CustoR$ 144/mês fixoUSD por token (variável)~€5-10/mês (EUR)
Dados no Brasil✓ SP01, São Paulo✗ EUA (OpenAI)✗ Alemanha (DE)
Sem limite de uso✓✗ rate limits✓
API OpenAI-compat.✓ nativa (Ollama)✓✓
Latência (de SP)< 15 ms~80-200 ms~200 ms
Suporte PT-BR✓✗✗

Perguntas frequentes

Modelos quantizados Q4 em GGUF: Llama 3.2 8B (~4.7 GB), Mistral 7B (~4.1 GB) ficam no limite do Pro. Para conforto, use Gemma 2 2B (~1.6 GB) ou Phi-3 Mini. Para modelos 13B+, considere o Business (8 GB) ou GPU Pod.

Sim. O Ollama expõe `/v1/chat/completions` e `/v1/embeddings` no mesmo formato da OpenAI. Você substitui a base URL e troca a model string, sem alterar o código do cliente.

Os modelos são armazenados em `/root/.ollama/models` (ou `/home/usuario/.ollama/models`), que fica no disco NVMe da VM. Eles persistem entre reinicializações automaticamente.

Sim. Tanto o n8n (via HTTP Request node ou nó Ollama nativo) quanto o Langflow suportam o Ollama como provedor de LLM. Configure a URL como `http://localhost:11434` se estiverem na mesma VM.

Sim, mas processa em fila por padrão em CPU. Para maior concorrência, configure `OLLAMA_NUM_PARALLEL=2` como variável de ambiente antes de subir o serviço. Em GPU, a concorrência é maior.

Não quer configurar manualmente?

Seu servidor no ar em menos de 5 minutos com a Runstack. Infraestrutura da OPEN Datacenter, com servidores em São Paulo.