Ollama na VPS: Modelo Quantizado sem GPU

Resposta rápida: Veja como avaliar um modelo quantizado no Ollama em CPU, proteger a API local e medir memória e tempo antes de prometer capacidade. Rodar localmente não significa ser rápido. O tamanho do modelo, quantização, contexto e concorrência mudam o consumo; sem GPU, a medição real é obrigatória.

Veja a infraestrutura: VPS com monitoramento e backup semanal para colocar este projeto no ar.

Este guia foi escrito para quem precisa tomar uma decisão operacional, não apenas conhecer o nome da ferramenta. O objetivo é mostrar o caminho, os pontos de verificação e as limitações que permanecem depois da configuração.

O que você vai resolver

O artigo separa download, serviço e benchmark. Não apresenta tokens por segundo como fato: esse número precisa ser coletado no hardware e no modelo escolhidos. Antes de começar, separe um ambiente de teste, uma janela de mudança e um plano de retorno. Não cole credenciais reais nos comandos deste artigo.

Pré-requisitos e dimensionamento

Para um serviço pequeno e isolado, o VPS Brasil Básico oferece 4 GB de RAM, 4 vCPUs e 100 GB NVMe por R$99/mês. O cenário deste artigo recomenda o VPS Brasil Ultra, com 20 GB de RAM e 8 vCPUs por R$269/mês, porque considera rodar localmente não significa ser rápido. o tamanho do modelo, quantização, contexto e concorrência mudam o consumo; sem gpu, a medição real é obrigatória.

Esses números são especificações de catálogo, não uma promessa de desempenho universal. A carga real depende da aplicação, do banco, do número de processos, do tamanho dos dados e do padrão de tráfego.

Procedimento passo a passo

Comece registrando o estado atual: versão do sistema, portas abertas, processos, espaço em disco e última cópia válida. Faça uma alteração por vez. Se perder o acesso, interrompa e use o console ou o procedimento de recuperação do provedor.

Instale e restrinja a escuta

curl -fsSL https://ollama.com/install.sh | sh
sudo systemctl enable --now ollama
sudo systemctl edit ollama
# Use OLLAMA_HOST=127.0.0.1:11434 quando a API não precisar ser pública.

Baixe e teste um modelo

ollama pull llama3.2:3b
curl -sS http://127.0.0.1:11434/api/generate \
  -d '{"model":"llama3.2:3b","prompt":"Resuma em uma frase: teste local.","stream":false}'

Meça no host

free -h
/usr/bin/time -v curl -sS http://127.0.0.1:11434/api/generate \
  -d '{"model":"llama3.2:3b","prompt":"Explique o teste.","stream":false}' >/tmp/ollama-result.json
cat /tmp/ollama-result.json

Como validar sem autoengano

Uma validação útil cruza pelo menos três sinais: o serviço está ativo, a rota correta responde e o resultado é coerente com o que o usuário espera. Registre horário, comando, status HTTP quando existir, duração e trecho relevante do log. Não confunda ausência de erro no terminal com funcionamento completo.

Decisões que mudam o resultado

Separe mudança de diagnóstico

Antes de alterar Ollama em VPS sem GPU, capture o estado atual e escreva o que você espera observar. Essa pequena disciplina evita mudar a rede, o serviço e o firewall ao mesmo tempo. Se algo falhar, você consegue voltar ao último estado conhecido e testar uma hipótese por vez, em vez de acumular diferenças impossíveis de explicar.

Use o menor privilégio possível

O procedimento pode exigir acesso administrativo, mas a aplicação não deve herdar esse mesmo nível. Separe usuário do sistema, credencial da ferramenta e permissão de leitura ou escrita. Se existir uma chave, trate-a como segredo rotacionável. Uma configuração que funciona apenas com permissões amplas está incompleta, mesmo que o primeiro teste passe.

Meça a condição que importa

O indicador escolhido precisa representar o objetivo do leitor. Em uma rota pública, confirme o caminho completo; em uma fila, acompanhe atraso e reprocessamento; em um banco, valide leitura e restauração; em uma configuração de rede, confirme rota e DNS. O comando isolado ajuda no diagnóstico, mas não substitui a verificação do fluxo que será usado.

Prepare a operação para a falha

Defina o que acontece se a dependência ficar indisponível, se a máquina reiniciar ou se a configuração tiver de ser revertida. Documente arquivos alterados, portas, volumes e comandos de retorno. Uma janela de manutenção pequena é mais segura quando o rollback está escrito e não depende de memória sob pressão.

Registre o contexto da medição

Guarde data, versão, recursos do host, origem do teste, destino e resultado. Isso torna a comparação futura possível e evita transformar uma observação pontual em promessa de desempenho. Para Ollama em VPS sem GPU, repita o teste depois de uma mudança relevante e publique apenas números que possam ser conferidos no ambiente que os produziu.

Uma boa documentação também reduz o tempo de atendimento. Anote o arquivo alterado, a porta envolvida, o comando usado, a resposta esperada e o sinal que confirmou a mudança. Quando outra pessoa assumir a operação, ela poderá repetir o teste sem depender de uma explicação oral. Se o resultado for diferente, compare primeiro versão, carga, rede e permissões; só depois considere uma alteração adicional. Esse registro é parte da solução, não burocracia posterior.

Limitações, segurança e rollback

Rodar localmente não significa ser rápido. O tamanho do modelo, quantização, contexto e concorrência mudam o consumo; sem GPU, a medição real é obrigatória. Também mantenha firewall com a menor exposição possível, permissões mínimas e backup antes de alterar dados. Se a mudança falhar, restaure o arquivo anterior, recarregue somente após validar a sintaxe e confira a conectividade a partir de uma segunda origem.

Este artigo não afirma que um comando foi executado na infraestrutura do leitor nem que a configuração garante disponibilidade. O ambiente, a versão do software e as políticas de rede mudam o resultado; documente essas variáveis.

Perguntas relacionadas

O que é Ollama em VPS sem GPU?

Veja como avaliar um modelo quantizado no Ollama em CPU, proteger a API local e medir memória e tempo antes de prometer capacidade.

Qual é o erro mais comum neste cenário?

Rodar localmente não significa ser rápido. O tamanho do modelo, quantização, contexto e concorrência mudam o consumo; sem GPU, a medição real é obrigatória. Antes de alterar produção, reproduza o problema em ambiente controlado e registre o resultado.

Preciso de uma VPS para aplicar o procedimento?

Você pode validar partes do roteiro localmente, mas uma operação pública precisa de um ambiente com recursos, backup, firewall e acesso administrativo compatíveis com o serviço.

Como sei que a configuração funcionou?

Use os comandos de verificação do artigo e registre status, tempo de resposta, logs e consumo. Um processo iniciado não é prova de uma jornada saudável.

Posso copiar os comandos diretamente?

Os blocos são modelos. Substitua domínios, IPs, usuários, caminhos e segredos. Revise cada linha e faça backup antes de aplicar em produção.

O que deve ficar fora dos logs?

Senhas, tokens, chaves privadas, cookies, payloads pessoais e strings de conexão. Registre identificadores técnicos não sensíveis e aplique retenção.

Quando o plano Básico deixa de ser suficiente?

Quando a carga combina vários serviços, filas, banco, workers ou picos de tráfego. Nesse caso, dimensione pelo conjunto e considere o Performance ou o Ultra.

Qual é o próximo passo recomendado?

Faça o checklist deste artigo em staging, compare o resultado com o requisito da sua operação e, se precisar publicar a carga, avalie o VPS Brasil Ultra a R$269/mês.

Próximo passo

Se o procedimento atende uma carga pequena, comece com o VPS Brasil Básico. Para o cenário central deste guia, a recomendação é o VPS Brasil Ultra por R$269/mês, com 20 GB de RAM e 8 vCPUs. Escolher o VPS Brasil Ultra e revisar o checklist antes do corte.