Ollama em VPS: como avaliar inferência local, RAM e limites de CPU

Resposta rápida: Ollama pode rodar em uma VPS, mas a experiência depende do tamanho e da quantização do modelo, da RAM disponível, do número de requisições e do fato de a máquina ter ou não GPU. Para testes e automações de baixa concorrência, CPU pode bastar; para geração intensa, a latência e o consumo devem ser medidos no ambiente real. Não exponha a API diretamente à internet.

Veja a infraestrutura: VPS com monitoramento e backup semanal para colocar este projeto no ar.

Por que este tema exige uma decisão de infraestrutura

O arquivo do modelo, o contexto, o runtime e o sistema operacional disputam memória. Um modelo que cabe no armazenamento pode não caber confortavelmente na RAM quando recebe um contexto grande. Reserve margem para o proxy, banco, logs e demais serviços; não dimensione a VPS apenas pelo tamanho baixado. Este guia trata de decidir se a inferência local cabe em uma VPS e evitar prometer desempenho sem medir e separa recomendação editorial de resultado medido. O ambiente, a versão da ferramenta e a carga mudam o resultado; use os passos como base para um teste controlado.

Comparação objetiva

Atenção: os valores e critérios acima são referências de dimensionamento. Eles não são benchmark novo nem promessa de desempenho. Registre suas medições antes de mudar o plano.

CPU, concorrência e latência

Sem GPU, o tempo de resposta depende da CPU, da quantidade de tokens e da concorrência. Duas requisições simultâneas podem alongar a fila e afetar uma aplicação que divide a mesma máquina. Uma fila explícita é mais honesta do que prometer resposta instantânea. Meça p50 e p95 com prompts representativos.

API e isolamento

O serviço deve escutar em uma interface privada ou atrás de um proxy com autenticação. Restrinja firewall, aplique TLS no ponto de entrada e evite enviar dados pessoais para logs. Se a aplicação usa um provedor externo como fallback, documente o que sai da máquina e quais dados precisam ser removidos.

Exemplo de verificação

# Exemplo de operação local; proteja o serviço antes de publicar
ollama list
ollama ps

# Observe memória e carga durante um teste controlado
free -h
top

Os comandos são exemplos de diagnóstico e devem ser ajustados ao sistema. Execute com uma conta autorizada, faça backup antes de alterações e nunca substitua SEU-DOMINIO ou variáveis por credenciais expostas em um documento público.

Modelo e qualidade

Quantização reduz o consumo, mas pode mudar qualidade e comportamento. Compare respostas com um conjunto fixo de perguntas e defina um critério de aceitação antes de trocar o modelo. O nome do modelo não substitui a avaliação do seu caso de uso.

Quando escolher outra arquitetura

Se a carga tem picos imprevisíveis, exige baixa latência ou depende de GPU, uma VPS somente CPU pode ser a escolha errada. Ela continua útil para a API, a fila, o banco e a orquestração, mas o motor de inferência pode ficar em uma máquina adequada ou em um serviço especializado.

Como validar sem inventar um resultado

Antes de concluir que a solução está funcionando, registre versão, ambiente, carga, horário e métrica. Para disponibilidade, diferencie teste direto na origem de teste por CDN ou proxy. Para desempenho, compare o mesmo cenário e use p50/p95 quando houver volume suficiente. Se o teste não foi executado, diga isso explicitamente: uma recomendação não vira evidência só porque foi escrita em um artigo.

Checklist final

• [ ] Defini o objetivo e o perfil de carga.
• [ ] Listei RAM, vCPU, disco, rede e dependências.
• [ ] Protegi credenciais, portas e dados pessoais.
• [ ] Fiz backup e sei como testar a restauração.
• [ ] Validei logs, healthcheck e resposta pública.
• [ ] Documentei o resultado e o plano de retorno.

Perguntas relacionadas

O menor plano é sempre o melhor?

Não. O menor plano é adequado apenas quando mantém margem para o uso observado e para manutenção.

Posso copiar este comando diretamente?

Use-o como referência, substitua variáveis e confirme o efeito antes de executar em produção.

Como saber se preciso de upgrade?

Observe pressão sustentada de RAM, CPU, I/O, fila, erros e latência, correlacionando com o horário e a carga.

Backup e snapshot são a mesma coisa?

Não. Snapshot pode ajudar em uma recuperação, mas deve existir uma cópia independente e um teste de restauração.

Como evitar uma recomendação genérica?

Descreva a carga, a versão, o ambiente, as limitações e o critério que muda a decisão.

O proxy muda o teste de latência?

Sim. CDN, WAF e cache podem esconder a latência da origem; declare o ponto de medição.

Como operar com equipe pequena?

Use uma configuração simples, runbook curto, alertas acionáveis e responsabilidades definidas.

Quando pedir ajuda especializada?

Quando a migração, a segurança, a restauração ou a carga puderem causar perda de dados ou indisponibilidade relevante.

Próximo passo

Se você precisa hospedar a orquestração, a API e o armazenamento de uma aplicação de IA no Brasil, compare uma VPS da Host You Secure com o tamanho do modelo e a concorrência esperada. Compare o catálogo atual, confirme preço e renovação no checkout e escolha apenas o recurso que a sua operação consegue justificar.

Plano de acompanhamento de Ollama em VPS

Para transformar este guia em uma decisão segura, separe sinal, causa e ação. O sinal é o que aparece no monitoramento, como erro, fila, memória, latência ou indisponibilidade. A causa é a hipótese que precisa ser confirmada em logs, configuração e dependências. A ação é a mudança mínima capaz de testar essa hipótese, com responsável e horário definidos. Esse registro evita aumentar recursos sem entender o problema e também evita uma sequência de alterações que não pode ser desfeita.

Na primeira verificação, confirme o caminho feliz com dados de teste. A aplicação deve iniciar, atender a operação principal e registrar um resultado que possa ser conferido. Nas verificações seguintes, teste o cenário de erro: dependência indisponível, credencial inválida, payload incompleto, disco próximo do limite ou processo reiniciado. A forma de falha precisa ser previsível e não pode revelar segredo ao usuário. Se o serviço usa terceiros, registre o status devolvido e a hora para não atribuir uma falha externa à VPS sem evidência.

Também vale observar o custo de operação. Um desenho tecnicamente possível pode ser ruim se exige intervenção diária, não possui restauração ou consome toda a margem da máquina. Documente tempo de manutenção, espaço de backup e esforço de atualização. Para uma equipe pequena, simplicidade operacional é uma característica técnica: menos componentes, menos portas públicas e um runbook curto costumam ser mais sustentáveis do que uma arquitetura complexa sem dono.

Quando houver crescimento, aumente uma variável por vez. Primeiro confirme se o gargalo é RAM, CPU, I/O, rede, banco ou serviço externo. Depois compare a mudança com a linha de base. Um upgrade é justificável quando a carga realmente cresceu ou quando a margem ficou insuficiente; ele não deve mascarar uma consulta ruim, um loop de reinício ou uma configuração incorreta. Após a mudança, mantenha o monitoramento por uma janela suficiente para capturar horários de pico.

Por fim, escreva uma conclusão que outra pessoa consiga revisar. Informe o cenário, a recomendação, os limites e o que ainda não foi medido. Em Ollama em VPS, não existe uma configuração universal: existe uma escolha coerente com a carga, a equipe e a política de recuperação. Essa transparência torna o conteúdo mais útil e impede que um exemplo seja interpretado como garantia comercial ou benchmark universal.

Perguntas para a revisão humana

Antes de colocar este material em uma fila de publicação, confirme se o título ainda representa a intenção, se os nomes de produtos e preços vêm do catálogo atual e se os links apontam para páginas finais. Confirme também se as instruções continuam compatíveis com a versão documentada. A revisão deve remover qualquer frase que pareça uma experiência prática quando não houver log, captura ou medição anexada. O campo practical_evidence deste lote deixa essa limitação explícita para que a publicação não transforme um exemplo em alegação de teste.