Ollama em VPS: como avaliar inferência local, RAM e limites de CPU

# Ollama em VPS: como avaliar inferência local, RAM e limites de CPU > **Resposta rápida:** Ollama pode rodar em uma VPS, mas a experiência depende do tamanho e da quantização do modelo, da RAM disponível, do número de requisições e do fato de a máquina ter ou não GPU. Para testes e automações de baixa concorrência, CPU pode bastar; para geração intensa, a latência e o consumo devem ser medidos no ambiente real. Não exponha a API diretamente à internet. ## Por que este tema exige uma decisão de infraestrutura O arquivo do modelo, o contexto, o runtime e o sistema operacional disputam memória. Um modelo que cabe no armazenamento pode não caber confortavelmente na RAM quando recebe um contexto grande. Reserve margem para o proxy, banco, logs e demais serviços; não dimensione a VPS apenas pelo tamanho baixado. Este guia trata de **decidir se a inferência local cabe em uma VPS e evitar prometer desempenho sem medir** e separa recomendação editorial de resultado medido. O ambiente, a versão da ferramenta e a carga mudam o resultado; use os passos como base para um teste controlado. ## Comparação objetiva | Cenário | Recursos ou escolha | Perfil | Ponto de atenção | |---|---|---|---| | Modelo pequeno quantizado | 4–8 GB | experimentos e tarefas curtas | latência varia muito com CPU | | Modelo médio | 8–16 GB | mais contexto e qualidade | avaliar concorrência | | Uso simultâneo | acima do mínimo do modelo | fila e múltiplos usuários | considere GPU ou serviço externo | > **Atenção:** os valores e critérios acima são referências de dimensionamento. Eles não são benchmark novo nem promessa de desempenho. Registre suas medições antes de mudar o plano. ## CPU, concorrência e latência Sem GPU, o tempo de resposta depende da CPU, da quantidade de tokens e da concorrência. Duas requisições simultâneas podem alongar a fila e afetar uma aplicação que divide a mesma máquina. Uma fila explícita é mais honesta do que prometer resposta instantânea. Meça p50 e p95 com prompts representativos. ## API e isolamento O serviço deve escutar em uma interface privada ou atrás de um proxy com autenticação. Restrinja firewall, aplique TLS no ponto de entrada e evite enviar dados pessoais para logs. Se a aplicação usa um provedor externo como fallback, documente o que sai da máquina e quais dados precisam ser removidos. ### Exemplo de verificação ```bash # Exemplo de operação local; proteja o serviço antes de publicar ollama list ollama ps # Observe memória e carga durante um teste controlado free -h top ``` Os comandos são exemplos de diagnóstico e devem ser ajustados ao sistema. Execute com uma conta autorizada, faça backup antes de alterações e nunca substitua `SEU-DOMINIO` ou variáveis por credenciais expostas em um documento público. ## Modelo e qualidade Quantização reduz o consumo, mas pode mudar qualidade e comportamento. Compare respostas com um conjunto fixo de perguntas e defina um critério de aceitação antes de trocar o modelo. O nome do modelo não substitui a avaliação do seu caso de uso. ## Quando escolher outra arquitetura Se a carga tem picos imprevisíveis, exige baixa latência ou depende de GPU, uma VPS somente CPU pode ser a escolha errada. Ela continua útil para a API, a fila, o banco e a orquestração, mas o motor de inferência pode ficar em uma máquina adequada ou em um serviço especializado. ## Como validar sem inventar um resultado Antes de concluir que a solução está funcionando, registre **versão**, **ambiente**, **carga**, **horário** e **métrica**. Para disponibilidade, diferencie teste direto na origem de teste por CDN ou proxy. Para desempenho, compare o mesmo cenário e use p50/p95 quando houver volume suficiente. Se o teste não foi executado, diga isso explicitamente: uma recomendação não vira evidência só porque foi escrita em um artigo. ## Checklist final - [ ] Defini o objetivo e o perfil de carga. - [ ] Listei RAM, vCPU, disco, rede e dependências. - [ ] Protegi credenciais, portas e dados pessoais. - [ ] Fiz backup e sei como testar a restauração. - [ ] Validei logs, healthcheck e resposta pública. - [ ] Documentei o resultado e o plano de retorno. ## Perguntas relacionadas ### O menor plano é sempre o melhor? Não. O menor plano é adequado apenas quando mantém margem para o uso observado e para manutenção. ### Posso copiar este comando diretamente? Use-o como referência, substitua variáveis e confirme o efeito antes de executar em produção. ### Como saber se preciso de upgrade? Observe pressão sustentada de RAM, CPU, I/O, fila, erros e latência, correlacionando com o horário e a carga. ### Backup e snapshot são a mesma coisa? Não. Snapshot pode ajudar em uma recuperação, mas deve existir uma cópia independente e um teste de restauração. ### Como evitar uma recomendação genérica? Descreva a carga, a versão, o ambiente, as limitações e o critério que muda a decisão. ### O proxy muda o teste de latência? Sim. CDN, WAF e cache podem esconder a latência da origem; declare o ponto de medição. ### Como operar com equipe pequena? Use uma configuração simples, runbook curto, alertas acionáveis e responsabilidades definidas. ### Quando pedir ajuda especializada? Quando a migração, a segurança, a restauração ou a carga puderem causar perda de dados ou indisponibilidade relevante. ## Próximo passo Se você precisa hospedar a orquestração, a API e o armazenamento de uma aplicação de IA no Brasil, compare uma VPS da Host You Secure com o tamanho do modelo e a concorrência esperada. Compare o catálogo atual, confirme preço e renovação no checkout e escolha apenas o recurso que a sua operação consegue justificar. ## Plano de acompanhamento de Ollama em VPS Para transformar este guia em uma decisão segura, separe **sinal**, **causa** e **ação**. O sinal é o que aparece no monitoramento, como erro, fila, memória, latência ou indisponibilidade. A causa é a hipótese que precisa ser confirmada em logs, configuração e dependências. A ação é a mudança mínima capaz de testar essa hipótese, com responsável e horário definidos. Esse registro evita aumentar recursos sem entender o problema e também evita uma sequência de alterações que não pode ser desfeita. Na primeira verificação, confirme o caminho feliz com dados de teste. A aplicação deve iniciar, atender a operação principal e registrar um resultado que possa ser conferido. Nas verificações seguintes, teste o cenário de erro: dependência indisponível, credencial inválida, payload incompleto, disco próximo do limite ou processo reiniciado. A forma de falha precisa ser previsível e não pode revelar segredo ao usuário. Se o serviço usa terceiros, registre o status devolvido e a hora para não atribuir uma falha externa à VPS sem evidência. Também vale observar o custo de operação. Um desenho tecnicamente possível pode ser ruim se exige intervenção diária, não possui restauração ou consome toda a margem da máquina. Documente tempo de manutenção, espaço de backup e esforço de atualização. Para uma equipe pequena, simplicidade operacional é uma característica técnica: menos componentes, menos portas públicas e um runbook curto costumam ser mais sustentáveis do que uma arquitetura complexa sem dono. Quando houver crescimento, aumente uma variável por vez. Primeiro confirme se o gargalo é **RAM**, **CPU**, **I/O**, rede, banco ou serviço externo. Depois compare a mudança com a linha de base. Um upgrade é justificável quando a carga realmente cresceu ou quando a margem ficou insuficiente; ele não deve mascarar uma consulta ruim, um loop de reinício ou uma configuração incorreta. Após a mudança, mantenha o monitoramento por uma janela suficiente para capturar horários de pico. Por fim, escreva uma conclusão que outra pessoa consiga revisar. Informe o cenário, a recomendação, os limites e o que ainda não foi medido. Em **Ollama em VPS**, não existe uma configuração universal: existe uma escolha coerente com a carga, a equipe e a política de recuperação. Essa transparência torna o conteúdo mais útil e impede que um exemplo seja interpretado como garantia comercial ou benchmark universal. ### Perguntas para a revisão humana Antes de colocar este material em uma fila de publicação, confirme se o título ainda representa a intenção, se os nomes de produtos e preços vêm do catálogo atual e se os links apontam para páginas finais. Confirme também se as instruções continuam compatíveis com a versão documentada. A revisão deve remover qualquer frase que pareça uma experiência prática quando não houver log, captura ou medição anexada. O campo `practical_evidence` deste lote deixa essa limitação explícita para que a publicação não transforme um exemplo em alegação de teste.

Veja a infraestrutura: VPS com monitoramento e backup semanal para colocar este projeto no ar.