Você abre um chat, faz uma pergunta e, poucos segundos depois, recebe uma resposta. Parece que tudo acontece ali, dentro do navegador. Mas, nos serviços de IA online, o trabalho normalmente é feito em um servidor de outra empresa.

E se você quiser revisar um documento pessoal, organizar anotações ou pedir ajuda com um código sem enviar esse conteúdo pela internet?

Sim, dá para ter uma inteligência artificial funcionando totalmente offline no Linux. E você não precisa montar um computador de outro mundo para começar.

Ferramentas como Ollama e LM Studio permitem baixar um modelo e executá-lo na própria máquina. Depois da preparação inicial, dá até para desligar o Wi-Fi e continuar conversando.

Como isso funciona?

Pense no modelo como um arquivo que contém aquilo que a IA aprendeu durante o treinamento. O programa carrega esse arquivo e usa o processador, a memória e, quando disponível, a placa de vídeo para gerar as respostas.

Você não está treinando uma IA do zero. Está usando um modelo que já veio pronto.

A internet entra principalmente para baixar o programa, os componentes necessários e os modelos. Depois disso, a conversa pode acontecer localmente, sem conta em um serviço de chat e sem cobrança por pergunta.

Ollama, LM Studio: o que usar?

O Ollama é uma ferramenta de código aberto bastante utilizada para executar modelos locais. É interessante para quem gosta do terminal e também para integrar IA a outros programas.

Você escolhe um modelo, baixa os arquivos e começa a conversar. Mais adiante, veremos como fazer isso com poucos comandos.

O LM Studio oferece uma interface gráfica para procurar modelos, baixar e conversar. Para quem prefere clicar em botões, costuma ser um começo mais amigável.

Essas não são as únicas opções. Existem outras ferramentas para usar IA localmente, como Jan, GPT4All e llama.cpp. Neste artigo, vamos focar no Ollama e no LM Studio para facilitar os primeiros passos.

Aqui existe uma diferença: o aplicativo LM Studio é proprietário, embora utilize componentes de código aberto. Portanto, funcionar offline e ser open source são duas coisas diferentes.

Os meus textos ficam mesmo no computador?

No uso com modelos locais, sim. O Ollama informa que não recebe os prompts e as respostas desse modo de execução. A documentação do LM Studio também informa que as conversas e o processamento local de documentos permanecem na máquina.

Mas é preciso escolher o modo certo. O Ollama também oferece recursos de nuvem, e ferramentas conectadas a serviços externos podem enviar informações pela internet. Uma busca na web, por exemplo, não é offline.

Para usar o Ollama somente localmente, existe a configuração OLLAMA_NO_CLOUD=1, que desativa os recursos de nuvem. No LM Studio, baixe antecipadamente o modelo e os componentes necessários e use a conversa local, sem integrações externas.

Desconectar a internet e fazer uma pergunta é uma maneira simples de verificar se aquela conversa funciona offline. Isso demonstra que ela não depende de um servidor externo, mas não comprova o comportamento de todas as integrações quando a conexão estiver ativa.

E lembre-se: históricos salvos no computador precisam dos mesmos cuidados que qualquer documento pessoal.

Dá para usar sem placa de vídeo dedicada?

Dá. O processador pode fazer o trabalho sozinho.

Para começar, um computador com 16 GB de RAM, SSD e processador relativamente recente é uma configuração razoável. Modelos menores podem funcionar com menos memória, enquanto outros exigem muito mais.

Sem placa dedicada, vale experimentar versões pequenas, na faixa de 1 a 4 bilhões de parâmetros. Esse número aparece nos nomes como 1.7B ou 4B e indica o tamanho do modelo, não uma nota de qualidade.

Outra palavra que você encontrará é quantização. É uma forma de reduzir o espaço e a memória necessários, com alguma perda de precisão. Para iniciar, versões de 4 bits, normalmente identificadas como Q4, são um caminho prático.

O Qwen3 4B distribuído pelo Ollama nessa configuração tem aproximadamente 2,5 GB de download. Porém, ele precisa de memória adicional para funcionar: tamanho do arquivo e consumo de RAM não são a mesma coisa.

O principal limite sem GPU é a velocidade. Revisar alguns parágrafos pode ser viável; analisar textos enormes ou gerar respostas longas pode exigir bastante paciência.

E com placa de vídeo, o que melhora?

Uma GPU compatível costuma acelerar bastante as respostas, principalmente quando o modelo cabe inteiro na memória dela, chamada VRAM.

Para uma entrada econômica, a RTX 3060 de 12 GB é uma opção a considerar, especialmente se aparecer por um preço interessante. Atenção à versão: existe também RTX 3060 com 8 GB.

Ela merece atenção pelos 12 GB de memória e pela compatibilidade com ferramentas de IA, mas compare os preços antes de comprar. Há espaço para experimentar muitos modelos de 7B ou 8B quantizados, dependendo do tamanho da conversa e das configurações.

Para quem pode investir mais, a RTX 5060 Ti de 16 GB oferece mais margem. Também existe uma versão de 8 GB, então confira o anúncio.

Para IA local, olhe a VRAM antes de se empolgar com o nome da placa. Uma GPU de 8 GB também serve para modelos básicos, mas limita mais as próximas experiências.

AMD e Intel também têm possibilidades de aceleração. A compatibilidade depende da placa, dos drivers e da ferramenta. Antes de comprar, consulte a lista de suporte do programa escolhido.

Quais modelos experimentar?

Você encontrará muitas opções, mas não precisa baixar dez modelos no primeiro dia.

Os Qwen citados usam uma licença permissiva. Já o Gemma permite uso local, mas tem condições próprias.

Nem todo modelo disponível para download oferece as mesmas liberdades. Vale conferir a licença da versão escolhida, especialmente se você pretende utilizá-la em um produto ou serviço.

Onde isso ajuda no dia a dia?

Você pode colar um rascunho e pedir: “Corrija a gramática sem mudar o meu jeito de escrever”. Ou entregar algumas anotações e solicitar uma lista de tarefas.

Também dá para resumir um texto, praticar inglês e pedir uma explicação de um trecho de código.

No LM Studio, documentos compatíveis podem ser adicionados à conversa e processados localmente. PDFs digitalizados podem precisar de OCR antes, para transformar a imagem das páginas em texto.

Só mantenha uma expectativa realista: a IA local também inventa informações e erra. Um modelo pequeno pode perder detalhes, interpretar mal uma pergunta ou sugerir um comando inadequado. Revise o resultado, especialmente antes de executar código.

Que tal experimentar no seu Linux?

Você não precisa comprar uma placa de vídeo para descobrir se uma IA local será útil. Comece com o computador que já possui e uma tarefa simples.

Para experimentar o Ollama, acesse o site oficial. Na página de instalação para Linux, você encontrará o comando:

curl -fsSL https://ollama.com/install.sh | sh

Abra o terminal, execute o comando e siga as instruções. Ele baixa e executa o instalador oficial, que pode solicitar a senha de administrador.

Depois da instalação, baixe e inicie um modelo:

ollama run qwen3:4b

O primeiro download pode demorar um pouco, dependendo da sua conexão. Quando terminar, você poderá conversar pelo próprio terminal. Experimente perguntar:

Explique o que é uma inteligência artificial local como se eu nunca tivesse usado uma.

Se o computador ficar lento, teste uma versão menor:

ollama run qwen3:1.7b

Depois que o modelo estiver baixado e funcionando, desconecte a internet e faça outra pergunta. A conversa com esse modelo local continuará funcionando.

Você terá uma IA rodando no seu Linux, usando o seu hardware e sem precisar enviar aquela conversa para a nuvem. Comece pequeno; se ela ajudar no seu dia a dia, aí vale pensar nos próximos passos.