Inteligência artificial local: como usar sem mandar arquivos à nuvem

Este artigo tem links de afiliado: se você comprar por eles, o Top Tecnologia recebe uma comissão, sem custo a mais para você. Os produtos citados não foram testados por mim, a não ser quando o texto diz o contrário. Veja como escolhemos os produtos.

Você quer pedir para uma IA resumir o contrato do seu aluguel, organizar os exames médicos da família ou revisar uma planilha da empresa, mas não quer que esses arquivos saiam do seu computador. A solução é usar inteligência artificial local: o modelo roda na sua máquina, lê seus documentos ali mesmo e não manda nada para servidor nenhum. Parece coisa de programador, mas hoje dá para fazer isso com programas gratuitos, que se instalam como qualquer outro aplicativo. Neste guia você vai ver como funciona, quais programas usar e de que hardware você precisa.

O que muda quando a IA roda no seu computador

Quando você usa um chatbot online, o texto e os arquivos que você envia vão para os servidores da empresa, onde são processados. Mesmo quando a empresa promete não usar esses dados, eles saem do seu controle.

Na IA local, você baixa uma vez o “modelo”, que é o cérebro da IA, um arquivo grande com alguns gigabytes. Depois disso, tudo acontece no seu PC. As vantagens são claras:

Privacidade de verdade: documentos com CPF, dados bancários ou informações de clientes nunca saem da máquina.
Funciona sem internet: dá para usar no avião, em lugares sem sinal ou com a conexão caída.
Sem mensalidade: os programas e boa parte dos modelos são gratuitos.

O lado ruim também precisa ser dito: os modelos que cabem num PC doméstico são menores que os das grandes empresas. Eles são ótimos para resumir, reescrever, traduzir e responder perguntas sobre um documento, mas erram mais em raciocínios longos e não sabem de notícias recentes.

Como usar inteligência artificial local na prática: passo a passo

O caminho mais fácil para iniciantes é o LM Studio, que tem visual parecido com o do ChatGPT. Outra boa opção é o GPT4All, que é bem simples. Quem já se vira bem no computador costuma gostar do Ollama, que é mais leve e tem integração com vários outros aplicativos.

1. Instale o programa pelo site oficial dele. Evite versões de sites de download de terceiros.
2. Escolha um modelo dentro do próprio programa. Famílias como Llama, Gemma, Qwen e Mistral têm versões pequenas que vão bem em português. Comece por uma versão de 7 ou 8 bilhões de parâmetros (aparece como “7B” ou “8B” no nome).
3. Anexe seu documento e faça perguntas específicas, como: “Quais são as multas previstas neste contrato em caso de saída antecipada?”

Uma dica de quem usa no dia a dia: depois de baixar o modelo, desligue o Wi-Fi e teste. Se a IA continuar respondendo normalmente, você tem a prova de que nada está indo para a internet. É o jeito mais simples de confirmar que o processamento é mesmo local, sem ter que confiar só na promessa do programa.

Outro detalhe que faz diferença: um PDF escaneado, que na verdade é só uma foto do papel, muitas vezes não é “lido” pela IA. Se ela responder coisas sem sentido, passe o arquivo antes por um leitor de texto em imagem (OCR) ou exporte o documento original em PDF de texto.

O segredo está na memória da placa de vídeo

Dá para rodar IA só com o processador, mas fica lento: a resposta vai aparecendo palavra por palavra, devagar. Com uma placa de vídeo dedicada, a resposta sai quase na velocidade de leitura. E aqui está o que pouca gente explica: o que mais importa não é a potência da placa, é a quantidade de memória dela (VRAM). O modelo precisa caber inteiro nessa memória para rodar rápido. Se não cabe, o programa joga uma parte para a memória comum do PC, e a velocidade cai bastante.

Na prática, funciona mais ou menos assim:

8 GB de VRAM: rodam bem os modelos de 7B a 8B, suficientes para resumos, e-mails e perguntas sobre documentos.
16 GB de VRAM: abrem espaço para modelos médios, que entendem melhor instruções complicadas e documentos mais longos.

Qual hardware escolher para cada tipo de uso

Para quem quer começar gastando menos, a Placa De Vídeo Gigabyte Rtx 5060 Eagle Oc 8gb Gddr7 128bits resolve o uso básico: conversar com a IA, resumir contratos e revisar textos com modelos pequenos. É uma boa porta de entrada, e também serve para jogos.

A Placa de Vídeo ASUS RTX 5060 TI DUAL O8G GeForce 8GB GDDR7 é um pouco mais rápida, mas repare: ela também tem 8 GB. Para IA local, isso quer dizer que ela roda os mesmos tamanhos de modelo que a 5060, só que respondendo um pouco mais rápido. Se o seu objetivo principal é IA, vale saber disso antes de pagar a diferença.

A 9070 Xt 16gb Placa De V Deo Solu Es De Resfriamento é da AMD e se destaca pelos 16 GB de memória, que permitem modelos maiores. O cuidado aqui é o seguinte: a maioria das ferramentas de IA foi pensada primeiro para placas NVIDIA. O LM Studio e o Ollama já funcionam com placas AMD, mas às vezes é preciso escolher a opção certa nas configurações ou atualizar o driver. Para quem não se importa em fuçar um pouco, ela entrega bastante memória.

Já o Pc Workstation Ultra 9 285k, Rtx 5070 Ti, 32gb Ddr5, Nv 1tb é a solução completa para quem usa IA no trabalho todo dia: a RTX 5070 Ti tem 16 GB de VRAM, os 32 GB de memória RAM dão folga para documentos grandes e o SSD de 1 TB tem espaço para guardar vários modelos (cada um pode ocupar de alguns até dezenas de gigabytes). Faz sentido para escritórios de advocacia, contabilidade ou clínicas que lidam com dados sensíveis e não podem arriscar mandá-los para fora.

Cuidados para não ter surpresa

Confira as permissões: alguns programas têm funções opcionais de busca na internet. Deixe essas funções desligadas se o objetivo é privacidade total.
Baixe modelos de fontes conhecidas: use o catálogo do próprio programa, sem pegar arquivos soltos de fóruns.
Sempre revise as respostas: IA local também pode “inventar” informações. Em contratos e exames, confira o trecho original antes de tomar qualquer decisão.

Conclusão

Usar inteligência artificial local deixou de ser coisa de especialista. Com um programa gratuito como o LM Studio e um modelo pequeno, você já consegue resumir documentos e tirar dúvidas sem que nenhum arquivo saia do seu computador. Comece com o que você já tem, faça o teste do Wi-Fi desligado e, se sentir que a IA está lenta ou limitada, aí sim pense em investir em uma placa de vídeo. Na hora de escolher, olhe primeiro para a memória da placa, porque é ela que define até onde sua IA pode ir.