Ir para o conteúdo
Model Wayfinder
Guia

Como executar um modelo de IA no seu próprio computador

Executar um modelo localmente significa que seus dados nunca saem do seu computador, ele funciona off-line e não há taxas mensais. Você só precisa de um computador com poder suficiente e de aproximadamente 15 minutos.

01 · Verifique seu hardware

O que importa mais é a memória da sua placa de vídeo (VRAM). No Windows: Gerenciador de Tarefas → Desempenho → GPU → “Memória da GPU dedicada”. Em um Mac com chip da série M, cerca de três quartos da memória principal podem ser utilizados.

Regra prática para a versão compacta comum (Q4): 0,6 GB por bilhão de parâmetros, mais 1,5 GB. Um modelo de 7B requer cerca de 6 GB, portanto cabe em um cartão de 8 GB. Nosso finder verifica isso automaticamente quando você escolhe “local”.

02 · A maneira fácil: LM Studio

LM Studio é um aplicativo de desktop gratuito para Windows, macOS e Linux, com uma janela de conversa simples – não é preciso linha de comando.

  1. Baixe e instale o LM Studio em lmstudio.ai.
  2. Abra a ferramenta de busca e digite o nome do modelo. Eles são provenientes do Hugging Face.
  3. Escolha uma versão marcada como Q4_K_M – ela oferece um bom equilíbrio entre tamanho e qualidade. O LM Studio indica se ela cabe na sua memória.
  4. Clique em Download, carregue o modelo e comece a conversar.

03 · Para entusiastas de tecnologia: Ollama

Ollama executa modelos pela linha de comando e disponibiliza uma API local que outros programas podem utilizar.

  1. Instale o Ollama em ollama.com.
  2. Abra um terminal e inicie um modelo usando a biblioteca do Ollama, por exemplo: ollama run <model-name>. Nossas páginas de modelos exibem o comando exato já verificado.
  3. Modelos do Hugging Face no formato GGUF podem ser iniciados diretamente: ollama run hf.co/<user>/<repository>:Q4_K_M

04 · Encontrando modelos no Hugging Face

Hugging Face é a maior biblioteca de modelos abertos. Dicas:

  • Filtrar por GGUF – esse é o formato usado pelo LM Studio e pelo Ollama.
  • Ler o model card: nele consta a licença. Alguns modelos podem ser usados apenas para uso pessoal ou para pesquisa.
  • Preferir arquivos do criador original ou de enviores confiáveis.

05 · O que esperar

Os modelos locais costumam ser um pouco menos potentes que os maiores modelos em nuvem, mas geralmente são suficientes para tarefas de redação, resumo e tradução. A primeira resposta leva alguns segundos enquanto o modelo é carregado. Ele também funciona sem placa de vídeo – apenas de forma muito mais lenta.