Aller au contenu
Model Wayfinder
Guide

Comment exécuter un modèle d’IA sur votre propre ordinateur

Exécuter un modèle localement signifie que vos données ne quittent jamais votre ordinateur, il fonctionne hors ligne et il n’y a pas de frais mensuels. Vous avez simplement besoin d’un ordinateur suffisamment puissant et d’environ 15 minutes.

01 · Vérifiez votre matériel

Ce qui compte le plus, c’est la mémoire de votre carte graphique (VRAM). Sous Windows : Gestionnaire des tâches → Performance → GPU → « Mémoire GPU dédiée ». Sur un Mac équipé d’un processeur de la série M, environ trois quarts de la mémoire principale peuvent être utilisés.

Règle générale pour la version compressée standard (Q4) : 0,6 GB par milliard de paramètres plus 1,5 GB. Un modèle de 7B nécessite environ 6 GB, ce qui lui permet de fonctionner sur une carte de 8 GB. Notre finder vérifie cela automatiquement lorsque vous sélectionnez l’option « local ».

02 · La méthode simple : LM Studio

LM Studio est une application de bureau gratuite pour Windows, macOS et Linux, dotée d’une fenêtre de chat classique – aucune ligne de commande n’est requise.

  1. Téléchargez et installez LM Studio depuis lmstudio.ai.
  2. Ouvrez la barre de recherche et saisissez le nom du modèle. Ces modèles proviennent de Hugging Face.
  3. Sélectionnez une version marquée Q4_K_M : elle offre un bon équilibre entre taille et qualité. LM Studio indique si elle correspond à votre mémoire.
  4. Cliquez sur Download, chargez ensuite le modèle et commencez à discuter.

03 · Pour les bricoleurs : Ollama

Ollama exécute des modèles depuis la ligne de commande et fournit une API locale que d’autres programmes peuvent utiliser.

  1. Installez Ollama depuis ollama.com.
  2. Ouvrez un terminal et lancez un modèle à l’aide de la bibliothèque Ollama, par exemple : ollama run <model-name>. Nos pages de modèles indiquent la commande exacte à utiliser.
  3. Les modèles de Hugging Face au format GGUF peuvent être lancés directement : ollama run hf.co/<user>/<repository>:Q4_K_M

04 · Trouver des modèles sur Hugging Face

Hugging Face est la plus grande bibliothèque de modèles ouverts. Conseils :

  • Filtrez par GGUF : c’est le format utilisé par LM Studio et Ollama.
  • Lisez la fiche du modèle : elle indique la licence. Certains modèles ne peuvent être utilisés qu’en privé ou à des fins de recherche.
  • Préférez les fichiers provenant du créateur original ou de téléchargeurs reconnus.

05 · À quoi vous attendre

Les modèles locaux sont généralement un peu moins performants que les plus grands modèles cloud, mais suffisamment efficaces pour l’écriture, la synthèse et la traduction. La première réponse nécessite quelques secondes pendant que le modèle se charge. Ils fonctionnent également sans carte graphique, mais beaucoup plus lentement.