01Distinguer d’abord les trois couches
Homebrew est un gestionnaire de paquets macOS et Linux, comme une boutique logicielle en commande. Ollama gère et exécute les modèles locaux. Qwen, DeepSeek-R1 ou Gemma sont les fichiers réellement téléchargés et exécutés. Une interface de chat n’est qu’un frontend de l’API locale. Chaque couche se vérifie et se remplace indépendamment.
02Comprendre les quatre événements du premier lancement
Installez Ollama, choisissez un petit modèle adapté, téléchargez ses fichiers au premier lancement, chargez-les en mémoire, puis entrez du texte pour une inférence locale token par token. L’API locale Ollama est par défaut `http://localhost:11434/api`. Vérifiez système, puce, mémoire et disque, commencez par une petite quantification. Télécharger ne prouve pas que toute interface, plugin, mise à jour ou outil est hors ligne.
03Traiter taille, mémoire et vitesse comme des compromis
Les noms 7B, 14B et 32B désignent souvent l’échelle de paramètres. La quantification réduit bits, disque et mémoire, parfois la qualité. Contexte et calcul intermédiaire exigent aussi de la mémoire, donc un fichier de 8 Go ne garantit pas la fluidité avec 8 Go de RAM. Sur Mac, mémoire unifiée sert CPU et GPU ; grand modèle, long contexte et demandes parallèles augmentent l’usage. Suivez page modèle, journaux et mémoire disponible.
04Local est plus contrôlable, non automatiquement sûr
L’inférence sur appareil peut réduire les matériaux sortants, mais interface bureau, plugins, recherche, télémétrie, dossiers synchronisés et sauvegardes peuvent encore utiliser le réseau. Pour des matériaux sensibles, inspectez tout le chemin de données, non la seule origine locale du modèle. Un modèle local n’est pas un flagship cloud gratuit : l’abonnement devient matériel, temps, électricité et maintenance.
COMMENTAIRES DES LECTEURS
Notez l’idée que cet article vous a laissée.
Aucun commentaire. Vous pouvez laisser le premier.