- ▸ Une RTX 4070 ou un Mac M4 suffisent en 2026 pour faire tourner un modèle qui rivalise avec GPT-4, sans cloud ni abonnement.
- ▸ Cinq modèles dominent : Mistral Small 3.1 (polyvalent fr), Llama 3.3 70B (qualité brute), Qwen 2.5 Coder (IDE), DeepSeek R1 (raisonnement), Phi-4 (petite config).
- ▸ La VRAM tranche tout. 12 GB = 14B confortable, 16 GB = 24B, 24 GB = 32B. Un 70B sur une RTX 4090 tombe à 2 tokens/s, inutilisable.
- ▸ Q4_K_M = 95 % de la qualité FP16 pour 4× moins de mémoire. Q2/Q3 déclenchent une chute brutale, à éviter.
- ▸ La licence peut tuer un projet. Apache 2.0 et MIT sont libres ; Codestral reste interdit en production commerciale.
LLM local 2026 : un terme qui n’évoque plus rien d’expérimental. Avec une RTX 4070, un MacBook Pro M4 ou même une RTX 3060 bien choisie, vous pouvez exécuter des modèles qui rivalisent avec GPT-4, sans abonnement, sans envoi de données, sans censure. Encore faut-il choisir le bon.
Entre Llama 3.3 70B, Mistral Small 3.1, Qwen 2.5 Coder, DeepSeek R1 et la centaine d’autres modèles open-weights disponibles, impossible de comparer à la main. Ce guide vous donne une méthode claire pour trancher selon votre matériel, votre usage et vos contraintes — et un outil gratuit français pour vérifier en 10 secondes ce qui tourne sur votre PC.
Pourquoi installer un LLM chez soi en 2026 ?
Le débat « cloud vs local » appartient au passé. Les deux ont leur place. Mais pour certains cas d’usage, le local est simplement meilleur :
- Confidentialité totale. Aucun prompt ne quitte votre machine. Critique pour les professions réglementées (avocats, médecins, juristes, consultants) et les données sensibles d’entreprise.
- Coût zéro après l’installation. Pas d’abonnement ChatGPT Plus à 20 $/mois. Pas de facture API Claude qui explose. L’amortissement d’une RTX 4070 arrive en 12 mois si vous l’utilisez sérieusement.
- Pas de rate limit ni de file d’attente. Générez 10 000 tokens en boucle pour un batch de traitement, aucune API ne vous coupera.
- Aucune censure arbitraire. Les LLM cloud refusent régulièrement des sujets médicaux, juridiques, ou de cybersécurité légitimes. Un modèle open-weight répond à tout.
- Indépendance face aux géants. Si OpenAI bascule en abonnement à 200 $/mois ou si Anthropic ferme à votre région, votre workflow continue à tourner.
- Fine-tuning sur vos données. Vous pouvez adapter le modèle à votre jargon métier, vos templates internes, votre base de connaissances.
Les 4 questions à se poser avant de choisir
1. Quel matériel avez-vous vraiment ?
C’est le point bloquant numéro 1. Un LLM occupe de la VRAM (mémoire de votre carte graphique), et plus il est gros, plus il en demande. À titre indicatif :
- 8 GB VRAM (RTX 3060 8GB, RTX 4060, MacBook Air M2/M3 16 GB) : modèles 7-8B en Q4, confort limité.
- 12 GB VRAM (RTX 3060 12GB, RTX 4070, RTX 3080) : modèles 12-14B confortables, début de 24B en Q4.
- 16 GB VRAM (RTX 4080, RTX 5080, RTX 4070 Ti Super) : modèles 24B confortables en Q4/Q5.
- 24 GB VRAM (RTX 3090, RTX 4090) : modèles 32B confortables, 70B en Q4 très limite.
- Mac Apple Silicon 32-64 GB : mémoire unifiée, le sweet spot pour les 32-70B grâce au GPU intégré.
Ne devinez pas. Plus bas dans l’article, on vous donne un outil qui liste exactement ce qui tourne sur votre config en 10 secondes.
2. Pour quel usage principal ?
Tous les LLM ne se valent pas selon la tâche :
- Chat général : Llama 3.3 70B, Mistral Small 3.1, Qwen 2.5.
- Code : Qwen 2.5 Coder, DeepSeek Coder V2, Codestral, Devstral.
- Raisonnement (maths, logique) : DeepSeek R1, QwQ 32B, Phi-4 Reasoning.
- RAG (chat avec vos documents) : n’importe quel modèle avec contexte ≥ 32k tokens.
- Vision (analyse d’image) : Qwen 2.5 VL, Llama 3.2 Vision, Pixtral.
- Français soutenu : Mistral Small 3.1, Lucie 7B, CroissantLLM.
3. Quelle licence vous faut-il ?
Si c’est pour un usage personnel ou en recherche, toutes les licences ouvertes vous conviennent. Mais pour un usage commercial — intégration dans un SaaS, produit payant, service interne d’entreprise — la licence devient critique.
- Apache 2.0 / MIT (Qwen, Mistral Small, Phi, IBM Granite) : libre sans restriction, même pour SaaS commercial.
- Llama 3.3 Community License : libre sauf si votre produit dépasse 700 millions d’utilisateurs mensuels. Pour 99 % des projets, c’est OK.
- Mistral Non-Production License (Codestral initial) : uniquement perso / recherche. Interdit en prod commerciale.
- Licences « custom » : à lire ligne par ligne. Certaines interdisent l’usage défense, surveillance, etc.
4. Avez-vous besoin d’un modèle spécialisé en français ?
Les gros modèles américains (Llama, Phi) et chinois (Qwen, DeepSeek) parlent un français correct, mais les modèles européens apportent une vraie différence sur des contenus exigeants (juridique, littéraire, commerciaux formels) : Mistral (France), Lucie 7B (France, 100 % souverain CNRS), Teuken 7B (Allemagne), EuroLLM 9B (consortium UE).
Les 5 meilleurs LLM locaux en 2026
1. Mistral Small 3.1 24B — le polyvalent français
Le meilleur rapport qualité/taille en 2026. Apache 2.0, 128 000 tokens de contexte, excellent en français comme en anglais. Tourne confortablement en Q4 sur une RTX 4080 16 GB ou un Mac M4 Pro. C’est le modèle que nous recommandons par défaut à quiconque dispose d’une config 16 GB VRAM et veut un couteau suisse : chat, rédaction, résumé, traduction, analyse de documents.
ollama run mistral-small:24b
2. Llama 3.3 70B — la référence open-weight
La qualité d’un Llama 3.1 405B compressé dans un modèle 6 fois plus petit. Rivalise avec GPT-4 sur la plupart des benchmarks. Attention : il lui faut 40 GB de VRAM minimum en Q4 — prévoyez une RTX 4090 double ou un Mac Studio M2 Ultra. Pour la majorité des utilisateurs, un Mistral Small 3.1 suffira largement, sauf si vous avez du budget matériel et un besoin de raffinement absolu.
ollama run llama3.3:70b
3. Qwen 2.5 Coder 32B — le roi du code
Score HumanEval équivalent à Claude 3.5 Sonnet. 131 000 tokens de contexte pour charger des fichiers entiers, licence Apache 2.0, excellent en Python, JavaScript, Rust, Go. Le choix par défaut pour un copilote IDE local via Continue.dev ou Aider. Alternative crédible si vous préférez un modèle 24B Apache 2.0 orienté agents : voir notre test de Devstral Small 2 sur MacBook M3.
ollama run qwen2.5-coder:32b
4. DeepSeek R1 32B — le roi du raisonnement
Un modèle distillé qui « réfléchit à voix haute » avant de répondre (chain-of-thought). Bluffant sur les maths, la logique, le débogage. Licence MIT, 32 000 tokens de contexte. Il est plus lent qu’un modèle classique (il génère 2 à 5 fois plus de tokens à cause de sa réflexion interne) mais c’est le prix de la fiabilité sur les tâches analytiques.
ollama run deepseek-r1:32b
5. Phi-4 14B — le petit qui joue dans la cour des grands
Microsoft a prouvé qu’un modèle 14B bien entraîné pouvait rivaliser avec des 30B. Contexte 16k, licence MIT, excellent en raisonnement et en code. Parfait pour une RTX 3060 12 GB ou 4070. Sa force : il accepte une quantification Q5 sans dégradation notable, ce qui en fait le modèle idéal pour des configs à budget serré.
ollama run phi4
Tableau récapitulatif : quel modèle pour quelle config ?
| Modèle | Taille Q4 | VRAM min. | Contexte | Licence | Point fort |
|---|---|---|---|---|---|
| Phi-4 | ~9 GB | 12 GB | 16k | MIT | Petites configs |
| Mistral Small 3.1 | ~15 GB | 16 GB | 128k | Apache 2.0 | Polyvalent français |
| Qwen 2.5 Coder 32B | ~19 GB | 24 GB | 131k | Apache 2.0 | Code IDE |
| DeepSeek R1 32B | ~19 GB | 24 GB | 32k | MIT | Raisonnement |
| Llama 3.3 70B | ~40 GB | 48 GB | 128k | Community | Qualité maximale |
Astuce : sur Apple Silicon, comptez 1,2× la VRAM min. indiquée (la mémoire unifiée est partagée avec le système). Sur NVIDIA, visez 20 % de marge pour le contexte long et l’OS.
Comment savoir exactement ce qui tourne sur votre PC ?
C’est LA question piège. Les cartes de modèles sur Hugging Face annoncent des chiffres de VRAM, mais ils varient selon la quantification (Q4, Q5, Q8, FP16), la taille du contexte chargé, le moteur d’inférence (Ollama, llama.cpp, vLLM, MLX)… Résultat, vous lisez 5 chiffres différents pour le même modèle.
Pour éviter de perdre une heure à bench avec des Q5 qui OOM, il existe un outil français gratuit : QuelLLM.fr. Le principe est simple : vous entrez votre GPU (159 modèles indexés, de la GTX 1060 à la RTX 5090 en passant par les Apple Silicon M1–M4), votre RAM système, et votre usage principal. En 10 secondes vous obtenez :
- La liste des modèles réellement compatibles avec votre config.
- La meilleure quantification tenable (Q4_K_M, Q5_K_M, Q8, FP16).
- Une estimation des tokens par seconde que vous obtiendrez.
- La commande d’installation Ollama à copier-coller.
- Des alternatives si vous voulez un modèle plus gros (avec le prérequis matériel).
C’est gratuit, sans inscription, open source, et tout est calculé localement dans votre navigateur — aucune donnée n’est envoyée à un serveur. Les créateurs publient aussi 14 classements éditoriaux (meilleur LLM pour coder, pour le français, pour RAG, sur RTX 4090, pour Mac Silicon…) qui font gagner des heures de recherche.
Les 5 erreurs à éviter quand on débute avec un LLM local
- Prendre un modèle trop gros pour votre VRAM. Un Llama 70B sur une RTX 4090 déborde sur le CPU et tombe à 2 tokens/s. Inutilisable. Restez sur des modèles qui tiennent entièrement en VRAM.
- Oublier le contexte. Un modèle 32B en Q4 fait ~19 GB. Mais si vous chargez un contexte 32k tokens, ajoutez 3-4 GB. Gardez 20 % de marge.
- Ignorer la licence. Installer Codestral pour le commercial = violation. Toujours vérifier avant d’intégrer en prod.
- Sous-estimer la quantification. Q4_K_M est 95 % aussi bon que FP16 en pratique, pour 4 fois moins de mémoire. Q2 ou Q3 en revanche, la qualité chute brutalement.
- Ne pas benchmarker soi-même. Les tokens/seconde annoncés dans les blogs sont souvent surestimés (machines de test optimisées). Faites le test chez vous avec une commande simple sur Ollama.
Aller plus loin : agents, RAG et orchestration
Un LLM local ne sert pas qu’à chatter. Les deux usages qui explosent en 2026 :
- RAG privé — chargez votre base documentaire (PDF, notes Obsidian, emails) dans une base vectorielle locale (ChromaDB, Qdrant) et interrogez vos documents sans rien envoyer au cloud. Mistral Small 3.1 ou Qwen 2.5 avec leurs 128k tokens de contexte excellent ici.
- Agents autonomes — un modèle qui décide des actions (chercher web, lire fichier, exécuter code). Les frameworks comme LangGraph, CrewAI ou Google ADK tournent parfaitement en local. Pour un point de départ pas à pas, voir notre guide multi-agent Google ADK en 90 minutes.
FAQ
Un LLM local peut-il vraiment remplacer ChatGPT ?
Pour 80 % des usages quotidiens (rédaction, résumé, traduction, code, analyse de documents), oui — surtout avec Mistral Small 3.1 ou Llama 3.3. Pour les 20 % restants (questions très pointues, connaissance très récente), les modèles cloud restent devant, mais l’écart se réduit à chaque trimestre.
Combien de RAM faut-il en plus de la VRAM ?
16 GB minimum pour être à l’aise, 32 GB recommandé. Le modèle charge d’abord en RAM avant d’aller en VRAM. Si vous êtes sur Mac Apple Silicon, la mémoire est unifiée donc la question ne se pose pas.
Mac ou PC pour l’IA locale ?
Les deux sont excellents. PC avec GPU NVIDIA = maximum de débit brut (un Llama 8B tape 80-150 tokens/s sur une 4090). Mac Apple Silicon = meilleur ratio mémoire/prix pour les gros modèles grâce à la mémoire unifiée (un M4 Pro 48 GB fait tourner un Mistral Small 24B confortablement). AMD fonctionne mais demande ROCm, moins plug-and-play.
Quel outil pour installer (Ollama, LM Studio, llama.cpp) ?
Ollama pour démarrer en ligne de commande (une commande, ça tourne). LM Studio si vous voulez une interface graphique style ChatGPT. llama.cpp si vous voulez le maximum de perf et de contrôle. Les trois utilisent les mêmes modèles au format GGUF.
Quel budget matériel minimum en 2026 ?
Pour faire tourner un modèle « utile » (Phi-4, Mistral 7B) confortablement : une RTX 4060 Ti 16 GB (450 €) ou un Mac mini M4 16 GB (700 €). Pour la zone de confort (Mistral Small 24B) : RTX 4070 Ti Super 16 GB (850 €) ou Mac mini M4 Pro 24 GB (1 600 €). Au-delà, on change de catégorie budget.
Conclusion
Le LLM local 2026, ce n’est plus un bricolage de passionnés. C’est une vraie alternative aux services cloud pour tous ceux qui veulent maîtriser leurs données, leur budget et leur indépendance. Le matériel nécessaire a chuté à moins de 1 000 € pour une config sérieuse, et la qualité des modèles a rattrapé GPT-4 sur l’immense majorité des tâches courantes.
Avant d’acheter quoi que ce soit ou de télécharger 40 GB de poids pour vous apercevoir que votre GPU ne suffit pas, prenez 30 secondes pour tester votre config sur QuelLLM.fr. L’outil vous dira exactement ce qui tourne chez vous, avec quelle qualité, à quelle vitesse. Gratuit, en français, et open source — c’est le genre d’initiative qu’on aime voir émerger dans l’écosystème IA hexagonal.
