Guide
Les fondamentaux
1
Qu'est-ce qu'un LLM, vraiment ?Prédiction du jeton suivant, milliards de poids figés, et pourquoi chaque produit n'est qu'une orchestration autour d'une boucle texte en entrée/texte en sortie.
2
Jetons et tokenisationDes vocabulaires de sous-mots, pourquoi le coréen dévore le contexte 3–4× plus vite que l'anglais, et pourquoi les questions de comptage de lettres échouent.
3
À l'intérieur du transformerEmbeddings, auto-attention, FFN et GQA — toute l'architecture avec rien de plus lourd que des produits scalaires et un softmax.
4
Préremplissage vs décodage : comment la génération s'exécuteDeux phases à la physique différente : une passe parallèle sur le prompt, puis une génération jeton par jeton qui relit tous les poids.
5
Ce que le nombre de paramètres vous apporteL'échelle des capacités des jouets 1B à la classe frontière 70B+ — capacité de connaissances, conventions de nommage, et taille adaptée à la tâche.
6
Comment les modèles sont entraînés (et pourquoi vous ne le ferez pas)Pré-entraînement, SFT et réglage de préférences — ce que chaque stade coûte, ce qu'il change, et ce qui est réellement faisable sur un GPU.
7
Poids ouverts vs API ferméesLe spectre des licences, d'Apache-2.0 à l'API seule, les pièges qui mordent l'usage commercial, et comment lire un nom de dépôt Hugging Face.
Le matériel
8
Le matériel qui compte (et celui qui ne compte pas)Capacité, bande passante, calcul — classés selon ce qu'ils vous achètent vraiment, plus les lignes de fiche technique qui n'importent pas.
9
Calcul de VRAMPoids + cache KV + frais généraux : la formule, des tableaux détaillés de 8B à 70B, et une démarche de dimensionnement en 16 GB.
10
Paliers de GPU : ce qui tient vraimentCe qui tient à chaque palier de VRAM, les bons plans du marché de l'occasion, et pourquoi deux petites cartes perdent contre une plus grande.
11
Apple Silicon et mémoire unifiéeLa mémoire unifiée transforme la RAM en VRAM : bande passante par classe de puce, MLX vs llama.cpp, et le piège du swap.
12
Inférence sur CPU uniquementL'arithmétique de bande passante pour DDR4/DDR5, les paliers de confort, la douleur du préremplissage, et quand le CPU seul est vraiment le bon choix.
13
Fenêtres de contexte et cache KVPourquoi le contexte coûte de la VRAM : la formule par jeton, la GQA, le KV quantifié, et fenêtres annoncées vs effectives.
Modèles et formats
14
Formats de fichiers de modèlesGGUF, safetensors, AWQ/GPTQ, EXL2, ONNX — à quoi sert chaque conteneur, quel moteur consomme quoi, et comment convertir.
15
La quantification, en profondeurAu-delà du tableau magique : échelles par blocs, mixes K-quant, I-quants imatrix, où la qualité casse en premier, et une échelle de décision consciente de la VRAM.
16
L'arbre des familles de poids ouvertsQwen, Llama, Gemma, Mistral, Phi, DeepSeek — tailles, licences, nommage base vs instruct, MoE total vs actif, et la jungle des fine-tunes.
17
Choisir le bon modèleD'abord le cas d'usage, ensuite les benchmarks : lire les classements sans se faire avoir, une matrice de recommandations par palier VRAM, et un protocole d'essai avant engagement.
Exécution et service
18
Votre premier modèle en 10 minutesD'une machine vide à une conversation avec un modèle local, via terminal ou interface graphique — plus les contrôles de santé et les trois pannes classiques du débutant.
19
Comparatif des moteurs d'inférencellama.cpp, Ollama, LM Studio, vLLM, SGLang, exllamav2, MLX, transformers — à quoi sert chacun, et pourquoi les différences comptent moins que votre motif d'E/S.
20
Les paramètres moteur qui comptentLongueur de contexte, délestage GPU, threads, flash attention, dtype du cache KV, YaRN — la poignée d'options qui changent les résultats, et les lignes de log qui les vérifient.
21
La physique des jetons par secondeLa vitesse de décodage, c'est la bande passante mémoire divisée par les octets lus par jeton — de cette seule formule découlent la quantification comme accélération, les gains MoE, la falaise du délestage CPU, et ce que le tok/s fait réellement ressentir.
22
Servir un endpoint compatible OpenAILa forme chat-completions est la langue vernaculaire que parle chaque client — servez-la avec llama-server, Ollama ou vLLM, pointez les SDK vers localhost, et fermez la porte à clé.
23
Interfaces et intégrationsOpen WebUI, LibreChat, text-generation-webui, Continue.dev, outils terminal — choisissez par rôle ; tous parlent OpenAI-compat donc n'importe quel moteur se branche.
24
Traitement par lots et utilisateurs multiplesLe service sériel gaspille le GPU ; le traitement par lots partage chaque lecture de poids entre requêtes. Batching continu, paged attention, maths de capacité, et quand quitter Ollama pour vLLM.
Travailler avec les modèles
25
Prompts et gabarits de conversationLes gabarits de conversation sont l'enveloppe dans laquelle voyage votre prompt — balisage ChatML vs Llama vs Gemma, contrats few-shot, et les motifs que les petits modèles peuvent réellement suivre.
26
Réglages d'échantillonnageTempérature, top_k, top_p, min_p et repeat_penalty — ce que chaque réglage fait aux logits, dans quel ordre, et des préréglages qui marchent par tâche.
27
Sortie structurée et appel de fonctionsDu JSON par simple prompt au décodage masqué par grammaire qui rend les jetons invalides impossibles — plus les conventions d'appel d'outils sur lesquelles tournent les agents.
28
RAG : donner vos données au modèleFragmenter, vectoriser, récupérer, citer — une pipeline RAG locale complète avec chiffres détaillés, recherche hybride, reranking, et comment distinguer les échecs de récupération des échecs de génération.
29
Fine-tuning avec LoRA et QLoRADes adaptateurs sur un GPU grand public : ce que le réglage change (comportement) vs ce qu'il ne peut pas (faits), budgets QLoRA, les règles de données qui dominent, et l'export vers GGUF.
30
Agents et utilisation d'outilsLa boucle planifier–agir–observer, les outils comme schémas JSON, MCP, la discipline de contexte pour les longs runs, et l'injection de prompt — le vrai modèle de menace.
31
Dépannage : symptôme → cause → correctifUn tableau de diagnostic par symptôme pour les classiques — décalages de gabarit, OOM au chargement et en pleine génération, 1 tok/s, boucles de répétition, charabia, troncature — plus à quoi ressemblent des chiffres normaux.