Comment fonctionne un LLM : tokens, entraînement, prédiction

Un LLM génère du texte en prédisant, morceau après morceau, le token le plus probable qui suit le texte qu'il a déjà, puis en recommençant avec ce nouveau token. Ce chapitre ouvre la boîte : ce qu'est un token, comment se fait la prédiction, ce que fait le transformeur, comment on entraîne un modèle et pourquoi il ignore les faits récents. Tu n'as besoin d'aucune formule pour suivre.

Le token, l'unité de base

Un modèle ne lit ni des lettres ni des mots : il lit des tokens. Un token est un morceau de texte, un mot courant entier, un bout de mot rare, un signe de ponctuation ou une espace. Avant tout calcul, un programme appelé tokeniseur découpe le texte et remplace chaque token par son numéro dans un vocabulaire fixe. Celui de Llama 3 compte environ 128 000 tokens, par exemple.

Un découpage possible de « Le pare-feu bloque la connexion » donne : Le · pare · - · feu · blo · que · la · connexion. Chaque modèle a son propre tokeniseur, donc son propre découpage. Les mots courants tiennent en un token, les mots rares ou techniques en plusieurs, et un texte en français donne souvent plus de tokens que sa traduction anglaise, parce que les vocabulaires ont été construits sur des textes surtout anglais.

Pourquoi tu dois t'en soucier :

• les limites se comptent en tokens : la taille maximale d'une demande, la longueur maximale d'une réponse ;
• les API facturent au token, en entrée et en sortie (chapitre 11) ;
• le modèle voit des tokens, pas des lettres : compter les lettres d'un mot ou inverser une chaîne caractère par caractère lui pose des difficultés qu'un programme de trois lignes n'a pas.

Pour un ordre de grandeur, Anthropic indique qu'un million de tokens correspond à environ 555 000 mots avec le tokeniseur de ses modèles actuels, soit environ 1,8 token par mot.

Prédire le token suivant

Voici ce qui se passe quand le modèle reçoit « Le protocole qui attribue automatiquement une adresse IP s'appelle » :

1. Le texte est découpé en tokens.
2. Le modèle calcule, pour chaque token de son vocabulaire, une probabilité d'être le suivant. Ici, DHCP obtient 83 %, DNS 11 %, ARP 4 %, NAT 2 %, et les dizaines de milliers d'autres tokens presque rien.
3. Un token est choisi selon ces probabilités : le plus souvent DHCP, parfois un autre.
4. Le token choisi est ajouté au texte, et tout recommence pour le token suivant.

La génération s'arrête quand le modèle produit un token spécial de fin, ou quand la limite de longueur fixée par la requête est atteinte. On dit que la génération est autorégressive : chaque token produit devient une partie de l'entrée du calcul suivant.

À l'intérieur : vecteurs, transformeur et attention

Les modèles actuels reposent sur une architecture appelée transformeur, publiée par des chercheurs de Google en 2017. Trois idées suffisent pour comprendre ce qu'elle fait.

1. Chaque token devient un vecteur. Un vecteur est une liste de nombres, plusieurs milliers pour un grand modèle. Deux tokens de sens proche, comme serveur et machine, ont des vecteurs proches. On appelle ces vecteurs des plongements (embeddings) ; tu les retrouves au chapitre 8 pour chercher des documents par le sens.
2. L'attention relie les tokens entre eux. Dans « Le pare-feu a bloqué le poste parce qu'il a détecté un scan », le mécanisme d'attention permet au token il de prendre en compte pare-feu plutôt que poste. Chaque token affine sa représentation en regardant les autres tokens du texte.
3. Les couches s'empilent. Un modèle enchaîne des dizaines de couches d'attention et de calcul. Les premières captent la grammaire, les suivantes des notions plus abstraites. La dernière produit les probabilités du token suivant.

Pour l'essentiel, ces calculs sont des multiplications de matrices, répétées des milliards de fois : c'est pour cela que les cartes graphiques (GPU), faites pour multiplier des matrices en parallèle, sont devenues indispensables. Le cours Matrices te montre l'opération de base.

Les paramètres sont les nombres de ces matrices. Leur nombre donne la taille du modèle : le 3b de llama3.2:3b signifie 3 milliards de paramètres. Plus il y en a, plus le modèle retient de choses et raisonne finement, mais plus il lui faut de mémoire et de calcul. Un modèle de 3 milliards de paramètres tient en 2 Go une fois compressé (on dit quantifié : chaque paramètre est stocké sur moins de bits) : il tourne sur un PC portable. Les plus grands modèles fermés demandent des grappes de serveurs.

L'entraînement en trois phases

Un assistant comme Claude ou ChatGPT n'est pas sorti tel quel d'un seul entraînement. Il passe par trois phases.

1. Le pré-entraînement. Le modèle lit une quantité immense de textes (pages Web publiques, livres, articles, code source) et apprend une seule chose : prédire le token suivant. À chaque erreur, ses paramètres sont légèrement corrigés. Après des semaines de calcul sur des milliers de GPU, on obtient un modèle de base : il complète n'importe quel texte de façon plausible, mais ne sait pas encore converser. Demande-lui « Comment créer un utilisateur sous Linux ? », il risque d'enchaîner trois autres questions, comme dans une FAQ.
2. L'ajustement aux instructions (fine-tuning). On l'entraîne ensuite sur des dizaines de milliers d'exemples de conversations rédigées : une demande, puis une bonne réponse. Il apprend le format question-réponse et le ton d'un assistant.
3. L'alignement par préférences. Des personnes, et de plus en plus d'autres modèles, comparent plusieurs réponses à la même demande et indiquent la meilleure. Le modèle est renforcé dans le sens des réponses préférées : utiles, honnêtes, qui refusent d'aider à nuire. On parle de RLHF (Reinforcement Learning from Human Feedback).

Les modèles récents ajoutent une phase d'entraînement par renforcement sur des problèmes dont on peut vérifier la réponse, comme des exercices de maths ou du code qui doit passer des tests : c'est ce qui leur apprend à « réfléchir » avant de répondre (chapitre 3).

Entraînement et inférence

L'entraînement a lieu une fois, coûte des mois de calcul et fixe les paramètres. L'inférence, c'est chaque utilisation : le modèle applique ses paramètres figés à ta demande. Il n'apprend rien de ta conversation : si tu corriges une erreur, il en tient compte dans la suite de la conversation parce que ta correction est dans le texte qu'il relit, pas parce qu'il a changé.

Les « mémoires » des assistants ne contredisent pas cette règle : l'application enregistre des notes sur toi et les ajoute discrètement au début de tes conversations suivantes. Quant à tes conversations, un fournisseur peut s'en servir pour entraîner ses prochains modèles, selon l'offre et tes réglages : c'est une question de confidentialité, traitée au chapitre 9.

La date de coupure des connaissances

Les données d'entraînement s'arrêtent à une date, la date de coupure (knowledge cutoff). Pour Claude Opus 5.5, Anthropic indique des connaissances fiables jusqu'à juin 2026. Tout ce qui s'est passé après lui est inconnu : une nouvelle version de logiciel, une faille publiée, une loi votée. Sans outil de recherche, il risque de te présenter une information périmée comme actuelle, ou d'inventer une réponse.

Pour une question d'actualité, utilise un assistant qui cherche sur le Web et ouvre les sources qu'il cite, ou mieux, va directement à la source primaire (chapitre 5).

Ce qu'un LLM n'est pas

• Pas une base de données. Il ne retrouve pas une fiche, il reconstruit une réponse plausible.
• Pas un moteur de recherche, sauf si on lui donne un outil de recherche.
• Pas une calculatrice. Il peut se tromper dans une multiplication à quatre chiffres. Les assistants récents délèguent les calculs à un outil qui exécute du code, quand ils en ont un.
• Pas une personne. Il ne se souvient pas de toi entre deux conversations sans mémoire ajoutée, et son assurance ne dit rien de l'exactitude de ce qu'il écrit.

Exercices

Exercice 1 sur 3 Remettre la génération dans l'ordre Réussi À revoir

Remets ces étapes de la génération d'une réponse dans l'ordre.

a. Un token est tiré selon les probabilités. b. Le texte est découpé en tokens. c. Le modèle calcule une probabilité pour chaque token du vocabulaire. d. La boucle s'arrête sur un token de fin ou sur la limite de longueur. e. Le token choisi est ajouté au texte, qui repart dans le modèle.

Voir la réponseMasquer la réponse de l'exercice 1

b, c, a, e, puis d. Les étapes c, a et e se répètent une fois par token de la réponse : une réponse de 300 tokens demande 300 passages dans le modèle. C'est pour cela que les réponses s'affichent au fil de l'eau, et que la sortie coûte plus cher que l'entrée.

Tu avais trouvé ?

Oui, j'avais bonPas encore

Exercice 2 sur 3 Combien de tokens ? Réussi À revoir

Le classeur des procédures du service informatique de Sorbier fait 12 000 mots. En prenant le rapport donné par Anthropic (un million de tokens pour environ 555 000 mots), combien de tokens représente-t-il ? Tient-il dans la fenêtre de contexte d'un million de tokens de Claude Opus 5.5 ? Et dans les 4 096 tokens qu'Ollama réserve par défaut sur une machine sans grosse carte graphique ?

Voir la réponseMasquer la réponse de l'exercice 2

12 000 × 1 000 000 / 555 000 ≈ 21 600 tokens.

Il tient largement dans un million de tokens. Il ne tient pas dans 4 096 tokens : augmente la taille du contexte d'Ollama (chapitre 7) ou n'envoie que les passages utiles (RAG, chapitre 8). Le rapport d'Anthropic vaut pour ses modèles et pour un texte surtout anglais : un autre tokeniseur ou un texte en français donnera un chiffre un peu différent. Pour un calcul précis, on compte avec le tokeniseur du modèle.

Tu avais trouvé ?

Oui, j'avais bonPas encore

Exercice 3 sur 3 Vrai ou faux Réussi À revoir

1. Quand tu corriges une erreur de l'assistant, le modèle apprend et ne la refera plus avec les autres utilisateurs.
2. Un modèle de base, juste après le pré-entraînement, répond déjà poliment aux questions.
3. qwen3:8b désigne un modèle de 8 milliards de paramètres.
4. Un LLM cherche la réponse dans une base de connaissances avant de répondre.
5. Un modèle dont la date de coupure est juin 2026 peut ignorer une faille publiée en septembre 2026.
6. Deux mots de sens proche ont des vecteurs proches.

Voir la réponseMasquer la réponse de l'exercice 3

1. Faux. Les paramètres sont figés pendant l'inférence. Ta correction ne vaut que pour la suite de ta conversation. Elle pourra servir à entraîner un futur modèle si le fournisseur utilise tes données.
2. Faux. Il complète le texte. C'est l'ajustement aux instructions qui lui apprend le format question-réponse.
3. Vrai. b pour billion, un milliard en anglais.
4. Faux. Il calcule une suite plausible à partir de ses paramètres. Une application peut lui fournir des documents avant de lui poser la question : c'est le RAG du chapitre 8.
5. Vrai. Sans outil de recherche, elle est hors de ses données d'entraînement.
6. Vrai. C'est le principe des plongements.

Tu avais trouvé ?

Oui, j'avais bonPas encore