Comment un LLM écrit
Observer les morceaux de texte choisis par un modèle. Faire varier les probabilités.
Un modèle de langage écrit par morceaux de texte : les tokens.
Observe les probabilités de ces morceaux. Un token probable n’est pas une preuve que la phrase est vraie.
Note pour l'enseignant
Idée-clé : distinguer la probabilité d’un token de la vérité d’une réponse. Ce module porte sur des LLM génératifs, pas sur toute l’IA.
Modèles : deux modèles Mistral sont proposés pour leurs logprobs. Leur taille ne permet pas de prévoir à elle seule leurs erreurs.
Le modèle complète le texte. Chaque token est coloré : vert = plus probable, rouge = moins probable. Clique dessus pour voir les autres candidats renvoyés.
Pour aller plus loin : la « graine », l'autre réglage du hasard
La graine fixe le point de départ du tirage. À contexte et réglages identiques, elle aide à reproduire une réponse. Le service ne garantit pas toujours un résultat identique.
Observe les candidats pour un token. Change la température, puis tire un candidat. Ici, le navigateur simule le tirage parmi les candidats affichés.
Simuler un tirage
Le tirage utilise seulement cette liste. Ses probabilités sont ramenées à 100 %.
Pourquoi la liste est-elle limitée ?
Le service renvoie quelques candidats. Un filtre peut aussi en retirer. Les autres tokens ne participent pas au tirage.
Un tirage ici ne lance pas de nouvelle génération. Il montre l’effet du hasard sur la liste affichée.
Propose une suite courte. Figure-t-elle parmi les tokens renvoyés ? Une bonne réponse peut être absente de la liste, ou demander plusieurs tokens.
À retenir
Le modèle attribue des probabilités aux tokens. Un tirage peut varier. La vérité d’une phrase se vérifie avec des preuves.
Références
- Hugging Face (documentation en ligne). Generation strategies — choix maximal et tirage probabiliste
- DINUM (documentation en ligne). Albert API
- Vittascience (ressource en ligne). Module IA — inspiration pédagogique