Comment un LLM écrit
Un modèle de langage écrit par morceaux de texte : les tokens.
Observer les probabilités de ces morceaux. Un token probable n’est pas une preuve que la phrase est vraie.
Côté enseignantrepères pour la classe
Idée-clé : distinguer la probabilité d’un token de la vérité d’une réponse. Ce module porte sur des LLM génératifs, pas sur toute l’IA.
Modèles : deux modèles Mistral sont proposés pour leurs logprobs. Leur taille ne permet pas de prévoir à elle seule leurs erreurs.
Le modèle complète le texte. Chaque token est coloré : vert = plus probable, rouge = moins probable. Cliquer dessus pour voir les autres candidats renvoyés.
Pour aller plus loin : la « graine », l'autre réglage du hasard
La graine fixe le point de départ du tirage. À contexte et réglages identiques, elle aide à reproduire une réponse. Le service ne garantit pas toujours un résultat identique.
Observer les candidats pour un token. Changer la température, puis tirer un candidat. Ici, le navigateur simule le tirage parmi les candidats affichés.
Simuler un tirage
Le tirage utilise seulement cette liste. Ses probabilités sont ramenées à 100 %.
Pourquoi la liste est-elle limitée ?
Le service renvoie quelques candidats. Un filtre peut aussi en retirer. Les autres tokens ne participent pas au tirage.
Un tirage ici ne lance pas de nouvelle génération. Il montre l’effet du hasard sur la liste affichée.
Proposer une suite courte. Figure-t-elle parmi les tokens renvoyés ? Une bonne réponse peut être absente de la liste, ou demander plusieurs tokens.
À retenir
Le modèle attribue des probabilités aux tokens. Un tirage peut varier. La vérité d’une phrase se vérifie avec des preuves.
Références
- Hugging Face (documentation en ligne). Generation strategies — choix maximal et tirage probabiliste
- DINUM (documentation en ligne). Albert API
- Vittascience (ressource en ligne). Module IA — inspiration pédagogique