Fonctionnement des tokens de raisonnement
Une requête normale comporte deux aspects évidents : les tokens que vous envoyez et les tokens de sortie que le modèle génère. Un modèle capable de raisonnement peut diviser sa sortie générée en une autre étape fonctionnelle :
- Il lit l’entrée.
- Il génère des tokens de raisonnement pour traiter la tâche.
- Il génère la réponse finale.
Cette représentation en trois étapes est utile, mais elle n’est pas universelle. Certains modèles peuvent raisonner entre des appels d’outils ou entre des fragments de sortie visible, plutôt que de terminer d’abord une seule ébauche privée et ininterrompue.
Le terme raisonnement décrit l’usage auquel sont destinés les tokens générés. Il ne signifie pas que les autres calculs du modèle s’arrêtent, ni que les modèles ordinaires n’effectuent aucun raisonnement. Chaque modèle effectue des calculs numériques pour sélectionner son token suivant. La particularité ici est qu’un modèle consacre des tokens générés à un travail intermédiaire avant ou entre les tokens destinés à l’utilisateur.
L’entraînement peut encourager ce comportement. Par exemple, l’apprentissage par renforcement peut récompenser les réponses finales correctes et amener un modèle à développer des schémas générés tels que vérifier un résultat, changer de stratégie ou réexaminer une étape précédente. Davantage de tokens de raisonnement signifie donc davantage de travail au moment de l’inférence, et non davantage d’entraînement ou une modification des connaissances stockées dans le modèle.
Le raisonnement masqué et les résumés visibles sont différents
« Token de raisonnement » est un terme générique, et non une norme commune à tous les fournisseurs.
OpenAI indique un nombre de tokens de raisonnement, mais n’expose pas le raisonnement brut via son API. Google peut renvoyer un résumé de ses réflexions ainsi qu’une signature opaque représentant l’état du raisonnement. Les interfaces et les contrôles d’Anthropic varient selon le modèle : certains exposent une réflexion résumée, tandis que d’autres utilisent un niveau d’effort adaptatif plutôt qu’un budget fixe de tokens.
Cela distingue trois éléments :
- Tokens de raisonnement bruts : le travail intermédiaire généré.
- Résumé du raisonnement : un compte rendu plus court produit pour l’utilisateur ou le développeur.
- Réponse finale : la réponse destinée à traiter la requête.
Un résumé n’est pas la transcription de chaque token de raisonnement brut. Le fait de masquer la trace brute ne signifie pas non plus que ces tokens étaient gratuits ou absents. Pour savoir ce qu’une requête a utilisé, consultez les métadonnées d’utilisation de l’API plutôt que de compter les mots affichés à l’écran.
Exemple d’utilisation des tokens
Supposons qu’un rapport d’utilisation indique :
- Tokens d’entrée : 75
- Total des tokens de sortie : 1 186
- Tokens de raisonnement dans la sortie : 1 024
La portion de la sortie générée qui ne correspond pas au raisonnement est :
1 186 − 1 024 = 162 tokens
La requête n’a pas utilisé 1 186 tokens de réponse plus 1 024 tokens de raisonnement supplémentaires. Les 1 024 tokens de raisonnement sont déjà inclus dans le total de 1 186 tokens de sortie.
Cette distinction explique comment une réponse concise peut avoir un nombre total de tokens de sortie bien supérieur à ce que laisse supposer son texte visible. Les noms des champs diffèrent selon les API, mais recherchez un décompte du raisonnement ou de la réflexion dans les détails d’utilisation de la réponse.
Pourquoi les tokens de raisonnement sont importants
Coût
Les principaux fournisseurs facturent généralement les tokens de raisonnement ou de réflexion comme des tokens de sortie générés. Une réponse finale courte peut donc coûter plus cher que ce que vous estimeriez d’après sa longueur visible. Les tarifs et les règles de comptabilisation actuels dépendent du fournisseur ; consultez donc sa documentation sur les tarifs et l’utilisation pour calculer le coût réel.
Limites de sortie et de contexte
Le raisonnement nécessite de l’espace. Les fournisseurs comptabilisent couramment les tokens de raisonnement dans une limite de sortie, le budget de contexte, ou les deux. Si la limite de génération est atteinte pendant le raisonnement, une requête peut se terminer avant de produire une réponse visible utile.
C’est pourquoi un paramètre de sortie maximale ne peut pas toujours être interprété comme une « longueur maximale de réponse ». Il peut devoir couvrir le raisonnement intermédiaire aussi bien que la réponse finale. La règle exacte varie selon l’API.
Temps de réponse
Les tokens de raisonnement correspondent à du travail généré. Un plus grand nombre de tokens nécessite généralement davantage de génération séquentielle avant la fin de la requête, ce qui peut augmenter la latence. Les paramètres d’effort et les budgets de tokens contrôlent donc un compromis entre qualité, temps et coût, et ne sont pas de simples paramètres de style.
Qualité de la tâche
Le raisonnement supplémentaire est surtout utile lorsque la tâche bénéficie d’un travail intermédiaire : mathématiques en plusieurs étapes, débogage de code, planification, vérification de contraintes ou flux de travail fondés sur des outils. Une simple extraction ou une mise en forme peut en tirer peu de bénéfices.
Davantage de tokens n’est pas automatiquement synonyme de meilleur résultat. Un modèle peut consacrer de nombreux tokens à une démarche improductive et se tromper malgré tout. Évaluez le résultat final en fonction de la tâche qui vous intéresse, plutôt que de considérer le nombre de tokens de raisonnement comme une mesure de qualité.
Idées reçues courantes
« Les tokens de raisonnement sont les pensées privées du modèle »
Cette formulation est pratique, mais trop littérale. Les tokens de raisonnement sont des séquences intermédiaires générées par le modèle. Ils peuvent ressembler à une résolution de problème écrite, mais leur existence n’établit ni une pensée, ni une compréhension, ni une conscience de soi semblable à celle des humains.
« Si je peux voir le raisonnement, je vois les tokens bruts »
Pas nécessairement. Un produit peut afficher un résumé ou une explication filtrée. La documentation du fournisseur distingue ces affichages de la trace interne complète utilisée pour la comptabilisation.
« Une réponse de 500 tokens utilise 500 tokens de sortie »
Seulement si aucun autre token généré n’est comptabilisé dans la sortie. Lorsque le raisonnement est activé, le total d’utilisation peut inclure le raisonnement masqué ainsi que la réponse.
« Le budget m’indique exactement combien de tokens le modèle utilisera »
Cela dépend du fournisseur et du modèle. Un paramètre peut représenter un maximum strict, une cible ou un niveau d’effort. Certains modèles adaptent la quantité de raisonnement à la tâche. Considérez le nombre de tokens d’utilisation renvoyé comme la mesure, et le paramètre de la requête comme un moyen de contrôle.
Pour aller plus loin
Lisez Que sont les tokens de sortie ? pour comprendre la catégorie générale de comptabilisation qui contient souvent les tokens de raisonnement. Utilisez ensuite Tokens d’entrée, de sortie et de raisonnement lorsque vous devez comparer les trois catégories dans une même requête.