Next Token Prediction — Capacités et Limitations de l'IA

Ce que vous apprendrez

Durée estimée : 30 minutes

À la fin de cette leçon, vous serez capable de :

Expliquer Next Token Prediction comme le mécanisme fondamental de l'IA générative et pourquoi il produit à la fois de la fluidité et des hallucinations
Localiser les tâches sur le continuum Next Token Prediction (chemin bien tracé vs. territoire nouveau)
Identifier la spécificité (noms, dates, citations, statistiques) comme la zone où se concentre la fabrication
Reconnaître les fonctionnalités produit (citations, signalisation d'incertitude, génération contrainte, motif générateur-vérificateur) qui atténuent cette limitation

Comment les modèles d'IA utilisent next token prediction

(4 minutes)

L'IA générative est plus proche d'une autocomplétion extrêmement sophistiquée que d'un moteur de recherche. Elle rédige les réponses mot par mot en fonction de ce qui tend à suivre. Cette seule propriété vous donne à la fois la fluidité et l'hallucination.

Autocomplétion à grande échelle

Avant de lire

Vous demandez à l'IA de résumer un long rapport. À quel point devez-vous vérifier le résultat ? Choisissez un point sur le continuum, puis validez votre réponse.

Next Token Prediction Knowledge Working Memory Steerability

Capacité Limitation

Lui faire confiance Vérifier rapidement Vérifier les détails Vérifier attentivement Risque élevé

Votre réponse

Typique

Ce que cela permet

Où cela échoue caractéristiquement

Fonctionnalités produit qui repoussent la limite

Choisissez un point, puis validez votre réponse. La leçon s'ouvre une fois que vous l'aurez fait.

Valider ma réponse

Vérifier votre intuition

Validez votre réponse ci-dessus pour la comparer au placement typique.

Personnaliser

Hauteur de la barre

Taille du pictogramme

Palette Ciel → Argile Olive → Argile Cactus → Figue Ardoise → Argile

Points clés à retenir

Next Token Prediction fait référence au fait que l'IA générative rédige les réponses mot par mot en fonction de ce qui tend à suivre.
Zone de capacité : tâches qui ressemblent à des motifs que le modèle a vus de nombreuses fois (résumer, reformater, expliquer des concepts courants).
Zone de limitation : territoire nouveau ou peu documenté, et toute tâche qui nécessite de distinguer « vrai » de « sonne vrai ».
La fabrication se concentre dans la spécificité : noms, dates, statistiques, citations, URL, citations. Plus une affirmation est précise, plus elle justifie une vérification.
Les fonctionnalités produit comme les citations, la signalisation d'incertitude, la génération contrainte et les boucles générateur-vérificateur existent spécifiquement pour repousser cette limitation.
Connexion 4D : Next Token Prediction est le fondement du Discernement. Savoir que la sortie a été générée vous dit exactement quel type d'examen appliquer.

Exercices

Exercice : Le test de vérification

Pourquoi ? Vous savez maintenant que le même processus génératif qui rend l'IA fluide est celui qui la fait fabriquer. Il est temps de le voir sur votre propre terrain, dans un domaine où vous le détecterez.

Retournez à votre liste de tâches et choisissez la tâche où vous êtes le plus confiant dans votre expertise de domaine. Vous avez besoin d'un sujet où vous êtes l'expert, car vous devez pouvoir vérifier ce qui revient. Notez cinq faits spécifiques et vérifiables de ce domaine : le titre d'une personne, une date de publication, une statistique, une spécification de produit, une citation directe, une URL. Des choses que vous savez être exactes et que vous pouvez confirmer indépendamment.

Maintenant, lancez trois sondages :

**Sondage 1 : La zone de capacité. ** Demandez à l'IA d'expliquer ou de résumer un concept bien connu de votre domaine. Quelque chose de populaire et bien documenté. Notez la fluidité. Vérifiez rapidement le contenu. C'est ce que ressent la zone de capacité : lisse, confiante et largement exacte.
**Sondage 2 : Spécificité sous pression. ** Demandez à l'IA de fournir cinq spécificités vérifiables dans votre domaine : citer trois sources, nommer un auteur, donner des chiffres exacts, fournir une URL. Vérifiez chacun. Notez-le sur cinq : combien étaient entièrement exacts ? S'il fabrique, notez à quel point il semblait confiant en le faisant.
**Sondage 3 : Échantillonnage en action. ** Lancez la même demande de faits spécifiques dans une nouvelle conversation. Comparez les deux résultats. Qu'est-ce qui est resté cohérent ? Qu'est-ce qui a changé ? La variation que vous voyez est Next Token Prediction en action d'échantillonnage.

Objectif supplémentaire : Relancez le sondage 2 dans un outil avec citations activées (comme le mode Recherche dans Claude). Notez-le à nouveau. Le fait d'avoir des sources à vérifier change-t-il le score ?

Réflexion sur la leçon

Auriez-vous détecté les fabrications dans un domaine que vous ne connaissiez pas bien ?
Regardez votre liste de tâches : quelles tâches se situent principalement dans la zone de capacité, et lesquelles s'aventurent dans la spécificité qui nécessite une vérification ?

Prochaines étapes

Next Token Prediction explique comment l'IA génère. Ensuite, nous examinons ce à partir de quoi elle génère : la propriété Knowledge. Que sait réellement le modèle, d'où vient cette connaissance et où se trouvent les lacunes ?

Retours

Au fur et à mesure que vous progressez dans le cours, nous aimerions entendre parler de la façon dont vous utilisez les concepts du cours dans votre travail, ainsi que de tout retour que vous pourriez avoir. Partagez vos retours ici.

Remerciements et licence

Copyright 2026 Anthropic. Travail original s'appuyant sur le cadre de maîtrise de l'IA développé par le Prof. Rick Dakan (Ringling College of Art and Design) et le Prof. Joseph Feller (University College Cork). Publié sous la licence CC BY-NC-SA 4. 0.