Quand les propriétés entrent en collision

Ce que vous apprendrez

Temps estimé : 25 minutes

À la fin de cette leçon, vous serez capable de :

• Reconnaître que la plupart des défaillances de l'IA impliquent deux propriétés ou plus qui interagissent
• Diagnostiquer les modèles de défaillance courants (citations halluccinées, dérive en conversation longue, mathématiques confiantes mais erronées, acceptation de prémisses incorrectes) en identifiant quelles propriétés sont en jeu
• Appliquer une correction ciblée en fonction de la propriété qui est le facteur limitant

Diagnostiquer les défaillances de l'IA

(3 minutes)

Les quatre propriétés ne fonctionnent pas isolément. La plupart des défaillances réelles résultent de deux d'entre elles qui se croisent. Une fois que vous pouvez nommer lesquelles deux, vous savez quelle correction appliquer.

Deux propriétés qui se rencontrent : diagnostiquer ce qui s'est mal passé

La plupart des défaillances réelles de l'IA résultent de deux propriétés qui se rencontrent en même temps.

Next Token Prediction

Génère ce qui semble juste

Knowledge

Connaît ce sur quoi elle a été entraînée

Working Memory

Prête attention à ce qui est à proximité

Steerability

Suit l'instruction la plus forte

rapprochez deux propriétés l'une de l'autre pour voir ce qui se passe quand elles entrent en collision

Points clés à retenir

• Les défaillances du monde réel résultent généralement de deux propriétés qui interagissent, pas d'une seule.
• Paires diagnostiques à reconnaître :
• Next Token Prediction + Knowledge (spécificités halluccinées)
• Working Memory + Steerability (dérive en conversation longue)
• Nommer les propriétés en jeu vous mène directement à la correction : vérifier les spécificités, réapprovisionner le contexte, déléguer à l'exécution de code, ou inviter à la remise en question.
• **Ce mouvement diagnostique est la Discernement appliquée. ** Vous évaluez mieux quand vous savez quel type d'erreur vous regardez.

Exercices

Exercice : Le diagnostic de défaillance

Pourquoi ? La plupart des défaillances réelles de l'IA ne sont pas une propriété qui dysfonctionne. Ce sont deux propriétés qui se rencontrent en même temps. Nommer lesquelles deux change entièrement la correction.

Repensez à votre expérience avec l'IA (y compris ce que vous avez observé pendant ce cours). Identifiez deux ou trois moments où une sortie d'IA vous a vraiment déçu ou surpris. Pour chacun, décrivez-le en une ou deux phrases : ce que vous avez demandé, ce que vous avez obtenu, ce qui était décevant ou surprenant.

• **Parcourez chaque événement avec l'IA. ** Décrivez ce qui s'est passé et demandez : « En fonction des quatre propriétés (Next Token Prediction, Knowledge, Working Memory, Steerability), lesquelles étaient probablement en jeu ici, et pourquoi ? »
• **Évaluez son diagnostic par rapport à ce que vous savez maintenant. ** Êtes-vous d'accord ? Si non, contestez-le. (Rappelez-vous l'empreinte de sycophantie de la Leçon 3 : l'IA peut être d'accord avec votre formulation trop facilement. Si vous pensez qu'elle a tort, dites-le. )
• Pour chaque diagnostic, demandez : « Compte tenu de ce diagnostic, quelle est la correction la plus ciblée ? » Si possible, testez l'ajustement maintenant sur une tâche similaire.

Regardez maintenant votre liste de tâches de la Leçon 1 avec toutes ses annotations accumulées (étiquettes de propriétés de la Leçon 2, scores de vérification de la Leçon 4, drapeaux de connaissance de la Leçon 5, besoins de contexte de la Leçon 6, déclarations d'objectifs de la Leçon 7). Pour les tâches qui vous ont causé le plus de problèmes, nommez quelles deux propriétés entraient en collision. Écrivez le diagnostic à côté de chacune.

Réflexion sur la leçon

• Le fait de nommer la paire de propriétés a-t-il changé la correction que vous auriez appliquée ? Avant ce cours, auriez-vous essayé une correction différente (moins efficace) ?
• Quelle paire de propriétés pensez-vous rencontrer le plus souvent dans votre travail quotidien ?

Prochaines étapes

Dans la leçon finale, nous consolidons ce que vous avez construit, le reconnectons au Framework 4D en tant que système complet, et vous montrons où approfondir.

Retours

Au fur et à mesure que vous progressez dans le cours, nous aimerions entendre parler de la façon dont vous utilisez les concepts du cours dans votre travail, ainsi que tout retour que vous pourriez avoir. Partagez vos retours ici.

Remerciements et licence

Copyright 2026 Anthropic. Travail original s'appuyant sur le Framework de Fluence en IA développé par le Prof. Rick Dakan (Ringling College of Art and Design) et le Prof. Joseph Feller (University College Cork). Publié sous la licence CC BY-NC-SA 4. 0.