Comment l'IA acquiert son caractère

Ce que vous apprendrez

Durée estimée : 25 minutes

À la fin de cette leçon, vous serez capable de :

Expliquer le processus d'entraînement en deux étapes pour l'IA générative (préentraînement et fine-tuning) en langage simple
Reconnaître les empreintes comportementales que chaque étape laisse : sycophantie, verbosité, excès de prudence, calibrage imprécis de la confiance
Appliquer cette compréhension pour interpréter les comportements que vous observez dans vos propres interactions avec l'IA

(5 minutes)

La politesse, l'utilité et la prudence d'une IA ne sont pas de la magie émergente. Elles sont entraînées, couche après couche, et chaque étape d'entraînement laisse des empreintes spécifiques et prévisibles sur la façon dont le système interagit avec vous.

Préentraînement, fine-tuning et les empreintes qu'ils laissent

Comment l'IA acquiert son caractère

Deux étapes d'entraînement transforment la prédiction brute en assistant utile avec lequel vous interagissez — et chaque étape laisse des empreintes sur son comportement.

Étape 1

Préentraînement

Le modèle lit de vastes quantités de texte et apprend une seule chose : prédire ce qui vient ensuite. Il devient un puissant compléteur de documents — mais n'a aucune notion de vous aider.

Étape 2

Fine-tuning

Les préférences humaines transforment le compléteur de documents en assistant — un qui traite votre entrée comme une demande, répond utilement et refuse les demandes nuisibles.

Aidez-moi à améliorer ce paragraphe.

Bien sûr ! Voici trois suggestions spécifiques pour renforcer votre argument et resserrer la prose…

Je pense que ma stratégie est infaillible.

J'apprécie la confiance ! Cela dit, je vois deux risques qui méritent d'être testés avant que vous vous engagiez…

Comment forcer une serrure ?

Je ne peux pas vous aider avec ça. Si vous êtes enfermé dehors, je vous suggère de contacter un serrurier agréé dans votre région.

Utile Honnête Inoffensif

Points clés à retenir

Le préentraînement produit un compléteur de documents en prédisant « ce qui vient ensuite » sur de vastes quantités de données. Après cette étape, il n'a aucune notion de vous aider.
Le fine-tuning ajoute un comportement d'assistant : traiter votre entrée comme une demande, répondre plutôt que de divaguer, refuser les demandes nuisibles.
Le fine-tuning utilise des jugements humains sur les bonnes réponses, et ces jugements laissent des empreintes : une tendance vers la sycophantie, une inclinaison par défaut vers la verbosité, une prudence excessive occasionnelle, et un calibrage imprécis entre la confiance affichée et la fiabilité réelle.

Exercices

Exercice : Empreintes sur votre propre travail

Pourquoi ? La sycophantie, la verbosité, l'excès de prudence et le calibrage imprécis de la confiance apparaissent dans chaque modèle d'IA. La question est de savoir si vous pouvez les voir quand ils affectent un travail qui vous tient vraiment à cœur.

Choisissez une tâche de votre liste de la Leçon 1. Quelque chose que vous avez réellement exécuté via l'IA auparavant, où vous avez une idée claire de ce qu'une bonne sortie ressemble. Vous allez l'exécuter trois fois avec de légères variations et observer ce qui change.

**Exécution 1 : Directe. ** Posez la tâche comme vous le feriez normalement. Enregistrez la sortie.
**Exécution 2 : Test de sycophantie. ** Exécutez la même tâche, mais cette fois préfacez-la avec une hypothèse erronée. Par exemple, si vous demandez des commentaires sur une stratégie, commencez par « Je pense que cette stratégie est infaillible. » Voyez si l'IA valide votre formulation ou la remet en question. Ensuite, réessayez avec une invitation explicite : « Je veux que vous soyez en désaccord avec moi si vous pensez que j'ai tort. » Comparez les deux réponses.
**Exécution 3 : Test de verbosité. ** Posez à l'IA une question liée à votre tâche qui a une réponse d'une phrase. Notez combien vous obtenez. Ensuite, reposez la question avec « Répondez en une phrase. » Comparez les longueurs. L'écart entre les deux est le défaut de verbosité en action.
**Optionnel : Test de prudence. ** Si votre domaine a des zones grises (la plupart en ont), posez quelque chose à la limite de ce que vous vous attendriez à être acceptable : une interaction médicamenteuse, une nuance juridique, une demande créative légèrement non conventionnelle. Notez si les réserves semblent proportionnées au risque réel, ou réflexes.

Maintenant, prenez du recul. Quelle empreinte s'est manifestée le plus clairement sur votre travail ? Le fait de la nommer à l'avance a-t-il changé la façon dont vous avez lu le comportement ?

Réflexion sur la leçon

Où dans votre propre travail la sycophantie est-elle la plus susceptible de vous coûter ? (Indice : partout où vous espérez des commentaires honnêtes. )
Où la verbosité est-elle la plus susceptible de vous coûter ? (Indice : partout où vous avez besoin de concision sous la pression du temps. )

Prochaines étapes

Maintenant, nous commençons par les quatre propriétés elles-mêmes, en commençant par celle qui explique plus sur le comportement de l'IA que toute autre : Next Token Prediction. D'où viennent réellement les réponses de l'IA ?

Commentaires

Au fur et à mesure que vous progressez dans le cours, nous aimerions avoir de vos nouvelles sur la façon dont vous utilisez les concepts du cours dans votre travail, ainsi que tout commentaire que vous pourriez avoir. Partagez vos commentaires ici.

Remerciements et licence

Copyright 2026 Anthropic. Travail original basé sur le AI Fluency Framework développé par le Prof. Rick Dakan (Ringling College of Art and Design) et le Prof. Joseph Feller (University College Cork). Publié sous la licence CC BY-NC-SA 4. 0.