Quel est le nom du mathématicien qui a publié l'idée fondamentale derrière les générateurs de tokens en 1906?	Markov
Comment appelle-t-on la table qui montre les connexions entre les mots et leurs probabilités?	Une matrice de transition (ou table de fréquences)
Qu'est-ce que le "sampling" dans le contexte des modèles de langage?	Le processus de choisir le mot suivant basé sur la distribution de probabilité du contexte actuel
Quel était le principal système de prédiction de mots utilisé sur les téléphones autour de 2010?	Les modèles n-gram (comme SwiftKey et Apple QuickType)
Qu'est-ce qu'une "fréquence table" et comment la transforme-t-on?	C'est une table des connexions entre mots; on la normalise pour obtenir une distribution de probabilité
Quel type de réseau de neurones a commencé à remplacer la recherche en table autour de 2015?	Les RNNs (réseaux de neurones récurrents), puis les transformers en 2017
Comment le jeu décrit au début du texte fonctionnait-il?	En utilisant uniquement les mots recommandés suivants pour composer un message texte
Pourquoi les utilisateurs appelaient-ils ce système un "Me-bot"?	Parce qu'il recommandait des mots basés sur les modèles d'utilisation individuels de chaque personne
Quelle est la première étape pour entraîner un modèle Markov simple?	Compter et enregistrer les connexions entre les mots dans les messages
Comment normalise-t-on une ligne de la matrice de transition?	En divisant chaque fréquence par le total des connexions pour obtenir des probabilités