Next Token Prediction — KI-Fähigkeiten und Grenzen

Was du lernen wirst

Geschätzter Zeitaufwand: 30 Minuten

Am Ende dieser Lektion wirst du in der Lage sein:

Next Token Prediction als Kernmechanismus von generativer KI zu erklären und zu verstehen, warum es sowohl Flüssigkeit als auch Halluzinationen erzeugt
Aufgaben auf dem Next Token Prediction-Kontinuum zu lokalisieren (ausgetretener Pfad vs. Neuland)
Spezifität (Namen, Daten, Zitate, Statistiken) als die Zone zu identifizieren, in der sich Erfindungen konzentrieren
Produktfunktionen (Zitate, Unsicherheitssignalisierung, eingeschränkte Generierung, Generator-Verifier-Muster) zu erkennen, die Abschwächungen dieser Einschränkung darstellen

Wie KI-Modelle Next Token Prediction nutzen

(4 Minuten)

Generative KI ist näher an einer äußerst ausgefeilten Autovervollständigung als an einer Suchmaschine. Sie schreibt Antworten Wort für Wort basierend darauf, was tendenziell auf was folgt. Diese einzelne Eigenschaft gibt dir sowohl die Flüssigkeit als auch die Halluzination.

Autovervollständigung im großen Maßstab

Bevor du liest

Du bittest die KI, einen langen Bericht zusammenzufassen. Wie genau musst du das Ergebnis überprüfen? Wähle einen Punkt auf dem Kontinuum und speichere deine Vermutung.

Next Token Prediction Knowledge Working Memory Steerability

Fähigkeit Einschränkung

Vertrau darauf Stichproben überprüfen Details überprüfen Sorgfältig überprüfen Hohes Risiko

Deine Vermutung

Typisch

Was dies ermöglicht

Wo es charakteristisch fehlschlägt

Produktfunktionen, die die Grenze verschieben

Wähle einen Punkt und speichere deine Vermutung. Die Lektion öffnet sich, sobald du das tust.

Meine Vermutung speichern

Überprüfe deine Intuition

Speichere deine Vermutung oben, um sie mit der typischen Platzierung zu vergleichen.

Anpassen

Balkenhöhe

Piktogrammgröße

Palette Sky → Clay Olive → Clay Cactus → Fig Slate → Clay

Wichtigste Erkenntnisse

Next Token Prediction bezieht sich auf die Tatsache, dass generative KI Antworten Wort für Wort basierend darauf schreibt, was tendenziell auf was folgt.
Fähigkeitszone: Aufgaben, die Mustern ähneln, die das Modell viele Male gesehen hat (Zusammenfassen, Umformatieren, Erklären häufiger Konzepte).
Einschränkungszone: Neuland oder spärlich besiedelte Gebiete, und überall dort, wo die Aufgabe erfordert, zwischen „wahr" und „klingt wahr" zu unterscheiden.
Erfindungen konzentrieren sich auf Spezifität: Namen, Daten, Statistiken, Zitate, URLs, Zitate. Je präziser eine Aussage, desto mehr rechtfertigt sie eine Überprüfung.
Produktfunktionen wie Zitate, Unsicherheitssignalisierung, eingeschränkte Generierung und Generator-Verifier-Schleifen existieren speziell, um diese Einschränkung weiter hinauszuschieben.
4D-Verbindung: Next Token Prediction ist die Grundlage von Discernment. Zu wissen, dass die Ausgabe generiert wurde, sagt dir genau, welche Art von Überprüfung du anwenden solltest.

Übungen

Übung: Der Verifikationstest

Warum? Du weißt jetzt, dass derselbe generative Prozess, der KI fließend macht, auch derjenige ist, der sie zum Erfinden bringt. Zeit, das in deinem eigenen Bereich zu sehen, in einem Bereich, in dem du es erkennen wirst.

Gehe zurück zu deiner Aufgabenliste und wähle die Aufgabe, bei der du dir deiner Fachkompetenz am sichersten bist. Du brauchst ein Thema, bei dem du der Experte bist, denn du musst in der Lage sein, das zu überprüfen, was zurückkommt. Schreibe fünf spezifische, überprüfbare Fakten aus diesem Bereich auf: einen Jobtitel einer Person, ein Veröffentlichungsdatum, eine Statistik, eine Produktspezifikation, ein direktes Zitat, eine URL. Dinge, von denen du weißt, dass sie genau sind, und die du unabhängig überprüfen kannst.

Führe jetzt drei Tests durch:

**Test 1: Die Fähigkeitszone. ** Bitte die KI, ein bekanntes Konzept in deinem Bereich zu erklären oder zusammenzufassen. Etwas Populäres und gut Dokumentiertes. Beachte die Flüssigkeit. Überprüfe den Inhalt stichprobenartig. So fühlt sich die Fähigkeitszone an: glatt, selbstbewusst und weitgehend genau.
**Test 2: Spezifität unter Druck. ** Bitte die KI, fünf überprüfbare Spezifika in deinem Bereich bereitzustellen: zitiere drei Quellen, nenne einen Autor, gib genaue Zahlen an, stelle eine URL bereit. Überprüfe jede einzelne. Bewerte sie von fünf: wie viele waren vollständig genau? Wenn es etwas erfindet, beachte, wie selbstbewusst es dabei klang.
**Test 3: Sampling in Aktion. ** Führe die exakt gleiche Anfrage nach spezifischen Fakten in einem neuen Gespräch durch. Vergleiche die beiden Ausgaben. Was blieb konsistent? Was hat sich geändert? Die Variation, die du siehst, ist Next Token Prediction's Sampling in Aktion.

Erweitertes Ziel: Führe Test 2 in einem Tool mit aktivierten Zitaten durch (wie Research-Modus in Claude). Bewerte es erneut. Ändert sich die Bewertung, wenn du Quellen zum Überprüfen hast?

Reflexion zur Lektion

Hättest du Erfindungen in einem Bereich erkannt, den du nicht gut kanntest?
Schaue dir deine Aufgabenliste an: welche Aufgaben liegen hauptsächlich in der Fähigkeitszone, und welche dringen in Spezifität vor, die einer Überprüfung bedarf?

Was kommt als Nächstes

Next Token Prediction erklärt, wie die KI generiert. Als Nächstes schauen wir uns an, woraus sie generiert: die Knowledge-Eigenschaft. Was weiß das Modell tatsächlich, woher kommt dieses Wissen, und wo sind die Lücken?

Feedback

Während du den Kurs absolvierst, würden wir gerne von dir hören, wie du Konzepte aus dem Kurs in deiner Arbeit nutzt, sowie jedes Feedback, das du möglicherweise hast. Teile dein Feedback hier.

Danksagungen und Lizenz

Copyright 2026 Anthropic. Originalwerk basierend auf dem AI Fluency Framework, das von Prof. Rick Dakan (Ringling College of Art and Design) und Prof. Joseph Feller (University College Cork) entwickelt wurde. Veröffentlicht unter der CC BY-NC-SA 4. 0-Lizenz.