Wat telt als context

Elk verzoek dat je naar Claude stuurt heeft een context window. Een miljoen tokens klinkt als veel, maar het raakt op sneller dan je denkt zodra je een echte agent aan het uitrollen bent. Daar komt context management om de hoek: het is hoe je binnen het window blijft zonder wat belangrijk is kwijt te raken.

Context is alles wat Claude in een bepaalde beurt ziet :

De system prompt
De berichtgeschiedenis
Tool-definities en tool-resultaten
Bijgevoegde bestanden en skills
Thinking blocks

Diagram van de vijf componenten van context: system prompt, berichtgeschiedenis, tools, bestanden en skills, en thinking blocks

Het is de input voor elke API-aanroep. Je betaalt ervoor op de manier in, en je betaalt ervoor op de manier uit. En zodra het window vol is, mislukt het verzoek.

Dus het doel is niet om alles erin te passen. Het doel is om de juiste dingen erin te passen.

Anthropic publiceert vier patronen voor het beheren van context in langlopende agents. Drie zijn first-class API-functies, en één is een ontwerppatroon.

Diagram van de vier patronen voor het beheren van context: just-in-time context, compaction, caching, en memory

Patroon 1: Just-in-time context

Laad niet alles vooraf. Laad wat de agent nu nodig heeft, en laat het meer pullen via tools wanneer het daarom vraagt.

Denk aan een compliance review agent. Het krijgt niet het hele bouwregelboek in zijn system prompt gestopt — het roept een lookup_building_code tool aan wanneer het een specifieke sectie nodig heeft. Dit is het ontwerppatroon van de vier: niets speciaals in de API, gewoon een bewuste keuze over wat je laadt en wanneer.

Patroon 2: Server-side compaction

Wanneer een gesprek lang loopt, vat Anthropic's server-side compaction oude beurten samen in één blok. Je kiest ervoor door een context_management sleutel aan je verzoek toe te voegen, met een edit met een type:

response = client. messages. create( model="claude-sonnet-4-5", max_tokens=1024, context_management={ "edits": [ {"type": "compact"} ] }, messages=messages, )

De API vat automatisch samen wanneer de input de triggerdrempel overschrijdt. Je hoeft de gesprekslengte niet zelf bij te houden.

Patroon 3: Prompt caching

Prompt caching laat je de stabiele delen van een verzoek markeren — de system prompt, de tool-definities, een lang document — en ze hergebruiken in aanroepen voor een fractie van de kosten.

De wiskunde is belangrijker dan het lijkt. Als je system prompt 4. 000 tokens is en je roept het 100 keer per uur aan, is caching het verschil tussen een bruikbare rekening en een telefoontje van finance.

Patroon 4: Het memory tool

Sommige context moet over sessies heen overleven: gebruikersvoorkeuren, de aantekeningen van de agent, wat vorige week werd besloten. De aanbevolen primitief hiervoor is het memory tool.

Zo werkt het:

Claude leest en schrijft naar een memory directory via tool calls.
Je implementeert de storage backend client-side — een bestandssysteem, een database, een versleutelde opslag, wat je maar wilt.
Anthropic injecteert automatisch een systeeminstructie die Claude vertelt de memory directory te controleren voordat het werk begint.

Een memory directory bekeken in de browser, met mappen voor incidents en saas-pricing en een opgeslagen incident note uit een vorige sessie

De patronen stapelen

In een productie-app zul je meestal alle vier tegelijk stapelen. De compliance review agent cached zijn system prompt en tool-definities, en trekt bouwregelcodes just in time in via lookup_building_code.

Elk patroon behandelt een ander foutscenario: kosten , window size , statelessness. Kies degenen die passen bij wat voor jou breekt.

Samenvatting

Context is alles wat Claude in een beurt ziet — en het is niet gratis of oneindig. Zodra het window vol is, mislukt het verzoek.
Just-in-time context : laad wat nu nodig is, laat tools de rest pullen. Dit is het ontwerppatroon van de vier.
Server-side compaction : voeg een context_management sleutel toe, en de API vat oude beurten automatisch samen wanneer input de triggerdrempel overschrijdt.
Prompt caching : markeer stabiele delen van het verzoek en hergebruik ze in aanroepen voor een fractie van de kosten.
Het memory tool : Claude leest en schrijft een memory directory via tool calls; je bezit de storage backend, dus context overleft over sessies heen.
Vier patronen, één doel. Draad ze handmatig in elkaar, of gebruik Claude managed agents, die standaard caching en compaction ingeschakeld hebben.