Context Rot

Wat is Context Rot?

Context rot is de geleidelijke verslechtering van de outputkwaliteit van een taalmodel naarmate zijn contextvenster zich vult met verouderde, tegenstrijdige, of irrelevante informatie over een lange sessie. Het model begint oude instructies te verwarren met huidige, herhaalt verlaten aanpakken, en verliest zicht op wat daadwerkelijk ertoe doet, ook al is er niets aan het model zelf veranderd.

De belangrijkste punten

• Context rot is een eigenschap van de sessie, niet van het model. Hetzelfde model dat goed presteerde bij beurt vijf kan incompetent ogen bij beurt tachtig met een vervuilde context.
• De hoofdoorzaken zijn opgestapelde doodlopende paden, tegenstrijdige instructies gegeven op verschillende momenten, en grote tooloutputs die het signaal begraven.
• Grotere contextvensters vertragen rot maar voorkomen het niet. Modellen geven ongelijkmatig aandacht over lange contexten, dus verslechtert rommel in het midden nog steeds de resultaten. Op de NoLiMa-long-context-benchmark van 2025 vielen 11 van de 13 geteste modellen onder 50% van hun sterke short-context-baselines bij 32K tokens, met GPT-4o dalend van 99,3% naar 69,7% [1].
• De fixes zijn operationeel: comprimeer of vat de sessie samen, begin fris met een gedistilleerd briefje, en beoefen doelbewuste context engineering in plaats van geschiedenis te laten opstapelen.

Hoe het werkt

Elk bericht, toolresultaat, en bestandsdump in een sessie blijft in het contextvenster en concurreert om de aandacht van het model. Vroeg in een sessie is die geschiedenis vooral nuttig. Na verloop van tijd stapelt het mislukte pogingen, achterhaalde plannen, foutlogs van al opgeloste problemen, en instructies die de gebruiker later terugdraaide op. Het model heeft geen ingebouwd mechanisme om iets daarvan als achterhaald te markeren. Het ziet één lang transcript en weegt het allemaal.

Twee effecten versterken het probleem. Ten eerste geven modellen ongelijkmatig aandacht over lange inputs, dus krijgen relevante details verstopt midden in de context minder gewicht dan materiaal nabij het begin of einde. Chroma's rapport van juli 2025 dat het fenomeen benoemde, evalueerde 18 modellen, waaronder GPT-4.1, Claude 4, en Gemini 2.5, en vond dat prestaties consistent verslechteren naarmate inputlengte groeit, waarbij zelfs één afleider in de context de nauwkeurigheid tegen baseline verlaagt [2]. Ten tweede stapelen tegenstrijdigheden zich op: als de gebruiker bij beurt tien "gebruik REST" zei en bij beurt veertig "schakel over naar GraphQL," zitten beide instructies in de context, en onder druk keert het model soms terug naar de eerdere. Het praktische symptoom is een agent die een aanpak opnieuw voorstelt die je een uur geleden verwierp, of een bestand bewerkt met een versie ervan die niet meer bestaat.

Daarom leveren agentic-coding-tools compactiefuncties uit die een sessie samenvatten en het ruwe transcript weggooien, en daarom behandelen ervaren practitioners sessielengte als een budget. Agentgeheugensystemen bestaan deels om duurzame feiten uit het transcript te halen en in opslag te zetten die schoon wordt opgehaald, in plaats van de hele geschiedenis mee te slepen.

Voorbeeld

Een engineer besteedt drie uur in één sessie met een AI-coding-agent aan het migreren van een betalingsservice. Vroeg verkende de agent een migratiepad met een compatibiliteits-shim, wat de engineer verwierp. Vijftig beurten later, gevraagd het uiteindelijke cutover-script te schrijven, herintroduceert de agent stilletjes de shim, omdat de verkenning nog steeds in de context zit en leest als eerdere aanpak. De engineer merkt het op, beëindigt de sessie, en begint een nieuwe met een briefje van vijf regels: huidige status, gekozen aanpak, betrokken bestanden, beperkingen, volgende taak. De verse agent produceert het correcte script in één poging. Zelfde model, zelfde taak, schone context.

Veelvoorkomende misvattingen

De veelgemaakte fout is aannemen dat het model halverwege de sessie slechter werd, en dan modellen wisselen of een bug indienen. Verslechtering over lange sessies is bijna altijd de context, niet de gewichten. De test is goedkoop: formuleer de taak opnieuw in een verse sessie met alleen de relevante feiten. Als kwaliteit terugveert, vocht je tegen context rot, en de fix is sessiehygiëne in plaats van een ander model.

FAQ

Hoe weet ik dat een sessie is verrot? Let op de klassieke tekens: de agent doet verworpen aanpakken herleven, spreekt zijn eigen recente beweringen tegen, vraagt naar dingen die al besloten zijn, of bewerkt bestanden op basis van verouderde versies. Elk hiervan betekent dat het transcript tegen je werkt.

Lost compactie context rot op? Grotendeels. Het samenvatten van de sessie en het weggooien van de ruwe geschiedenis verwijdert doodlopende paden en verouderde tooloutput, waar het meeste van de rot zit. De ruil is dat een slechte samenvatting een dragend detail kan verliezen, dus horen kritieke beperkingen thuis in een CLAUDE.md-achtig staand bestand, niet alleen het transcript.

Is context rot hetzelfde als het contextvenster vol raken? Nee. De vensterlimiet raken is een harde capaciteitsmislukking. Context rot verlaagt kwaliteit lang voor de limiet, vaak wanneer het venster nog maar half vol is, omdat het probleem de inhoud van de context is, niet zijn grootte.

Bronnen

1. Modarressi et al., arXiv (NoLiMa). "11 van de 13 modellen vielen onder 50% van short-context-baselines bij 32K tokens; GPT-4o daalde van 99,3% naar 69,7%." https://arxiv.org/abs/2502.05167. Geraadpleegd augustus 2026.
2. Chroma Research. "Context Rot-rapport: 18 modellen geëvalueerd; prestaties verslechteren naarmate inputlengte groeit, één afleider verlaagt nauwkeurigheid." https://www.trychroma.com/research/context-rot. Geraadpleegd augustus 2026.