Het context window is de maximale hoeveelheid tekst die een AI-model tegelijk kan verwerken in een enkel gesprek of verzoek. Alles wat je typt — inclusief de eerdere berichten in het gesprek en het antwoord dat het model geeft — telt mee voor dit venster. Als het venster vol is, valt de vroegste informatie weg.

De grootte van het context window wordt gemeten in tokens en varieert sterk per model. Sommige modellen hebben een context window van een paar duizend tokens, terwijl modernere modellen honderdduizenden tokens aankunnen — genoeg voor een heel boek.

Een groter context window betekent dat het model meer van een gesprek kan onthouden en langere documenten in een keer kan verwerken. Dit is cruciaal voor taken zoals het samenvatten van lange rapporten of het analyseren van volledige codebases.