AI-skolan
Context window (kontextfönster) är den maximala mängd text — mätt i tokens — som en AI-modell kan beakta på en gång vid ett givet tillfälle. Allt som faller utanför kontextfönstret "glömmer" modellen, vilket är en grundläggande begränsning. Moderna modeller har kontextfönster på från 8 000 till över en miljon tokens, vilket möjliggör behandling av allt längre dokument och konversationer.
Exempel
Om du försöker klistra in en hel bok i en AI med ett litet kontextfönster kommer den att tappa information från de tidiga kapitlen när den läser de senare. En modell med ett kontextfönster på 200 000 tokens kan däremot hålla hela romanen i "minnet" och svara på frågor om specifika scener och karaktärsutveckling längs hela berättelsen.
No items found.