Das Context Window bezeichnet die maximale Menge an Text, die ein Sprachmodell innerhalb einer Anfrage gleichzeitig verarbeiten kann. Gemessen wird es in Tokens (gröbere Silben), die Größe variiert je nach Modell erheblich – von wenigen tausend bei älteren Modellen bis zu mehreren hunderttausend Tokens bei aktuellen Modellen wie Claude oder Gemini.
Alles, was über das Context Window hinausgeht, wird nicht mehr berücksichtigt. Für Aufgaben mit vielen Dokumenten, langen Chat-Verläufen oder umfangreichen Code-Kontexten ist die Fenstergröße deshalb kaufentscheidend.
Bei der Auswahl des passenden Modells und beim Aufbau effizienter Prompt-Architekturen unterstützen wir euch im Bereich Künstliche Intelligenz.