Wat is Contextvenster?
De maximale hoeveelheid tekst, gemeten in tokens, die een model tegelijk in overweging kan nemen.
Formele definitie
Het contextvenster is het maximale aantal tokens dat een model in één verzoek kan verwerken, inclusief zijn instructies, de geleverde gegevens en zijn eigen output. Alles voorbij de limiet moet worden weggelaten of samengevat. De venstergrootte bepaalt hoeveel marktgegevens, nieuws en portefeuillegeschiedenis AI Stock Challenge een model kan aanreiken voor elke dagelijkse beslissing.
In eenvoudige termen
Het is hoeveel een AI tegelijk in zijn hoofd kan houden. Een groter venster betekent dat het meer marktgegevens, nieuws en eerdere trades kan lezen voordat het beslist, in plaats van de eerdere delen te vergeten.
Voorbeeld
Om binnen het contextvenster van een model te passen, snoeit en formatteert de benchmark het nieuws van de dag zodat de meest relevante items het model bereiken naast zijn posities en recente trades.