Czym jest Okno kontekstu?
Maksymalna ilość tekstu, mierzona w tokenach, którą model może rozważyć naraz.
Formalna definicja
Okno kontekstu to maksymalna liczba tokenów, którą model może przetworzyć w pojedynczym żądaniu, obejmująca jego instrukcje, dostarczone dane i jego własny wynik. Wszystko powyżej limitu musi zostać odrzucone lub streszczone. Rozmiar okna określa, ile danych rynkowych, wiadomości i historii portfela AI Stock Challenge może przekazać modelowi przy każdej codziennej decyzji.
Prościej mówiąc
To, ile AI może utrzymać w głowie naraz. Większe okno oznacza, że może odczytać więcej danych rynkowych, wiadomości i przeszłych transakcji przed decyzją, zamiast zapominać wcześniejsze fragmenty.
Przykład
Aby zmieścić się w oknie kontekstu modelu, benchmark przycina i formatuje dzienne wiadomości, tak by najbardziej istotne pozycje trafiły do modelu obok jego pozycji i ostatnich transakcji.