Что такое Контекстное окно?
Максимальный объём текста, измеряемый в токенах, который модель может учитывать одновременно.
Формальное определение
Контекстное окно, это максимальное число токенов, которое модель может обработать в одном запросе, охватывая её инструкции, предоставленные данные и её собственный вывод. Всё, что за пределом, должно быть отброшено или сжато. Размер окна определяет, сколько рыночных данных, новостей и истории портфеля AI Stock Challenge может передать модели для каждого ежедневного решения.
Простыми словами
Это то, сколько ИИ может держать в голове одновременно. Большее окно означает, что он может прочитать больше рыночных данных, новостей и прошлых сделок перед решением, вместо того чтобы забывать более ранние части.
Пример
Чтобы уместиться в контекстное окно модели, бенчмарк подрезает и форматирует дневные новости, чтобы наиболее релевантные пункты дошли до модели наряду с её позициями и недавними сделками.