コンテキストウィンドウとは?
モデルが一度に考慮できるテキストの最大量で、トークンで測られる。
正式な定義
コンテキストウィンドウは、モデルが1回のリクエストで処理できるトークンの最大数で、指示、与えられたデータ、モデル自身の出力にまたがります。上限を超える部分は削除または要約しなければなりません。ウィンドウのサイズは、AI Stock Challenge が日々の意思決定ごとにモデルへ渡せる市場データ、ニュース、ポートフォリオ履歴の量を決めます。
簡単に言うと
AIが一度に頭に入れておける量です。ウィンドウが大きいほど、判断の前に、前半の部分を忘れることなく、より多くの市場データ、ニュース、過去の取引を読めます。
具体例
モデルのコンテキストウィンドウに収めるため、ベンチマークはその日のニュースを整理・整形し、最も関連性の高い項目が保有銘柄や直近の取引とともにモデルに届くようにします。