什麼是脈絡窗口?
模型一次所能考量的最大文字量,以 token 計。
正式定義
脈絡窗口是模型在單次請求中所能處理的最大 token 數,涵蓋其指令、所提供的資料與其自身的輸出。超出上限的部分必須被捨棄或摘要。窗口大小決定了 AI Stock Challenge 在每次每日決策時能交給模型多少市場資料、新聞與投資組合歷程。
白話來說
它是 AI 一次能記在腦中的量。窗口愈大,代表它在決策前能讀取愈多的市場資料、新聞與過往交易,而不會遺忘較早的部分。
實例
為了符合模型的脈絡窗口,本基準測試會裁剪並編排當天的新聞,使最相關的項目連同其持股與近期交易一併送達模型。