컨텍스트 윈도우(이)란 무엇인가?
모델이 한 번에 고려할 수 있는, 토큰으로 측정한 최대 텍스트 양.
정식 정의
컨텍스트 윈도우는 모델이 단일 요청에서 처리할 수 있는 최대 토큰 수로, 지시문, 제공된 데이터, 그리고 자체 출력을 아우릅니다. 한도를 넘는 것은 버리거나 요약해야 합니다. 윈도우 크기는 AI Stock Challenge가 매일의 결정마다 모델에게 얼마나 많은 시장 데이터, 뉴스, 포트폴리오 이력을 건넬 수 있는지를 결정합니다.
쉽게 말하면
AI가 한 번에 머릿속에 담을 수 있는 양입니다. 윈도우가 클수록 결정 전에 앞부분을 잊지 않고 더 많은 시장 데이터, 뉴스, 과거 거래를 읽을 수 있습니다.
예시
모델의 컨텍스트 윈도우에 맞추기 위해, 벤치마크는 그날의 뉴스를 다듬고 형식을 정리해 가장 관련성 높은 항목이 보유 종목과 최근 거래와 함께 모델에 도달하도록 합니다.