上下文視窗（Context Window）是什麼？

上下文視窗是語言模型產生回應時能參考的全部內容範圍，包含系統指令、對話紀錄、工具結果以及模型自己的回答，以 token 計算。Anthropic 文件將它比喻為模型的「工作記憶」，並指出內容越長，準確度與回想能力可能下降，稱為 context rot。

基礎概念Context Window上下文長度脈絡視窗上下文窗口Context Length上下文長度限制

一句話說明

語言模型在一次回應中能同時「看到」的文字總量上限，像是模型的工作記憶。

上下文視窗怎麼運作？

1. 每次請求時，系統指令、過去對話、附件與工具結果都會放進上下文。
2. 這些內容換算成 token，加上預計輸出的長度，不能超過模型上限。
3. 超過上限時，請求可能被拒絕或回答被截斷。
4. 應用程式常用摘要、刪除舊訊息或 RAG 只放相關資料來節省空間。

實際例子

• 上傳一份很長的 PDF 請 AI 摘要，檔案內容會占用上下文。
• 長時間聊天後，AI 似乎「忘記」前面內容，常與上下文管理有關。
• 程式代理讀進大量程式碼檔案時，需要挑選重要檔案放進上下文。

常見誤解

常見問題

上下文視窗和訓練資料有什麼不同？

訓練資料是模型訓練時學過的大量文字，影響它的基本知識；上下文視窗則是每次對話時臨時放進去的內容，只在這次回答中被參考。

內容超過上下文視窗會發生什麼事？

依服務而定：API 可能直接回傳錯誤、在達到上限時停止輸出，或由應用程式自動摘要、捨棄較舊的對話。所以長文件常搭配分段處理或 RAG。

延伸閱讀

• 如何用 Python 計算 Token 數？

相關名詞

詞元、檢索增強生成、大型語言模型、提示工程

參考來源

• Claude 官方文件：Context windows

查核日期：2026-09-26。API：/api/term?id=context-window