什么是上下文窗口
“上下文窗口是模型处理请求并生成回答时可用的有限空间。它可以包含指令、你的消息、较早的对话轮次、附加或检索到的文档、工具结果以及生成的文本。
服务提供商以 token 衡量这一容量。具体计算方式各不相同。有些 API 会说明总上下文限制，另一些则会分别列出输入限制和最大输出长度。无论哪种方式，这个窗口描述的都是推理过程中当前可用的信息，而不是模型永久保存的事实库。
什么是知识截止日期
“AI 知识截止日期是服务提供商公布的日期，用于概括模型训练所得知识的时效性。它涉及模型部署前编码在模型权重中的模式和事实。
应将这个日期视为参考，而不是一条明确的分界线。训练数据混合了不同时间收集的来源，且不同主题的覆盖情况也各不相同。有些服务提供商会区分“知识被认为可靠的截至日期”和更宽泛的训练数据截止日期。
真正的区别
上下文窗口回答的是：这次请求能向模型提供多少信息？
知识截止日期回答的是：如果不给模型提供来源，它可能知道的信息截至何时？
它们是彼此独立的属性。模型可以拥有较大的上下文窗口和较早的知识截止日期，也可以拥有较小的窗口和较新的截止日期。增加其中一个不会改变另一个。
| Dimension | Context window | Knowledge cutoff |
|---|---|---|
| What it limits | Information available in one request | Recency of trained-in knowledge |
| Usually expressed as | A number of tokens | A date |
| Set mainly by | Model and API design | Training data and provider reporting |
| Changes when you paste a document | Available space is consumed | Does not change |
| Can include current information | Yes, if current material is supplied | Not by itself |
| Persists after the request | No; applications must save and resend needed material | Yes, as part of the deployed model's weights |
| Main practical question | Will the needed material fit and remain usable? | Should the model be trusted to know this without a current source? |
一个实际示例
假设某个模型拥有 20,000 token 的上下文窗口，公布的知识截止日期为 2025 年 12 月。
你询问一项发布于 2026 年 3 月的政策，但没有提供来源。这次请求很容易装入上下文窗口。更可能的问题在于知识截止日期：模型可能没有通过训练获得这项政策的知识。
然后，你粘贴一份 2,000 token 的政策副本。由于这段文字位于当前上下文窗口内，模型现在可以分析截止日期之后的信息。它的知识截止日期并未改变；模型只是针对这次请求获得了临时证据。
现在假设相关文档总计 25,000 token。文档的发布日期不再是直接限制因素，上下文窗口才是。你必须选择、拆分、压缩、总结或检索最相关的材料。
由此可以得出一个简单的诊断方法：
- 模型缺少某个最新事实，但你可以提供给它：使用上下文窗口。
- 所需材料无法全部装入：管理上下文窗口预算。
- 模型必须依据最新事实和大量证据作答：两种限制都很重要。
两者分别在何时重要
处理长文档、持续时间较长的对话、大型代码库、大量工具结果或检索到的证据时，上下文窗口很重要。它决定一次能够呈现多少内容，以及还剩多少空间用于回答。
当问题依赖会随时间变化的事件、规则、价格、人物、研究、软件或其他事实时，知识截止日期很重要。截止日期应促使你寻找当前来源，而不应被视为所有更早事实都已包含且准确的保证。
在使用搜索或检索的系统中，两者都很重要。搜索可以获取当前材料，但这些材料仍必须进入上下文窗口。然后，模型还必须正确识别并使用它们。检索可以应对训练所得知识过时的问题，但不会重新训练模型，也不会让窗口变得无限大。
人们容易混淆的地方
“更大的窗口会让模型拥有更多知识。”更大的窗口只是让你有更多空间提供信息，并不会向模型权重中添加事实。
“新模型知道最新事件。”发布日期和知识截止日期是两回事。查看模型文档，然后用当前来源核实时效性较强的主张。
“联网搜索会消除截止日期。”搜索会为模型提供新鲜文本供其处理。模型原有的训练所得知识仍有截止日期，而且模型仍可能误读或忽略检索到的证据。
“只要文本装得下，模型就会使用它。”容量不等于注意质量。长上下文研究发现，模型可能会漏掉相关信息，尤其是当信息埋藏在大段输入的中间位置时。
“截止日期之前的一切都已知晓。”单一日期只是把复杂混杂的训练语料压缩成一个标签。无论在该日期之前还是之后，知识都可能不完整、不均衡或错误。
接下来阅读
阅读什么是上下文窗口？了解 token 预算和长输入的运作机制。阅读什么是 AI 知识截止日期？了解如何解读截止日期和时效性回答。