コンテキストウィンドウとは
「コンテキストウィンドウとは、モデルがリクエストを処理して回答を生成する際に利用できる、上限のある領域です。そこには、指示、ユーザーのメッセージ、過去の会話ターン、添付または検索された文書、ツールの結果、生成されたテキストなどを含めることができます。
プロバイダーは、この容量をトークン数で測定します。具体的な数え方は異なります。あるAPIはコンテキスト全体の上限を示し、別のAPIは入力上限と、別個の最大出力長を示す場合があります。いずれにしても、このウィンドウが扱うのは推論中の現在利用できる情報です。モデルが事実を恒久的に保存する記憶領域ではありません。
知識カットオフとは
「AIの知識カットオフ」とは、モデルが学習済みの知識としてどれほど最新の情報を持つかを要約した、プロバイダー公表の日付です。これは、デプロイ前にモデルの重みに符号化されたパターンや事実に関するものです。
この日付は、明確な境界ではなく目安として扱ってください。学習データには、異なる時期に収集された複数の情報源が混在しています。また、トピックによって網羅度も異なります。プロバイダーによっては、知識が信頼できるとみなされる時点と、より広い学習データのカットオフを区別しています。
実際の違い
コンテキストウィンドウが答えるのは、次の問いです：このリクエストで、モデルにどれだけの情報を与えられるか？
知識カットオフが答えるのは、次の問いです：情報源を与えなくても、モデルが知っている可能性のある情報はどれほど新しいか？
この2つは独立した特性です。コンテキストウィンドウが大きくても、カットオフが古いモデルはあり得ます。逆に、ウィンドウが小さくても、カットオフが新しいモデルもあります。一方を大きくしても、もう一方は変わりません。
| Dimension | Context window | Knowledge cutoff |
|---|---|---|
| What it limits | Information available in one request | Recency of trained-in knowledge |
| Usually expressed as | A number of tokens | A date |
| Set mainly by | Model and API design | Training data and provider reporting |
| Changes when you paste a document | Available space is consumed | Does not change |
| Can include current information | Yes, if current material is supplied | Not by itself |
| Persists after the request | No; applications must save and resend needed material | Yes, as part of the deployed model's weights |
| Main practical question | Will the needed material fit and remain usable? | Should the model be trusted to know this without a current source? |
具体例
ある仮想的なモデルに、20,000トークンのコンテキストウィンドウと、2025年12月の知識カットオフがあるとします。
2026年3月に公開された政策について、情報源を示さずに質問するとします。リクエスト自体はコンテキストウィンドウに十分収まります。この場合に起こり得る問題は、知識カットオフです。モデルは、その政策について学習済みの知識を持っていない可能性があります。
次に、その政策の2,000トークン分の本文を貼り付けます。テキストが現在のコンテキストウィンドウ内にあるため、モデルはカットオフ後の情報を分析できるようになります。知識カットオフが更新されたわけではありません。モデルは、このリクエストに限って一時的な根拠を受け取ったのです。
ここで、関連文書の合計が25,000トークンあるとします。この場合、文書の公開日はもはや直接の制約ではありません。制約となるのはコンテキストウィンドウです。最も関連性の高い資料を選択、分割、圧縮、要約、または検索する必要があります。
これは、次のような簡単な診断につながります：
- モデルが新しい事実を持っていないが、それを提供できる：コンテキストウィンドウを使う。
- 必要な資料が収まらない：コンテキストウィンドウの予算を管理する。
- モデルが現在の事実と大量の根拠資料の両方に基づいて回答する必要がある：両方の制約が関係する。
それぞれが重要になる場面
コンテキストウィンドウは、長い文書、長時間にわたる会話、大規模なコードベース、多数のツール結果、または検索された根拠資料を扱うときに重要です。一度に提示できる情報量と、回答のために残される余地を決めるからです。
知識カットオフは、質問が時間とともに変化する出来事、規則、価格、人、研究、ソフトウェア、その他の事実に依存するときに重要です。カットオフを確認したら、最新の情報源を探すきっかけにしてください。カットオフは、過去のあらゆる事実がモデルに存在し、正しいことを保証するものではありません。
検索や検索結果の取得を利用するシステムでは、両方が重要です。検索によって最新の資料を取得できますが、その資料もコンテキストウィンドウに入れる必要があります。その後、モデルは資料を正しく特定して利用しなければなりません。検索結果の取得は、学習済み知識の古さを補うものですが、モデルを再学習させたり、ウィンドウを無制限にしたりするものではありません。
よくある混同
「大きなウィンドウがあれば、モデルの知識が増える。」大きなウィンドウによって、情報を提供する余地が増えるだけです。モデルの重みに事実が追加されるわけではありません。
「新しいモデルなら、最新の出来事を知っている。」リリース日と知識カットオフは別のものです。モデルのドキュメントを確認したうえで、時間に敏感な主張は最新の情報源で検証してください。
「ウェブ検索を使えば、カットオフはなくなる。」検索によって、モデルが扱える新しいテキストが提供されます。ただし、基盤となる学習済み知識には依然としてカットオフがあり、モデルが検索結果の根拠を読み違えたり無視したりする可能性もあります。
「テキストが収まれば、モデルはそれを使う。」容量と注意の質は同じではありません。長いコンテキストに関する研究では、特に大きな入力の中央に埋もれた関連情報を、モデルが見落とす可能性があることが分かっています。
「カットオフより前のことはすべて知っている。」1つの日付は、複雑な学習コーパスを1つのラベルに圧縮したものにすぎません。その日付の前後を問わず、知識は不完全であったり、偏りがあったり、誤っていたりする可能性があります。
次に読むもの
トークン予算と長い入力の仕組みについては、「コンテキストウィンドウとは？」を読んでください。カットオフの日付と時間に敏感な回答の解釈については、「AIの知識カットオフとは？」を読んでください。