コンテキストウィンドウ

ざっくり言うと

ChatGPT・Claude・Gemini など、いま広く使われている LLM(大規模言語モデル) には、必ずこの「覚えられる広さ」の上限が設定されています。

イメージ

正確には

コンテキストウィンドウは、各社の公式ドキュメントでも明確に定義されている用語です。

• OpenAI は、モデルごとのページで「context window(コンテキストウィンドウ)」というスペックを公開しています。これは 入力と出力を合わせたトークン数の上限 を表します。
• Anthropic(Claude の開発元)は、公式ドキュメントで「コンテキストウィンドウとは、モデルが一度のリクエストで処理できるトークン数」と定義しています。
• Google(Gemini の開発元)は、長いコンテキストを扱える設計を「long context」として解説しています。

ポイントは、コンテキストウィンドウのサイズは モデルごとに違う ということです。同じ会社でも、モデルのバージョンや種類によって上限が変わります。

サイズはどれくらい?

各社・各モデルで大きく異なりますが、2020年代半ば時点では 数万トークン〜数百万トークンのレンジ で展開されています。

トークンって何トークン?

トークン はAIが文章を区切る単位で、日本語の場合「1文字 ≒ 1トークン弱」程度のざっくり感覚で考えておくと大きくは外しません(モデルによって厳密には違います)。つまり、

• 数万トークン → 文庫本数十ページ分くらい
• 数十万トークン → 文庫本1冊分くらい
• 数百万トークン → 分厚い本を何冊か机に積めるレベル

…という大まかなスケール感です。

超えるとどうなる?

コンテキストウィンドウを超えると、ツール側で次のいずれかの挙動になります。

• 古いメッセージから自動で切り捨て(多くのチャットUIの挙動)
• エラーになって送れない(API直叩きの場合)
• 要約に置き換えて圧縮(ツール側が裏で工夫している場合)

どのケースでも共通するのは、「AIが前の話を覚えていない状態になる」という結果です。長い会話の途中で AI が急に「設定を忘れた」「序盤の指示を無視し始めた」と感じたら、机から落ちている可能性が高いです。

長文を渡す前には、先頭に小さなメモを付けると安定します。

• 何をしてほしいか
• どの範囲を優先して読んでほしいか
• 出力を表・箇条書き・文章のどれにしたいか

机に書類を置く前に、付箋を貼るイメージです。

どんな場面で気にすればいい?

なお、コンテキストウィンドウを補う仕組みとして RAG(検索拡張生成) という技術もあります。机に全部載せるのではなく「必要な書類を、必要なタイミングで机に取りに行く」やり方です。長文を扱う実務では、こちらと組み合わせるケースも増えています。

やってみよう

会話が長くなって AI の応答がおかしくなってきたら、新しいチャットを始めて、前提だけ簡潔にコピペし直すのが一番手っ取り早い対処法です。机をいったんリセットして、必要な書類だけ載せ直すイメージです。