ざっくり言うと

コンテキストウィンドウとは、AIが1回の処理で参照できる情報量の上限のことです。

これまでの会話、貼り付けた文章、最初に与えた指示、AIに使わせる道具（ツール）の情報、そしてこれから書く答え。この全部が、同じ枠を分け合います。

枠の目盛りになるのがトークンです。AIが文章を細かく区切ったときの、かたまりの数だと思ってください。

ChatGPT・Claude・Geminiなどで使われるLLM（大規模言語モデル）には、その場で見ていられる広さに上限があります。

ただし、APIで公開されているモデルの上限と、各チャットサービスで実際に使える会話履歴の長さは、同じとは限りません。

イメージ

人間でいう短期記憶に近いものです。AIは過去のやりとりを全部覚えている超人ではなく、いま机に載っているぶんしか見えていません。

だからといって、机の広いモデルなら何でも丸ごと入れればよい、というわけでもありません。広い机でも、書類を雑に山積みにしたら探しにくいですよね。

長い文章を渡すときは、何をしてほしいのか、どこを重点的に見てほしいのかを先に書くほうが、AIも迷いにくくなります。

正確には

コンテキストウィンドウは、AIを開発している各社が、公式ドキュメントではっきり定義している言葉です。

  • OpenAIは、モデルごとのページで、上限と最大出力を別々の項目として公開しています。項目名は「Context window」と「Max output」で、使うときはこの2つとも確認してください。
  • Anthropic（Claudeの開発元）は、モデルが応答を作るときに参照できるテキスト全体として説明しています。これから生成する応答も、その中に含まれます。
  • Google（Geminiの開発元）も、長いコンテキストを扱える設計を解説しています。ページの名前は「Long context」です。

どの会社の説明にも共通しているのは、この広さがモデルごとに違うことです。同じ会社の製品でも、モデルのバージョンや種類が変われば、上限も変わります。

具体的な数字を覚えなくていい理由

上限は、会社によっても、モデルによっても変わります。契約している窓口や、使う機能によって変わることもあります。

さらに、1回に出力できるトークン数の上限が、コンテキストウィンドウとは別に決められている場合もあります。

文字数で数えると、ずれます

トークンは、AIが文章を区切るときの単位です。同じ文字数でも、言語や記号の使い方、プログラムのコードかどうか、モデルごとの区切り方によって、トークン数は変わります。

上限に近い量を扱う仕事では、文字数から換算せず、使っているサービスが用意しているトークンの計測機能で確かめるほうが確実です。

上限に近づくと、何が起きる？

上限に近づいたときの振る舞いは、モデルとサービスの作りしだいです。よくあるのは、次の4つです。

  • 入力を受け付けず、エラーになる
  • 文章を作っている途中で上限に達し、そこで止まる
  • 古い履歴や、道具の実行結果が枠から外される
  • これまでの会話が要約・圧縮されて引き継がれる

たとえばAnthropicのAPIでは、モデルの世代などによって、入力と最大出力の合計が上限を超えたときの止まり方やエラーの条件が違います。

一方、チャット画面のほうは、履歴の管理や圧縮が別のしくみで行われることもあります。ですから「長い会話なら、必ず古いほうから消える」とは限りません。

長い会話の途中で、最初に伝えた条件が抜け始めることがあります。そんなときは、必要な前提だけを短くまとめて、もう一度渡し直す手があります。

ただし、AIに要約させた結果だけを見て、上限に達したと決めつけることはできません。モデルを取り違えていた、指示があいまいだった、といった別の原因もあり得ます。

長い文章を渡す前には、先頭に小さなメモを添えておくと安定します。

  • 何をしてほしいのか
  • どの範囲を優先して読んでほしいのか
  • 答えを表・箇条書き・文章のどれで出してほしいのか

机に書類を置く前に、付箋を貼っておくイメージです。

使う場面

気にしたほうがいい場面

机に全部を載せるのではなく、必要な書類を必要なときに取りに行く。このやり方がRAG（検索拡張生成）で、コンテキストウィンドウを効率よく使う仕組みのひとつです。

長いコンテキストを扱えるモデルでも、その中から目当ての情報を探し当てる精度は一様ではありません。ですから、扱う内容によって使い分けます。

関連用語

やってみよう

自分のAIの上限を、公式で1度だけ確かめる

会話が長くなって、AIの答えがちぐはぐになってきたら、新しいチャットを開いてみてください。必要な前提だけを短くコピペし直すのが、いちばん手っ取り早い対処です。