コンテキストウィンドウ
こんてきすとうぃんどう ・ 別表記: Context Window / コンテキスト長
コンテキストウィンドウとは、AIが一度に扱える情報量の上限のことで、トークン数で表されます。会話や文書をどこまで覚えていられるかを決めます。意味・特徴を解説します。
コンテキストウィンドウとは
コンテキストウィンドウとは、AIが一度に扱える情報量の上限のことです。扱える量はトークン数で表されます。
簡単に言うと、AIの「作業机の広さ」のようなものです。机に一度に広げられる資料の量に限りがあるように、AIも一度に参照できる情報の量に上限があります。その上限がコンテキストウィンドウです。
コンテキストウィンドウは何のためのものか
AIは、与えられた情報を一度にすべて無制限に扱えるわけではありません。どこまでの情報を同時に参照できるかという範囲を決めておく必要があります。
コンテキストウィンドウは、AIが一度に考慮できる情報の範囲を示すものです。この範囲に収まる情報をもとに回答が作られるため、長い会話や大きな文書を扱えるかどうかを左右する重要な目安になります。
コンテキストウィンドウの主な特徴
トークン数で表される
コンテキストウィンドウの大きさは、文章を小さく区切った単位である「トークン」の数で表されます。「○○トークンまで」のように示され、入力と出力を合わせた量に上限がかかります。
上限を超えると古い情報が外れる
会話や文書が上限を超えると、古い情報は範囲から外れ、参照されにくくなります。長いやり取りで前半の内容を「忘れた」ように見えるのは、このためです。
大きいほど長い文章を扱える
コンテキストウィンドウが大きいほど、長い文書や長い会話を一度に扱えます。一方で、一度に多くの情報を処理するため、相応の計算コストがかかります。
どのような場面で使われるのか
- 長い文書をまとめて要約・分析させたいとき
- 長い会話を、前半の内容を保ったまま続けたいとき
- 大きなコードや資料を一度に読み込ませたいとき
- 与えられる情報量の上限を確認したいとき
これらの場面では、コンテキストウィンドウの大きさが扱える範囲を決めます。
具体的な例
長い文書の要約
数万字の資料を一度に要約させたい場合、その量がコンテキストウィンドウに収まる必要があります。収まりきらないと、一部しか考慮されません。
長い会話の継続
やり取りが長く続くと、初めのほうの発言が上限から外れ、AIがその内容を参照しなくなることがあります。
関連する用語
コンテキスト
AIが回答時に参照する情報のまとまりです。コンテキストウィンドウは、その量の上限を指します。
トークン
AIが文章を処理するときの最小単位です。コンテキストウィンドウの大きさはこの数で表されます。
大規模言語モデル(LLM)
大量の文章で学習し、自然な文章を理解・生成するモデルです。モデルごとにコンテキストウィンドウの大きさが異なります。
プロンプト
AIに与える指示や質問の文です。プロンプトもコンテキストウィンドウの範囲に含まれます。
似た用語との違い
「コンテキスト」は、AIが参照する情報のまとまり(中身)そのものを指します。これに対して「コンテキストウィンドウ」は、そのコンテキストを一度にどれだけ扱えるかという量の上限を指します。中身がコンテキスト、入れ物の大きさがコンテキストウィンドウ、と考えると整理しやすくなります。
利点と注意点
利点
- 大きいほど、長い文書や会話を一度に扱える
- 一度に参照できる情報が増え、前後関係をふまえた回答がしやすい
注意点
- 上限を超えた古い情報は参照されにくくなる
- 大きいほど一度の処理にかかる計算コストが増える傾向がある
まとめ
コンテキストウィンドウとは、AIが一度に扱える情報量の上限のことで、トークン数で表されます。
主に、長い会話や大きな文書をどこまで一度に扱えるかを決める目安として使われます。
初心者のうちは、「コンテキストウィンドウはAIの作業机の広さのようなもので、大きいほど長い文章を一度に扱えるが、超えた分は参照されにくくなる」と理解しておけば十分です。