コンテキストウィンドウ
Context Window
コンテキストウィンドウとは、LLMが一度に処理できる入力と出力の合計トークン数の上限。この制約を理解し適切に管理することが、AI活用の精度と効率に直結する。
コンテキストウィンドウの定義
コンテキストウィンドウ(Context Window)とは、大規模言語モデル(LLM)が一度の推論で参照・生成できるテキスト量の上限を指す。トークン数で測定され、入力(プロンプト+コンテキスト)と出力(AIの応答)の合計がこの上限に収まる必要がある。GPT-4 Turboが128Kトークン、Claude 3.5が200Kトークン、Gemini 1.5 Proが100万トークンなど、モデルによって大きく異なる。コンテキストウィンドウのサイズはLLMの実用性を左右する重要な仕様パラメータである。
あなたのAI協働設計力は偏差値いくつ?
AI偏差値テストで6つの能力を10分で無料診断できます。
コンテキストウィンドウが重要な理由
コンテキストウィンドウは、AIに与えられる「作業記憶」に相当する。ウィンドウが大きいほど、長い文書の要約、複数資料の横断分析、長い会話履歴の保持が可能になる。逆にウィンドウが不足すると、過去の発言を忘れる、長文を途中で切り捨てる、という問題が生じる。ビジネスにおいては、契約書レビュー、議事録分析、コードベース全体の理解など、大量のコンテキストを要するタスクでこの制約が顕著になる。コンテキストウィンドウの大きさはモデル選定の重要な判断基準となる。
この用語を知っているあなたは、AI活用力が高いかもしれません
10分の無料テストで、あなたのAI偏差値を測定しませんか?
コンテキストウィンドウの効率的な活用法
限られたコンテキストウィンドウを効率的に活用するテクニックがいくつかある。第一に、RAG(Retrieval-Augmented Generation)により必要な情報だけをコンテキストに注入する。第二に、ドキュメントの要約や圧縮を前処理として行う。第三に、会話履歴のうち重要な部分のみを保持するスライディングウィンドウ方式を採用する。第四に、タスクを分割して段階的に処理するチェイニングを用いる。これらの手法を組み合わせることで、コンテキストウィンドウの物理的な制約を超えた高品質なAI活用が可能になる。
AI偏差値テストとの関連
この概念は、AI偏差値テストの以下の測定次元と関連しています。
この知識が特に重要な職種
よくある質問
Q.コンテキストウィンドウが大きいモデルは常に優れている?
必ずしもそうではありません。コンテキストウィンドウが大きくても、入力が長くなると推論速度が低下し、コストも増加します。また「Lost in the Middle」問題として、中間部分の情報を見落とす傾向が報告されています。タスクの要件に応じた適切なモデル選定が重要です。
Q.コンテキストウィンドウとメモリの違いは?
コンテキストウィンドウは1回の推論で扱える範囲であり、セッションをまたいだ記憶は含みません。一方「メモリ」は、過去の会話や好みを長期的に保持する仕組みで、ベクトルデータベースやプロフィール情報として別途管理されます。
SalesNow で働く
データとAIで「働く」を変える仲間を募集中
1,400万件の企業データベース × AI。データAIカンパニーで新しいキャリアを。
あなたのAI偏差値を測ってみませんか?
OECD/WEF準拠の6次元フレームワークで、あなたのAI活用力を10分で診断。