AI・ガジェット辞典

AIとガジェットの言葉を、わかりやすく

コンテキストウィンドウとは?

AI用語
📏
コンテキストウィンドウ

一言でいうと: AIが一度に読み込んで処理できる情報量の上限のこと

コンテキストウィンドウの基本

コンテキストウィンドウとは、AIが一度の処理で読み込んで考慮できる情報量の上限のことです。この範囲内にある文章は「今の会話の文脈」として扱われ、範囲を超えた内容は忘れられてしまいます。たとえば、長い会議の議事録を読み込ませて質問したり、長文の契約書を要約させたりする場合、この上限が大きいほど一度に扱いやすくなります。単位はトークンで表され、製品によって数万から数百万まで幅があります。ただし、上限が大きいことと、内容を正確に使いこなせることは別問題で、情報が多すぎると重要な部分を見落とすこともあります。長文を扱うAIサービスを比較する際の、重要な指標の一つです。会話の途中でAIの反応がずれてきたら、この上限に近づいているサインかもしれません。長い資料を扱う作業では、最初に確認しておきたい仕様の一つです。

ここがポイント

会話の記憶との関係

チャットAIが前のやり取りを踏まえて答えられるのは、会話履歴がコンテキストウィンドウの範囲内に収まっているためです。会話が長くなって上限を超えると、最初の方の指示を忘れたような反応になることがあります。新しい話題では新規の会話を始めるほうが確実な場合もあります。

長文処理での使い分け

本一冊分の資料を丸ごと扱えるサービスもあれば、短いやり取り向けの軽快なサービスもあります。扱いたい文書の長さや作業の性質に合わせて選ぶことが、実用上の大切なポイントになります。上限の大きさは料金や速度にも関係するため、数字の大きさだけで選ばないことが肝心です。

大きければ良いわけではない

範囲が広いほど、処理に時間やコストがかかる傾向があります。また、大量の情報の中から必要な部分を正確に拾い上げる精度はモデルごとに差があり、上限の大きさと実力は必ずしも比例しません。適した情報量で使うほうが、結果が安定することもあります。用途に合ったバランスが大切です。

使うときのコツ・注意点

大事な指示は、長い会話の最初に一度書いたきりにせず、要所で繰り返すと安定します。また、上限に近い使い方では、回答が遅くなったり途中で切れたりすることもあります。機密文書を丸ごと読み込ませる場合は、サービスの情報取り扱い方針を事前に確認しましょう。重要な条件は資料の冒頭と末尾の両方に置くと、拾われやすくなるとも言われます。

関連する用語