Definition
コンテキストウィンドウは、単一の対話におけるAIモデルのメモリの動作限界を定義します。これは、モデルが過去の会話履歴、ドキュメントのテキスト、または入力データのどの程度に注意を向けることができるかを決定します。
Summary
推論またはトレーニング中に言語モデルが同時に処理し、考慮できるテキストまたはトークンの最大量。
Key Concepts
- トークン制限
- アテンションメカニズム
- メモリ制約
- 入力長
Use Cases
- 長文書の要約
- チャットボットでの会話履歴の維持
- 大規模なコードベースの分析