コンテキストエンジニアリングとは、大規模言語モデルが毎回の呼び出し時にコンテキストウィンドウ内で目にする内容を決める実践である。システム指示、ツール定義、検索で得た資料、会話履歴、記憶、ツールが返した結果などが含まれ、目的はモデルが各ステップでちょうど足りる高シグナルな情報を得られるようにすることだ。この言い方は2025年6月に広まり、Anthropicは同年9月のガイドで、推論中に最適なトークン集合を選び維持するための一連の戦略と定義した。
プロンプトエンジニアリングやRAGとの違い
三つの範囲は異なる。プロンプトエンジニアリングは一つの指示をうまく書くことだけを担う。RAGは知識ベースから関連する数件の資料を検索してウィンドウに入れることだけを担う。コンテキストエンジニアリングは、すべての内容が毎ターンに出入りすることを管理する。どんな指示を書くか、どんな資料を検索するか、会話を何ターン残すか、古い記録をどう圧縮するか、ツール結果を使い終わったら削除するかどうか。LangChainは2025年7月、よく使われる手法を書き込み、選択、圧縮、分離の四つに整理した。
ウィンドウが大きいほど仕事ができるわけではない。Chromaは2025年7月に18のモデルをテストし、入力が長くなるほどモデルの性能が不安定になることを発見した。これがよく言われるコンテキストの腐敗である。しかもトークンはコストそのもので、ウィンドウを詰め込むことは金を多く払って品質を下げることに等しく、選別そのものが節約になる。
よくある三つの誤解
一つ目の誤解は、プロンプトエンジニアリングと同一視することだ。良いプロンプトを書くのはその一部にすぎず、ツールや記憶、履歴も管理しなければならない。二つ目は、資料を詰め込めば詰め込むほど良いという誤解で、シグナルの低い内容が重要な情報をモデルの注意の届かない場所へ押しやってしまう。三つ目は、一度設定すれば放っておいてよいという誤解で、エージェントは毎ターン新しいツール結果と会話を生み出すため、コンテキストは毎ターン整理し直さなければ、走るほどずれていく。
いつ取り組む価値があるか
複数ターンのエージェントが最も必要とする。たとえばカスタマーサービスの助手は、毎ターン、ユーザーの現在の質問、注文状況、直近数ターンの会話だけを残し、古いチケット記録は要約に圧縮し、使い終わったツール結果は速やかに削除する。一回きりの質問や固定テンプレートの生成には不要で、プロンプトを明確に書けば十分だ。判断方法は簡単だ。タスクは複数ターンか、ツールを使うか、履歴は増え続けるか。三つのうち二つに当てはまれば、コンテキストを真剣に設計する価値がある。