2026年10月23日、AWSはオープンソースブログで、カリフォルニア大学バークレー校と共同開発したエージェントランタイム「Infinity」を紹介した。エージェントを常にマシンを占有する常駐プロセスとして扱うのではなく、ツール呼び出しを中断点として扱う。エージェントはツール呼び出しを行うと一時停止し、会話履歴を保存して、結果が戻ってきたら再開する。プログラミングにおけるスタックレスコルーチンに近い考え方だ。この変更が狙うのは、エージェントの最もコストのかかる側面である。時間の多くは推論ではなく、ツールや承認、外部イベントの待ち時間に費やされている。
一時停止で実際に節約できるもの
従来の方法では、結果を待っているエージェントもプロセスとメモリを占有し続けるため、待ち状態のタスクが増えるとマシンが先に埋まってしまう。Infinityは待ち状態を片付け、軽量な記録だけを残し、再開時に会話履歴と未処理の作業をつなぎ直す。開発者にとって呼び出し方はほとんど変わらない。変わるのはランタイムの「待ち」に対する扱いであり、待つことはリソースの占有ではなくなる。
公式の数字は印象的だ。メモリ8GBのRaspberry Pi 5上で、Infinityは7万5000のエージェントを同時に扱え、アイドル状態のエージェント1体あたり約100KBしか使わない。ただし2つのコストを分けて考える必要がある。この数字は「同時に止めておける数」であって、「同時に速く動かせる数」ではない。モデル呼び出し自体のコストと遅延は残る。
サーバーレスでも動く
Infinityはローカルプロセスでも、Lambdaのようなサーバーレス環境でも動く。SQSやAurora DSQLと組み合わせれば、エージェントは待っている間コンピュートを消費せず、結果が届いたときに目覚める。ビルドの完了待ち、人の承認待ち、外部システムからの返信待ちといった、長く続きイベント駆動のタスクに向いており、「待つためだけに」マシンを長期で借りる必要がなくなる。
マルチエージェントの連携もランタイムに組み込まれている。Infinityはspawn_threadやreport_to_parentといった組み込みツールを提供し、親エージェントが子スレッドを生み出し、子スレッドが結果を報告できる。イベントは既定で子スレッドで処理されるため、中間結果のすべてが親エージェントのコンテキストに詰め込まれることはない。モデルAPI自体が非同期イベントに対応していない場合、合成ツール呼び出しでイベントを届ける。
誰が先に恩恵を受け、何に注意すべきか
まず恩恵を受けるのは、エージェントの数が多く待ち時間が長いチームだ。カスタマーサービス、監視、バッチ処理、長期のフォローアップ業務では、ピーク時の同時実行数に合わせて常駐キャパシティ全体を確保する必要がなくなる。個人開発者にとっても、Raspberry Pi規模のデモは試すハードルを下げる。
ただし3点に注意したい。一時停止で節約できるのは待ち時間の計算リソースであり、モデル呼び出し料金ではない。非同期フローが増えれば、子スレッドの停滞やイベントの遅延の調査は、分散タスクの追跡に近くなる。そしてエージェントの判断の質、ツールの権限、安全の境界は、依然として上位の設計とレビューに委ねられる。Infinityは「エージェントが賢くなった」のではなく、「エージェントを待たせても採算が合う基盤」と理解するのが正確だ。
