LiteLLM

LiteLLM は複数モデルを扱うチーム向けのオープンソースな接続・ルーティング層で、提供元やプロトコル、課金体系が異なるモデルサービスを一つの統一インターフェースにまとめ、アプリごとに個別の適合コードを書かずに済むようにする。完成品の画面ではなく基盤部品に近く、モデル間のフォールバックやルーティング、上限設定、ログ、コストの可視化に使われる。