LiteLLM

LiteLLM 是面向多模型团队的开源接入与路由层，把不同厂商、不同协议、不同计费口径的模型服务收进一个统一接口，让应用不必各写一套适配。它更像基础设施组件而非现成界面：团队用它做模型间的回退与路由、限额、日志和成本观察，也常被放在请求入口以稳定线上调用。新模型上线后，它会连续补兼容补丁。