LiteLLM
Une passerelle d'accès et de routage open source qui regroupe les modèles de divers fournisseurs derrière une interface unique, avec repli, quotas, journaux et visibilité des coûts.
LiteLLM est une couche d'accès et de routage open source pour les équipes qui gèrent plusieurs modèles : elle regroupe des services de fournisseurs, protocoles et modes de facturation différents derrière une interface unifiée, évitant à chaque application d'écrire son propre adaptateur. C'est une brique d'infrastructure plutôt qu'une interface finie, utilisée pour le repli et le routage entre modèles, les quotas, les journaux et la visibilité des coûts.
