LiteLLM

LiteLLM 把多家 LLM 服務包成同一個 OpenAI 介面，還補上成本追蹤、guardrails、load balancing 與 logging。我會把它視為團隊把模型接入層抽象化時，最容易先試的一個 AI Gateway。