跳到主要内容

litellm_BerriAI

litellm GitHub Repo stars

LiteLLM 是一个开源的 AI 网关,提供统一的接口以 OpenAI 格式调用 100 多家 LLM 提供商(如 OpenAI、Anthropic、Gemini、Bedrock 等)。它支持作为 Python SDK 直接集成到代码中,也可部署为中央代理服务器(Proxy),具备虚拟密钥管理、花费追踪、负载均衡、安全护栏及管理员仪表盘等企业级生产就绪功能,旨在简化多供应商 LLM 调用的复杂性并降低延迟。