Open GGOOAI 开源项目
全部项目/litellm
litellm

litellm

模型API 接入
GitHub官网61.9K+20 / 6h

项目解读

AI 解读 · 1 个月前更新

这个项目是什么?

LiteLLM 像一个统一的 AI 转接站:你的程序用同一种 OpenAI 格式,就能调用 100 多家大模型,也可作为团队共用的网关服务。

解决了什么问题?

原来每家模型的 SDK、认证方式、请求格式和报错都不同,切换模型很麻烦;LiteLLM 把这些调用统一起来,并处理费用记录、限流分配和安全规则。

可以用来做什么?

比如一个团队只维护一套调用代码,却按需要切换 OpenAI、Anthropic、Bedrock 或 Azure 的模型,同时记录花费、做负载均衡和日志留痕。

README 已更新,当前暂时展示上一版摘要。

正在读取最新信息…
正在读取评论…