Open GGOOAI 开源项目

全部项目/Switchyard

Switchyard

基础设施推理API 接入

GitHub3.4K— / 6h

基础设施 · Switchyard

项目解读

AI 解读 · 1 个月前更新

这个项目是什么？

Switchyard像一个模型调度员，会替每次大模型请求挑选合适的模型，并能接上OpenAI或Anthropic接口。

解决了什么问题？

原本每次调用都要自己决定用哪个模型、改接入方式；Switchyard把选模型和跨服务商分流处理掉。

可以用来做什么？

可以按请求在不同模型间切换、做模型效果对比并控制成本。比如让代理每一轮自动选择还能完成任务的低价模型。

正在读取最新信息…

正在读取评论…