日榜

面向智能体工作流的开源网关与路由器，通过兼容 OpenAI 的 API 统一调用托管、BYOK 和本地模型。它可按用户、智能体、用途和预算控制模型使用，并利用生产流量构建针对质量、速度和成本优化的路由。

开源的本地推理引擎，可根据设备硬件评估适配的模型并进行推荐、下载、调优和运行。适用于在 macOS、Linux、Windows WSL 及 CPU、Apple Silicon、NVIDIA 或 AMD GPU 设备上，为多种智能体工具提供本地模型服务。

这是一个面向局域网兼容计算机集群的本地推理路由器，可发现节点、管理 Ollama 和 LM Studio，并提供兼容 Ollama 与 OpenAI 的代理接口。它适用于多智能体等并发本地推理任务，按引擎、模型和当前负载将独立请求分配到合适节点。