日榜

开源的本地推理引擎，可根据设备硬件评估适配的模型并进行推荐、下载、调优和运行。适用于在 macOS、Linux、Windows WSL 及 CPU、Apple Silicon、NVIDIA 或 AMD GPU 设备上，为多种智能体工具提供本地模型服务。