Open GGOOAI 开源项目
MTPLX

MTPLX

模型本地优先Mac 本地
GitHub官网2.7K+1 / 6h

项目解读

README 精简 · 1 个月前更新

这个项目是什么?

面向 Apple Silicon 的本地语言模型运行时,通过多 token 预测加速生成并保持正常采样的输出分布。提供聊天界面、兼容 OpenAI 与 Anthropic 的本地 API,以及嵌入和重排序服务,可用于运行 Qwen、Gemma 模型、代码代理和 RAG 检索场景。

解决了什么问题?

公开资料暂未说明。

可以用来做什么?

公开资料暂未说明。

README 已更新,当前暂时展示上一版摘要。

正在读取最新信息…
正在读取评论…