Open GGOOAI 开源项目
reame

reame

模型本地优先CPU 推理
GitHub官网114— / 6h

项目解读

README 精简 · 1 个月前更新

这个项目是什么?

这是一个面向普通 CPU 的大语言模型服务器,重点支持权重仅含 −1、0、+1 的三值模型,并提供 OpenAI 兼容 API。它适用于在低成本基础设施上部署网站问答、文档数据提取、批处理、私有代码补全及处理需留在本地的敏感数据。

解决了什么问题?

公开资料暂未说明。

可以用来做什么?

公开资料暂未说明。

正在读取最新信息…
正在读取评论…