Open GGOOAI 开源项目
reame

reame

模型本地优先CPU 推理
GitHub官网113— / 6h

项目解读

AI 解读 · 1 个月前更新

这个项目是什么?

Reame 是一个让普通 CPU 也能跑大语言模型的服务端:把模型放在免费 ARM 云主机上,就能通过浏览器或接口使用。

解决了什么问题?

以前跑大模型常要 GPU,或在云端按调用量付费;Reame 把模型部署到免费 ARM 主机上,并处理成现有客户端能直接调用的接口。

可以用来做什么?

可以在没有 GPU 和按次计费的情况下调用本地模型。比如打开在线演示,直接在浏览器里使用一台免费 ARM 主机上的大语言模型。

最新信息

来自公开新闻、社区讨论、RSS 与 X 的相关信息。

0 条 · 综合排序

暂时还没有采集到相关动态。

正在读取评论…