Open GGOOAI 开源项目
全部项目/BigMoeOnEdge
BigMoeOnEdge

BigMoeOnEdge

模型本地优先推理
GitHub664— / 6h

项目解读

README 精简 · 1 个月前更新

这个项目是什么?

这是一个面向手机和电脑的 MoE 模型本地推理项目,支持在纯 CPU 和内存受限设备上运行超过可用 RAM 容量的模型。典型用途包括通过 Android 应用在手机上进行大型 MoE 模型对话,以及在桌面设备上运行超出内存容量的模型并查看运行状态。

解决了什么问题?

公开资料暂未说明。

可以用来做什么?

公开资料暂未说明。

README 已更新,当前暂时展示上一版摘要。

正在读取最新信息…
正在读取评论…