
BigMoeOnEdge
模型本地优先推理
项目解读
README 精简 · 1 个月前更新这个项目是什么?
这是一个面向手机和电脑的 MoE 模型本地推理项目,支持在纯 CPU 和内存受限设备上运行超过可用 RAM 容量的模型。典型用途包括通过 Android 应用在手机上进行大型 MoE 模型对话,以及在桌面设备上运行超出内存容量的模型并查看运行状态。
解决了什么问题?
公开资料暂未说明。
可以用来做什么?
公开资料暂未说明。
README 已更新,当前暂时展示上一版摘要。
正在读取最新信息…
正在读取评论…
