Open GGOOAI 开源项目
全部项目/BigMoeOnEdge
BigMoeOnEdge

BigMoeOnEdge

模型推理
GitHub623— / 6h

项目解读

AI 解读 · 1 个月前更新

这个项目是什么?

BigMoeOnEdge让手机或电脑从闪存按需读取专家模块,运行比内存大几倍的MoE模型并生成文字,输出保持无损一致。

解决了什么问题?

原本模型文件比设备内存大就跑不动;它把暂时不用的部分留在闪存里,只读取当前生成所需的部分。

可以用来做什么?

可以在普通手机或电脑上用CPU运行大模型,比如让12GB手机直接运行约91GB的DeepSeek V4 Flash 0731并生成文本。

README 已更新,当前暂时展示上一版摘要。

正在读取最新信息…
正在读取评论…