
BigMoeOnEdge
模型推理
项目解读
AI 解读 · 1 个月前更新这个项目是什么?
BigMoeOnEdge让手机或电脑从闪存按需读取专家模块,运行比内存大几倍的MoE模型并生成文字,输出保持无损一致。
解决了什么问题?
原本模型文件比设备内存大就跑不动;它把暂时不用的部分留在闪存里,只读取当前生成所需的部分。
可以用来做什么?
可以在普通手机或电脑上用CPU运行大模型,比如让12GB手机直接运行约91GB的DeepSeek V4 Flash 0731并生成文本。
README 已更新,当前暂时展示上一版摘要。
正在读取最新信息…
正在读取评论…
