Open GGOOAI 开源项目
全部项目/kimi-k3-in-c
kimi-k3-in-c

kimi-k3-in-c

教育低内存CPU 推理
GitHub官网8.9K— / 6h

项目解读

AI 解读 · 1 个月前更新

这个项目是什么?

它把 2.78 万亿参数的 Kimi K3 放进便携式 C99 程序里,让单台 CPU 机器用约 8.24 GB 内存运行推理。

解决了什么问题?

原本这么大的模型需要大量内存和 GPU;它改为从磁盘按步读取,在单 CPU、低内存机器上也能完成推理。

可以用来做什么?

比如在普通 8 GB 笔记本上让 Kimi K3 根据提示续写文本,或在已有对话上继续追问;只是等待时间会更长。

README 已更新,当前暂时展示上一版摘要。

最新信息

来自公开新闻、社区讨论、RSS 与 X 的相关信息。

0 条 · 综合排序

暂时还没有采集到相关动态。

正在读取评论…