Open GGOOAI 开源项目
全部项目/LLMs-from-scratch
LLMs-from-scratch

LLMs-from-scratch

教育
GitHub官网107.1K— / 6h

项目解读

AI 解读 · 1 个月前更新

这个项目是什么?

这是一个用 PyTorch 一步步写出类 ChatGPT 大语言模型的开源代码项目,让你从零动手做出自己的小型模型。

解决了什么问题?

大语言模型内部怎么工作,单看成品很难弄明白;它把分词、训练到微调等过程拆开,带你逐步写出来。

可以用来做什么?

可以拿来学习和实践大语言模型开发,比如训练一个用于教育目的的小型模型,或加载更大的预训练模型再做微调。

README 已更新,当前暂时展示上一版摘要。

正在读取最新信息…
正在读取评论…