项目解读
README 精简 · 2 个月前更新这个项目是什么?
这是一个分步骤讲解 Transformer 的学习资料,涵盖整体架构、Self Attention、Multi-Head Attention、Cross Attention、GQA、Flash Attention、位置嵌入及各类网络层。内容还介绍 Mixture of Experts 和 Vision Transformer,适合用于理解 Transformer 与现代大语言模型的组成和数据处理过程。
解决了什么问题?
公开资料暂未说明。
可以用来做什么?
公开资料暂未说明。
正在读取最新信息…
正在读取评论…

