Notes

文章

从 Transformer 讲到 Agent：技术怎么来的，原理怎么工作，代码怎么实现。

不知道从哪篇开始？看学习地图 →

2026.10.23AI 发展史 · 第 5 篇 · 约 11 分钟Transformer 剩下的零件：残差、层归一化和前馈网络一层 Transformer 里除了注意力，还有残差连接、层归一化和前馈网络。看这三样各自解决什么问题，再把它们拼成一层，叠出 96 层的 GPT-3。
2026.10.12AI 发展史 · 第 4 篇 · 约 7 分钟Transformer 怎么知道词的顺序：位置编码注意力的计算里没有一步用到「这个词排在第几个」。看 Transformer 怎么把座位号写进词向量，从原论文的一排钟讲到现在大模型用的 RoPE。
2026.10.11AI 发展史 · 第 3 篇 · 约 6 分钟多头注意力：为什么要分好几组 Q、K、V一组 Q、K、V 只能把一件事看清楚。看 Transformer 怎么让好几个头分头去看，再把结果拼起来，而且计算量几乎不变。
2026.10.10AI 发展史 · 第 2 篇 · 约 7 分钟注意力分数是怎么算出来的：Q、K、V用搜索来类比，一步步看注意力怎么打分、怎么把分数变成百分比、怎么用百分比取信息，以及为什么要分成 Q、K、V 三个角色。
2026.10.10AI 发展史 · 第 1 篇 · 约 4 分钟Transformer 到底解决了什么问题从 RNN、LSTM 到注意力，看 Transformer 怎么同时解决了「记不住」和「慢」两个问题。