NLP 中的 Transformer 注意力机制
Transformer 的自注意力机制让每个词关注所有词的位置提取全局依赖。多头注意力从不同表示空间学习。位置编码提供序列信息。本文用图解释注意力计算过程。
15
0
0
2026-07-10
AutoInt 自注意力交叉
学习 AutoInt 如何将自注意力机制应用于特征域，显式建模组合特征关系，并解释特征重要性。
19
0
0
2026-06-24
CSWin Transformer
学习 CSWin 的十字形窗口自注意力，通过水平和垂直条纹窗口并行计算，兼顾计算效率和全局建模能力。
27
0
0
2026-06-21
Transformer 架构
剖析 Transformer 的 Self-Attention、Multi-Head 和 Positional Encoding 核心组件。
28
0
0
2026-06-16