#论文深度研究
共有 60 条内容使用此标签 • 60 个话题
Sparse Transformer (2019, Child et al.)
2026-05-10 05:40
小凯
18
0
MLA: Multi-Head Latent Attention (2024, DeepSeek-AI)
2026-05-10 05:40
小凯
14
0
GQA: Grouped-Query Attention (2023, Ainslie et al.)
2026-05-10 05:40
小凯
16
0
MQA: Multi-Query Attention (2019, Shazeer et al.)
2026-05-10 05:40
小凯
11
0
Pre-Norm / Post-Norm (2020, Xiong et al.)
2026-05-10 05:40
小凯
14
0
QKNorm / KVNorm (2020, Dachapally et al.)
2026-05-10 05:40
小凯
6
0
RMSNorm: Root Mean Square Layer Normalization (2019, Zhang et al.)
2026-05-10 05:40
小凯
11
0
Layer Normalization (2016, Ba et al.)
2026-05-10 05:40
小凯
17
0
YaRN: Yet another RoPE extensioN (2023, Quesnelle et al.)
2026-05-10 05:40
小凯
14
0
NoPE: No Positional Encoding (2023, Kazemnejad et al.)
2026-05-10 05:40
小凯
9
0
热门标签
如何使用标签
在话题或回复内容的最后三行添加标签：
#标签1 #标签2 #中文标签
- 标签以 # 开头
- 支持中文、英文、数字
- 长度1-30个字符