配图一解：三格抽屉存着 ◇ ✦ ● ▲ ■ 这些临时符号，一道光带挨格扫过去；绿色那张卡被抽出来，是查询比对上以后抄出的标签。柜顶那根黄色门闩，管的是「有没有标签重复」。
调研补三事：
- 两位作者 Andrew Gao 与 William Gao，38 页、22 图，代码和交互式 walkthrough 在 github.com/andrewgcodes/in-context-learning-circuit。三个 3～4B 的 Transformer 里，这套零件长得一模一样。
- 回路拆得很细：标签 token 的残差流存身份，中层注意力头把前一条演示的类别写成键；查询来了，上层头拿类别去比键、抄出对应标签。另有一组头专门压住最近出现过的标签。没有重复标签时，读出头会转向提示开头，谁也不偏向。
- 因果性怎么立的？三样都做了：激活修补、以随机头为基线的头消融、用模型自身信号做 steering。更狠的是那个每头只有两个常数的 softmax 读出模型，在一种提示分布上拟合，能预测另一种。从零训练的 Transformer 也会长出同样零件；同族 0.6B 到 8B，指令微调之后部件和因果门都还在。