19 训练是并行的:Teacher Forcing 与 Causal Mask2026-08-01·7263 字·15 分钟LLM LLM Teacher Forcing Causal Mask 并行训练 自回归 Exposure Bias Transformer
论文里程碑 #12:Recursive Deep Models for Semantic Compositionality Over a Sentiment Treebank2026-07-27·6690 字·14 分钟LLM LLM 论文里程碑 SST RNTN 情感分析 组合性 句法树 Socher
经典作品拆解 #12:Lunch Atop a Skyscraper(摩天楼上的午餐)2026-07-27·6598 字·14 分钟摄影 摄影 经典作品 摄影史 Lunch Atop a Skyscraper 机位 深度线索 视点 构图
18 归一化的选择:LayerNorm → RMSNorm,Pre-LN vs Post-LN2026-07-27·7936 字·16 分钟LLM LLM 归一化 LayerNorm RMSNorm Pre-Norm 残差流 训练稳定性 Transformer
论文里程碑 #11:Distributed Representations of Words and Phrases and Their Compositionality2026-07-19·4950 字·10 分钟LLM LLM 论文里程碑 Word2Vec 负采样 子采样 词向量 Skip-Gram Mikolov
经典作品拆解 #11:Behind the Gare Saint-Lazare(圣拉扎尔站后面)2026-07-19·5223 字·11 分钟摄影 摄影 经典作品 摄影史 Henri Cartier-Bresson 决定性瞬间 街头摄影 构图 抓拍
17 一个 Transformer Block 的「最小骨架」2026-07-19·5024 字·11 分钟LLM LLM Transformer Decoder-Only 残差连接 归一化 Pre-Norm FFN 注意力
论文里程碑 #10:Efficient Estimation of Word Representations in Vector Space2026-07-12·4873 字·10 分钟LLM LLM 论文里程碑 Word2Vec 词向量 Skip-Gram CBOW 词类比 Mikolov
经典作品拆解 #10:Pepper No. 30(辣椒30号)2026-07-12·5055 字·11 分钟摄影 摄影 经典作品 摄影史 Edward Weston Pepper No. 30 直接摄影 Group F/64 静物
16 位置编码进化史:从正弦波到 RoPE 旋转位置编码2026-07-12·5803 字·12 分钟LLM LLM 位置编码 RoPE 旋转位置编码 正弦编码 相对位置 Self-Attention Transformer