论文里程碑 #9:Learning Phrase Representations using RNN Encoder-Decoder for Statistical Machine Translation2026-07-03·4773 字·10 分钟LLM LLM 论文里程碑 GRU Encoder-Decoder Seq2Seq 机器翻译 RNN Cho
15 Weight Tying:输入输出的镜像关系2026-07-03·4482 字·9 分钟LLM LLM Weight Tying 权重绑定 Embedding Logits Softmax 参数量 输出层
论文里程碑 #8:Natural Language Processing (Almost) from Scratch2026-06-27·4362 字·9 分钟LLM LLM 论文里程碑 NLP 词向量 预训练 SENNA Collobert 特征工程
13 Embedding 查表:离散 ID 到连续语义的惊险一跃2026-06-23·5083 字·11 分钟LLM LLM Embedding 词嵌入 查找表 One-Hot 分布式表示 向量空间 Hidden State
论文里程碑 #7:A Neural Probabilistic Language Model2026-06-17·4227 字·9 分钟LLM LLM 论文里程碑 词嵌入 Word Embedding 神经语言模型 Bengio 维度灾难 NLP
论文里程碑 #6:Latent Dirichlet Allocation2026-06-14·4336 字·9 分钟LLM LLM 论文里程碑 主题模型 LDA Topic Model 贝叶斯生成模型 无监督学习 NLP
12 词表大小与 Token 危机:算术差、单词反转失败的结构性原因2026-06-14·4924 字·10 分钟LLM LLM Tokenizer 词表大小 Vocab Size Token 危机 Glitch Token 分词 算术
11 Unigram(SentencePiece):并非所有切分都是确定的2026-06-09·4006 字·8 分钟LLM LLM Tokenizer Unigram SentencePiece Subword Regularization EM Viterbi 分词
10 BPE 与 Byte-level BPE:现代 LLM 如何消灭 UNK2026-06-06·3967 字·8 分钟LLM LLM Tokenizer BPE Byte-Level BPE BBPE 子词 UTF-8 OOV
论文里程碑 #4:Conditional Random Fields2026-06-03·4840 字·10 分钟LLM LLM 论文里程碑 CRF 序列标注 判别式模型 Label Bias 结构化预测 Lafferty