↓ 跳过正文

Softmax

2026

20 Attention 在算什么：Q/K/V、Softmax 与 O(N²)

2026-08-09·7931 字·16 分钟

LLM LLM Attention Q/K/V Softmax 自注意力 KV Cache 复杂度 Transformer

15 Weight Tying：输入输出的镜像关系

2026-07-03·4482 字·9 分钟

LLM LLM Weight Tying 权重绑定 Embedding Logits Softmax 参数量输出层

4 Logits、Softmax 与数值稳定：模型输出的「工程真相」

2026-04-26·4127 字·9 分钟

LLM LLM Softmax Logits Temperature 数值稳定