学习率该除以 3：四张图把「试出来」变成「算出来」
六层网络跑通，四张诊断图全部拿到手。前三张是某一步的快照，全绿；真正给出行动项的是第四张 —— 它把「lr 该调多少」从扫描曲线只能排除的范围，变成一个可以直接算出来的倍数。
标签02
#诊断
饱和从 62.3% 到 1.4%：四行初始化，和一套查错顺序
初始 loss 17、六成神经元一出生就死掉 —— 病因是标准差在两个矩阵乘上各被放大了一次。修法只有四行，但真正带得走的是那套「按什么顺序查」的清单，以及为什么 Kaiming 在这个网络上反而输给了拍脑袋。