2 输入 → 2 隐藏 → 2 输出 | 三轮 | η = 1

一个隐藏神经元,两条下游路径

输出层现在有两个神经元(猫 / 狗)。隐1 同时影响它们俩,反向传播时必须把两条路径的贡献加起来。走三个来回,点击图上任意数值可看推导。

z = w·a前 + b
加权和
a = σ(z) = 1/(1+e⁻ᶻ)
激活值,压到 0~1
C = Σ(a2 − y)²
两个输出的误差平方之和
σ′(z) = a(1−a)
激活函数的斜率
δ = ∂C/∂z
本层神经元的责任度
∂C/∂a1 = Σⱼ δⱼ·wⱼ
多路径求和 —— 本例重点
正向

2-2-2 网络的多路径反向传播 x1 耳朵 0.9 x2 眼睛 0.8 隐1 隐2 C 目标 y = (猫 1.0, 狗 0.0) ↑ 点任意数值看它怎么算出来的

← → 方向键翻步。红色的两步是「多路径求和」—— 单输出网络里不存在这一环。