深度学习入门|第5章 误差反向传播法（二）

 误差反向传播法 前言

此为本人学习《深度学习入门》的学习笔记

四、简单层的实现

本节将用 Python 实现前面的购买苹果的例子。这里，我们把要实现的计算图的乘法节点称为“乘法层”（MulLayer），加法节点称为“加法层”（AddLayer）。

1、乘法层的实现

层的实现中有两个共通的方法（接口）forward() 和backward()。forward() 对应正向传播，backward() 对应反向传播。

实现乘法层。乘法层作为 MulLayer 类，其实现过程如下所示

class MulLayer: def __init__(self): self.x = None self.y = None def forward(self, x, y): self.x = x self.y = y out = x * y return out def backward(self, dout): dx = dout * self.y # 翻转x和y dy = dout * self.x return dx, dy