BPTT 一、习题6-1P 推导RNN反向传播算法BPTT.二、习题6-2 推导公式 ∂ z k ∂ W \frac{\boldsymbol{\partial z}_{\boldsymbol{k}}}{\boldsymbol{\partial W}} ∂W∂zk和公式 ∂ z k ∂ b \frac{\boldsymbol{\partial z}_{\boldsymbol{k}}}{\boldsymbol{\partial b}} ∂b∂…
随时间反向传播算法(BPTT)笔记
1.反向传播算法(BP)
以表达式 f ( w , x ) 1 1 e − ( w 0 x 0 w 1 x 1 w 2 ) f(w,x)\frac{1}{1e^{-(w_0x_0w_1x_1w_2)}} f(w,x)1e−(w0x0w1x1w2)1为例,其涉及到的运算操作及导数公式如下: f ( x ) 1 x…