图8-7 上遗忘门公式应该为sigmoid, 而不是tanh。
图8-7 LSTM单元细节图中遗忘门f=tanh(Wf[ht-1,xt])应为:f=sigmoid(Wf[ht-1,xt])
页码:217 • 行数:5其中Wz、Wi、Wf、Wo是4个维度为[2n,n]的参数矩阵,错误1:2n不对,应该是输入向量x维数n_xt加上状态向量维数n_ht-1,即:n_xt + n_ht-1;错误2:根据上四行公式W是左乘,权重矩阵维度写反了,应该是[n,n_xt + n_ht-1]。请作者确认,谢谢!
图8-9 应该为 图8-10
rnn_cell.MultiRNNCell 应该为 tf.nn.rnn_cell.MultiRNNCell 吧
图8-7 上遗忘门公式应该为sigmoid, 而不是tanh。
图8-7 LSTM单元细节图中遗忘门

f=tanh(Wf[ht-1,xt])
应为:
f=sigmoid(Wf[ht-1,xt])
页码:217 • 行数:5
其中Wz、Wi、Wf、Wo是4个维度为[2n,n]的参数矩阵,
错误1:2n不对,应该是输入向量x维数n_xt加上状态向量维数n_ht-1,即:n_xt + n_ht-1;
错误2:根据上四行公式W是左乘,权重矩阵维度写反了,应该是[n,n_xt + n_ht-1]。
请作者确认,谢谢!
图8-9 应该为 图8-10
rnn_cell.MultiRNNCell 应该为 tf.nn.rnn_cell.MultiRNNCell 吧