cpu的co和ho是什麼意思

cpu的co和ho是什麼意思

ho是表示initial hidden state,co是表示initial cell state。是 h_t(hidden state at timet 和 c_t (cell state)的初始值。如果不特殊設定的話,就用zeros初始化。

  h和c的側重點不同。h(t)和RNN中的h(t)類似,但在運算時增加了一步,有些許不同。c(t)是LSTM新引入的概念,用來防止梯度消失,可以記住更久的東西。