RNNの進化:LSTMとGRUを理解する
1. 基本的なRNN (再帰的ニューラルネットワーク)
1.1 RNNの基本的なアイデア
例えば、動物を推測するゲームを考えると、新しい手がかり(入力)を得たときに、前の記憶(隠れ状態)を考慮して現在の推測(出力)を更新します。これがRNNの本質です。
1.2 RNNの欠点
RNNは長距離依存性を持つシーケンスを処理する際に、勾配消失/爆発問題に直面します。
1.3 Py ...
6月15日 18:06 投稿