RNNの進化:LSTMとGRUを理解する

1. 基本的なRNN (再帰的ニューラルネットワーク) 1.1 RNNの基本的なアイデア 例えば、動物を推測するゲームを考えると、新しい手がかり(入力)を得たときに、前の記憶(隠れ状態)を考慮して現在の推測(出力)を更新します。これがRNNの本質です。 1.2 RNNの欠点 RNNは長距離依存性を持つシーケンスを処理する際に、勾配消失/爆発問題に直面します。 1.3 Py ...

6月15日 18:06 投稿