小小程序员
2021-05-15 23:43:17
長短期間記憶ネットワーク（Long/Short Term Memory Network）
ホクライター（Hochreiter）とシュミットハバー（Schmidhuber）（1997年）は、長短期記憶ネットワーク（LSTM）を構築し、RNNの長時間記憶の取得問題を解決しました。乗法論理線形ユニットを用いて記憶セルを設計し、「書き込み」ゲートを開いておけば、情報がセルに書き込まれて保持され、「読み取り」ゲートを開くことでデータを取得することもできます。
RNNは行書を読むことができます。ペン先の入力座標は（x,y,p）で、pはペンが上向きか下向きかを表し、出力は文字のシーケンスになります。ペン座標ではなく、一連の小さな画像を入力として使用します。グレイヴス（Graves）とシュミットハバー（Schmidhuber）（2009年）は、LSTMを搭載したRNNが行書を読む最適なシステムであると述べています。
29
item of content
ニューラルネットワークは所謂ディープラーニングの基礎であり、必須の知識ポイントです。これは人間の脳内のニューラルネットワークから着想を得ており、最も有名なアルゴリズムはバックプロパゲーション（backpropagation）アルゴリズムです。ここでは、ニューラルネットワークに関連するパラメータと計算方法について簡単に整理します。
この文章では、ニューラルネットワークがディープラーニングの基盤を形成し、その理解が不可欠であることが強調されています。また、バックプロパゲーションアルゴリズムが重要な役割を果たしていること、そしてこのセクションでは関連するパラメータと計算方法について簡潔にまとめられていることが示されています。
この文章では、ニューラルネットワークがディープラーニングの基盤を形成し、その理解が不可欠であることが強調されています。また、バックプロパゲーションアルゴリズムが重要な役割を果たしていること、そしてこのセクションでは関連するパラメータと計算方法について簡潔にまとめられていることが示されています。
- 493hits
- 0replay
-
0like
- collect
- send report