AGIRobots

Aiming for Artificial General Intelligence Robotics.

「機械学習」の記事一覧

KLダイバージェンスの基礎 【Deep Learning アドベントカレンダー2020】

本日は、以降の記事で扱う深層学習で頻繁に表れる重要な概念であるKLダイバージェンス(KL情報量、相対エントロピーともいう)について扱いたいと思います。KLダイバージェンスの説明をするにあたり、情報理論の基礎から要点をまと […]

NumPyだけで本格的なMLPクラスを実装Ⅲ:本格的な多層パーセプトロンのクラスをNumPyだけで実装してみる 【Deep Learning アドベントカレンダー2020】

ここまで、誤差逆伝播学習や活性化関数について説明してきました。そのまとめとして、本記事では、NumPyだけを使用して多層パーセプトロンクラスを実装してみた結果を紹介&解説していきたいと思います。あくまでも多層パーセプトロ […]

NumPyだけで本格的なMLPクラスを実装Ⅱ:いろいろな活性化関数とその導関数 【Deep Learning アドベントカレンダー2020】

前回の記事では誤差逆伝播を導きました。より一般化した式で説明するよう心掛けたので、具体性には欠けるものとなっていました。特に、活性化関数の導関数に関してはソフトマックス関数の話を除き、基本的には指定しませんでした。今回の […]

NumPyだけで本格的なMLPクラスを実装Ⅰ:誤差逆伝播法の理論&導出(決定版) 【Deep Learning アドベントカレンダー2020】

本記事から数回は、本格的な多層パーセプトロン(MLP)クラスを機械学習ライブラリ(TensorFlow, Keras, PyTorchなど)を使用せずに、NumPyだけを使って実装していきたいと思います。今までは連想記憶 […]

深層信念ネットワーク(DBN)【Deep Learning アドベントカレンダー2020】

本日は前回の制約ボルツマンマシンに引き続き、深層信念ネットワークについて説明していきたいと思います。 本記事の解説動画は以下です。 制約ボルツマンマシン(RBM)から深層ボルツマンマシン(DBM) 式の詳細については触れ […]

制約ボルツマンマシン(RBM) 【Deep Learning アドベントカレンダー2020】

今回は、制約ボルツマンマシンについて説明していきたいと思います。今回説明する内容は、ボルツマンマシン(BM)から制約ボルツマンマシン(RBM)へ、コントラスティブ・ダイバージェンス(CD)法、制約ボルツマンマシンが使用さ […]

ボルツマンマシン 【Deep Learning アドベントカレンダー2020】(仮投稿)

Deep Learning アドベントカレンダー3日目の記事では、ボルツマンマシンを扱いたいと思います。ボルツマンマシンは、前回扱ったホップフィールドネットワークを拡張したもので、深層学習の原点でもあるので、しっかりと学 […]

1次元畳み込みニューラルネットワークでMNISTの時系列処理

畳み込みニューラルネットワークと聞いて、画像処理を真っ先に思いつくのが普通だと思います。でも、実は別の分野でも大きな成果を出しています。今回扱う1次元畳み込みニューラルネットワークは自然言語処理などの時系列情報を認識する […]

PAGE TOP