Deep Learning アドベントカレンダー2020(AGIRobots)では、前日まで、ネットワークの構造やその学習について学んできました。つぎは、性能を上げるテクニックについて学んでいきたいと思います。精度を上げるテクニックには様々なアプローチがありますが、Deep Learning アドベントカレンダー2020では、2回に分けて正則化と最適化手法に焦点を当てて説明していきたいと思います。今回は、Ridge回帰・Lasso回帰・ElasticNetの解説を通じて正則化について学んでいきたいと思います。

当サイトはTwitterやYouTubeでも情報発信しています。ご気軽にフォロー(@AGIRobots)チャンネル登録お願いします!

正則化

ノルム

回帰

線形回帰

多項式回帰

回帰の問題点

原因

Ridge回帰(L1正則化による回帰)

Lasso回帰(L2正則化による回帰)

ElasticNet(L1とL2正則化による回帰)

投稿者の紹介

管理人
管理人
このサイトの管理人です。
人工知能や脳科学、ロボットなど幅広い領域に興味をもっています。
将来の目標は、人間のような高度な身体と知能をもったパーソナルロボットを開発することです。
最近は、ロボット開発と強化学習の勉強に力を入れています(NOW)。
0