(仮投稿)　Ridge回帰・Lasso回帰・ElasticNetと正則化【Deep Learning アドベントカレンダー2020】

Deep Learning アドベントカレンダー2020(AGIRobots)では、前日まで、ネットワークの構造やその学習について学んできました。つぎは、性能を上げるテクニックについて学んでいきたいと思います。精度を上げるテクニックには様々なアプローチがありますが、Deep Learning アドベントカレンダー2020では、2回に分けて正則化と最適化手法に焦点を当てて説明していきたいと思います。今回は、Ridge回帰・Lasso回帰・ElasticNetの解説を通じて正則化について学んでいきたいと思います。

当サイトはTwitterやYouTubeでも情報発信しています。ご気軽にフォロー(@AGIRobots)、チャンネル登録お願いします！

正則化

ノルム

回帰

線形回帰

多項式回帰

回帰の問題点

原因

Ridge回帰（L1正則化による回帰）

Lasso回帰（L2正則化による回帰）

ElasticNet（L1とL2正則化による回帰）