けの〜のブログ

ガッキーでディープラーニングして教育界に革命を起こす

Optimization

学習を上手く行うために Optimization

学習を行う際、重みwの傾きから損失関数を減らす方向に重みを調整していくが重みが何次元もあると local minima(極小値)やsaddle point(鞍点)と呼ばれる、重みの傾きが局所的に0になってしまうところが生じてしまい上手く学習が進まない場合がある この場…