けの〜のブログ

ガッキーでディープラーニングして教育界に革命を起こす

ハイパーパラメーター

学習を上手く行うために Hyperparameter optimization ハイパーパラメーターの設定について

Hyperparameter optimization ハイパーパラメーターの設定について Learning Rateやlearnig rate scheduleやregularization strengthなど調整すべきハイパーパラメーターをどのように設定するか Learning Rateを例にとってまとめる まずざっくりの範囲でRand…

学習を上手く行うために どのように学習を見守るか Babysitting the learning process , Hyper parameter optimization

まず学習を行う手順を確認しよう 1.Input data が Zero-Centeredになるように前処理 preprocessingを行う 2.CNNの構造を決定する 畳み込み層は何層にするかなど 3.Softmaxなどの損失関数で得られた値が妥当性のある値かチェックする この時reguralizationは…