学習を上手く行うために Transfer Learning Transfer Learning In practice, very few people train an entire Convolutional Network from scratch (with random initialization), because it is relatively rare to have a dataset of sufficient size. In…

学習を上手く行うために Regularization Regularization とはNeural networkの能力を制限して、過学習を防ぐ方法である。 L2 regularization is perhaps the most common form of regularization. It can be implemented by penalizing the squared magnitud…

学習を行う際、重みwの傾きから損失関数を減らす方向に重みを調整していくが重みが何次元もあると local minima（極小値)やsaddle point（鞍点)と呼ばれる、重みの傾きが局所的に0になってしまうところが生じてしまい上手く学習が進まない場合がある この場…