2010년, 5개 조각
기록 5개 · 정리 노트 0개
6월 2
James Bergstra 외 (몬트리올대)
Theano 발표
프레임워크가 연구 속도를 결정한다는 구도의 시작. 이후 딥러닝 라이브러리 설계에 영향
Vinod Nair·Geoffrey Hinton
Rectified Linear Units Improve Restricted Boltzmann Machines
이후 표준 활성함수가 되는 ReLU의 이점을 입증한 초기 논문
5월 2
Xavier Glorot·Yoshua Bengio
Understanding the difficulty of training deep feedforward neural networks
활성함수와 초기화가 학습 안정성을 좌우함을 규명. Glorot 초기화의 기원
3월 1
Dan Ciresan 외 (IDSIA)
Deep Big Simple Neural Nets Excel on Handwritten Digit Recognition arXiv 공개
비지도 사전학습 없이 GPU 가속만으로 최고 성능이 나옴을 보여 순수 지도학습 노선을 되살림