Table of contents
1. Activation Function
1.1 Sigmoid
1.2 tanh
1.3 ReLU
1.4 Leaky ReLU
1.5 PReLU
1.6 ELU
+ SeLU
+ GeLU
2. Data Preprocessing
2.0 Preprocessing condition
2.1 Weight Initialization
2.1.1 small w
2.1.2 big w
2.1.3 Xavier Initialization
3. Batch Normalization
4. Learning Process
4.1 Hyperparameter Optimization
4.2 Cross Validation
4.2.1 Random Search vs Grid Search
본문
Kovi는 SSDC(Samsung Software Developer Community)를 기반으로 만들어진 커뮤니티입니다. ML, DL, Computer Vision, Robotics에 관심 있고 열정 있는 사람들이 모여 함께 활동 중입니다.
Kovi Instagram : https://www.instagram.com/kovi.or.kr/
Kovi SSDC : https://software.devcommunities.net/community/communityDetail/98
이 포스팅은 Kovi 커뮤니티 스터디의 일환으로 작성되었습니다.
posted by. Panda99 & Daevi
'CS231n' 카테고리의 다른 글
| [CS231n] Lecture 8. Deep Learning Software (0) | 2023.03.13 |
|---|---|
| [CS231n] Lecture 7. Training Neural Networks II (0) | 2023.03.04 |
| [CS231n] Lecture 5. CNN: Convolution to Neural Networks (2) | 2023.03.02 |
| [CS231n] Lecture 4. Backpropagation and Neural Networks (0) | 2023.02.14 |
| [CS231n] Lecture 3. Loss Functions and Optimization (0) | 2023.02.04 |