Coding/TIL (Today I Learned)

[2021.10.21] Neural Network and Deep Learning 강좌 수료.

폴밴 2021. 10. 21. 14:33

Coursera Andrew Ng의 Neural Network and Deep Learning 강좌를 모두 수강했다.

4주차로 구성되어있는 짧은 강의 였지만 딥러닝에 대한 전반적인 이해와 지식을 배울 수 있었다.


1. 여러개의 hidden layers가 있는 NN을 Deep Neural Network이라 한다.

2. Forward propagation은 input에서 ouptut을 parameter w, b를 이용해 activation function을 계산한다.

3. Back propagation의 계산을 편리하게 하기 위해, forward propagation일 때 캐시로 Z = W*A+b 를 저장한다.

4. Backward propagation은 ouptut y와 labeled y의 차이를 통해, cost funtion의 parameter에 대한 편미분 값을 구해 값을 업데이트 한다.

5. w, b를 결정하는 값들로는 hyperparameters가 있는데, 다양한 값을 실제로 사용해보면서 적용해야한다.

6. python의 numpy에서 np.dot()은 행렬곱, *는 element-wise 곱이다.

7. python의 broadcasting은 행렬을 더할 때 dimension이 맞게 자동으로 값이 복제되어 바뀌는 것을 의미한다.


앞으로 파이썬에 대한 공부를 더 할지, 딥러닝에 대한 다음 강좌를 들을지 고민이다.

미래에 대한 생각을 좀 더 해보고, 이에 맞게 플랜을 세워보자.