💡 AI/DL

경사하강법의 수학적 표현

U-chan Seon 2021. 1. 31. 14:15

미분과 기울기

2D, 3D로도 표현이 가능하다.

편미분을 이용해야 x에 대해서, x1에 대해서, xN-1에 대해서 편미분 할 수 있다.


경사하강법

양수일 때 반대로 이동하기 위해서 (-)를 곱해준다.

최종적으로 최소값을 따라가게 된다.

 

f(x)값이 변하지 않을 때까지 반복한다.


학습률의 선택