Data/Data Science
2021. 2. 14.
[ML] 짜투리정리
Convex, non-Convex Cost Function의 그래프가 Local minimun이 있는지 없는지 여부 Optimization Algorithm Gradient Descent만 있는줄알았는데, 다른 최적화 알고리즘이 있다고하여, 기록차 적음 장점 - 우리가 흔히알고있는 Learning Rate를 따로 지정해줄필요없음 - 때때론 Gradient Descent보다 빠른성능을 자랑 단점 - 계산량이 많음(GD보다) Pytorch 라이브러리(pytorch.org/docs/stable/optim.html) torch.optim.LBFGS(params, lr=1, max_iter=20, max_eval=None, tolerance_grad=1e-07, tolerance_change=1e-09, hist..
![[ML] 짜투리정리](http://i1.daumcdn.net/thumb/C480x320/?fname=https://blog.kakaocdn.net/dn/6oh9l/btqW4gFPtWT/DNgWOwehEAsktKqNABFEp1/img.jpg)