본문 바로가기

cost function

[deeplearning.ai] Coursera 필기정리 1
Data/Data Science 2020. 7. 2. [deeplearning.ai] Coursera 필기정리 1 Logistic Regression cost function 로지스틱 회귀란 binarary classification을 위한 알고리즘이라고하는데. 회귀분석 모델에서 W와 b파라미터를 트레이닝시키기 위해서는 cost function을 정의해야함 한가지 방법은 L = 1/2(y' - y) 인데 로지스틱 회귀분석법에서는 이렇게 잘하지않는다고함. 이유는 이러한 공식으로 하게된다면 local optimization 문제를 갖게되고 global optimization을 못찾게된다고함. 즉, Gradient Descent가 잘안나온다는 단점이있음. 따라서 로지스틱 회귀분석법에는 다른 방식의 cost function을 이용하게됨. regression loss함수를 사용한다고 나옴(빨간 밑줄 공식). J(w,b)=m1..
[ML] Coursera 필기 정리
Data/Data Science 2020. 6. 30. [ML] Coursera 필기 정리 영상을 보면서 내 나름대로 얻은 정보를 필기로 정리. 꼭... 끝을 보겠노라 불끈 Cost Function 손실함수, 어떤 특정 예측 알고리즘이 얼마나 잘 동작하고있는지 확인하는 지표 값. 실제값과 예측값이 얼마나 차이가 나는지 알수가있는 함수임. (MSE 알고리즘등) Gradient Descent 위에서 말한 손실함수를 최소한의 값으로 줄이는게 목적인데. 이를 사람손으로 일일히 작업할수가없어서 자동으로 최소값을 찾아주는 알고리즘. 제일 처음으로 접하는 알고리즘 SGD가 그 예시이다. 세타는 예측 알고리즘의 파라미터 값이고. 알파는 우리가 딥러닝모델을 작업할때 흔히 말하는 Learning Rate이다. 예측 알고리즘의 파라미터는 동시에 업데이트가 되어야한다. 이 Learning rate가 너무 높아서도,..

티스토리툴바