[Deep Learning-딥러닝]비용함수 및 유사도-Sum of Squared Error, Cross Entropy, Cosine Similarity
비용함수(cost function), 손실함수(loss function) 또는 목적함수(objective function)이라고 부릅니다. 비용함수는 최적화 이론에 기반을 둔 함수이며, 신경망의 지도학습에 사용됩니다. 지도학습은 오차가 최소인 가중치를 구하는 것을 목적으로 하며, 여기서 신경망의 오차를 측정하는 척도가 바로 비용함수입니다. 신경망의 오차가 크면 비용함수의 값도 크고, 신경망의 오차가 작으면 비용함수도 작은 값을 갖습니다. 즉 비용함수는 신경망의 오차에 비례합니다. 신경망 학습에서 비용함수 그래프의 최종 출력은 손실이며, 그 값은 스칼라입니다. 비용함수는 크게 두 가지 형태가 있습니다. Sum of squared – 제곱합 제곱합은 신경망 연구 초기부터 사용된 비용함수로 델타 규칙을 이용해..
Artificial Intelligence
2019. 8. 10. 14:04
