전체 글8 [손실 함수] 크로스 엔트로피, 로그 손실 (cross-entropy, log loss) ▶ 직관분류 문제에서 평가 지표로 쓰이는 함수이다.cross-entropy(CE) ≒ log losscross-entropy : multi class log loss: binary class 값이 낮을 수록 해당 모델의 성능이 좋다는 의미.해당 함수의 의의는 단순히 정답을 맞춘 것 이상으로, 얼만큼 정확하게 맞췄냐에 대해 평가하기 위함.낮은 확률로 단순히 때려 맞췄는지, 높은 확률로 정확히 맞췄는지에 대해 평가하기 위한 지표. > 예측에 대한 자신감 정도 cross-entropy ≒ log losscross-entropy : multi class log loss: binary class 위 내용 대해 다시 살펴보자면, LogLoss가 이진 분류에 대한 수식, CE는 이를 다중 분류로 확장시킨 수식임을.. 2023. 12. 29. 순방향 신경망 (deep feedforward neural network) (해당 글은 Deep Learning - Ian Goodfellow 내용을 바탕으로 작성되었습니다.) 심층 순방향 신경망, 순방향 신경망, 다층 퍼셉트론(Multi Layer Perceptron, MLP). 신경망, 신경과학에서 영감을 받았다고 하여 붙여진 이름. 물론, 현대 신경망 연구에서는 생물학적 신경망을 본뜨는 것이 목표는 아니다. "통계적 일반화를 위해 고안된 함수 근가 기계로 간주하는 것이 더 낫다." (Ian Goodfellow, 2016) ▶ 필요성 데이터의 복잡성과 비정형 데이터 분석의 필요성이 증가됨에 따라 새로운 방식이 요구되었다. 전통적인 선형 모델인 선형 회귀와 로지스틱 회귀의 한계로 인해 입력 변수 간의 영향을 학습과 결과에 반영하지 못하는 문제가 있다. 즉, 더 복잡한 데이터 .. 2023. 12. 28. 이전 1 2 다음
