여러분 혹시 AI가 어떻게 본인의 실력을 확인 하는지 생각해 본 적 있으신가요?사람은 시험을 보고 틀린 개수로 실력을 확인합니다.그런데 AI는 사람처럼 시험지를 채점받는 대신, 이미 주어진 정답과 자기 예측을 비교해 실력을 확인합니다.이 방식이 바로 오늘 다룰 크로스 엔트로피(Cross Entropy)입니다.이름은 어렵지만, 내용은 간단합니다.AI의 예측이 정답과 얼마나 다른지를 벌점으로 나타내는 기준이라고 보면 됩니다.1. AI는 정답이 아니라 확률로 답한다AI는 사진을 보고 "고양이!"라고 딱 잘라 답하지 않습니다.실제로는 확률로 답합니다. 예를 들어 고양이 80%, 개 15%, 토끼 5% 처럼 말입니다.정답이 고양이라고 해보겠습니다.고양이에 80%를 준 AI는 정답을 자신 있게 맞혔습니다.반대로 고..