ML(Maximum Likelihood), MAP(Maximum A Posteriori) 추정

머신 러닝의 주요한 목표 중 하나는, 관측된 데이터를 가지고 알아내고자 하는 값의 분포(모수, parameter)를 예측하는 것이다. 관측된 데이터 x의 분포를 X라고 하고, 모수를 theta라고 하자. 그러면 우리의 목표는 아래 두 가지로 정리할 수 있다. 가능도 L(theta | x)를 최대로 끌어올리자. 사후확률 P(theta | x)를 최대로 끌어올리자. 즉, 관측된 데이터를 바탕으로 매개변수의 가능도 혹은 사후확률 분포를 최대화하는 방향으로 파라미터를 설정하자는 것이다. 두 가지 목표 중 첫 번째는 ML (Maximum Likelihood) 추정이라고 하고, 두 번째를 MAP(Maximum A Posteriori)라고 한다. 두 방식의 차이는 사전 확률을 추정에 포함하는지 여부가 다르다. 사후확..

2024.03.04