[Bayesian statistics] 베이즈 정리

 

베이지안 통계학이란?

: 주어진 자료(data)를 통하여 관심의 대상이 되는 모수(parameter)의 불확실성(uncertainty)을 확률로 나타내자!

즉, 과거를 기반으로 앞으로 일어날 일에 대한 가능성을 추론하는 것이다.

이름에서 보다시피 베이즈 정리와 조건부 확률을 이용한다.

 

 

▪️조건부 확률

 

어떤 사건이 먼저 일어났을 때, 이와 별개인 다른 사건이 함께 일어날 확률이다

그림으로 먼저 이해해보자

 

첫번째 식이 베이즈 정리에 사용된다.

 

▪️베이즈 정리

 

이제부터 베이지안 관점에서 생각하기 위해 '확률'에 대한 개념을 다음과 같이 세팅하고 가자

확률 : 주장에 대한 신뢰도

 

 

• H: Hypothesis, 어떤 사건이 발생했다는 주장 / 가설
• E: Evidence, 새로운 정보 / 근거
• P(H) : 사전 확률 priority / 어떤 사건이 발생했다는 주장에 대한 신뢰도 => evidence E 관측 전 H 사건의 신뢰도
• P(H|E) : 사후 확률 / 새로운 정보 E가 들어왔을 때 갱신된 H의 신뢰도 => evidence E 관측 후 H 사건의 신뢰도

베이즈 정리는 근본적으로 이 두 확률 사이의 관계를 나타내는 정리이다.

 

 

▪️베이즈 정리가 왜 확률론에서 중요할까?

우리가 고등과정에서 많이 다루었던 확률은 이미 전체 사건 집합을 알고 있는 상태에서 특정 사건이 일어날 확률을 계산하는 것이었다.

즉, '얼마나 빈번하게 일어나는가', 빈도주의 관점 = 연역적인 사고 였다.

하지만 실생활에서 우리는 앞으로 일어날 사건을 모두 알지 못한다.

따라서 기존 경험에 기반하여 불확실한 사건에 대해 '추측'을 하게 된다. 이게 바로 귀납적 추론인데, 이를 확률적으로 가능하게 한것이 베이즈 정리이다.

 

사전 확률로 어떤 사건에 대한 불확실성을 내포하고, 새로운 정보 E가 들어왔을 때 이 값을 갱신하는 방법으로 

불확신한 사건이 일어날 가능성이 얼마나 있는지 추론하게 해준다.

 

 

연습문제 풀어봤다

 

 

 

 

 

 

 

 

참고 자료:

https://angeloyeo.github.io/2020/01/09/Bayes_rule.html

베이즈 정리의 의미 - 공돌이의 수학정리노트