그래프 표현(Graphical representation)

예시를 통해 베이지안 모델을 나타내기 위한 그래프 표현(Graphical representation) 방법에 대해 알아볼 것이다.

 

예시 1)

 

 

가능도 함수가 정규분포를 따르고, 정규분포의 두 모수가 위와 같이 사전분포를 따를 때, 이를 그래프로 표현해보자.

 

 

▷ 동그라미는 노드(Node)라고 부른다. 노드는 확률변수(Random variable)를 의미한다. 사전분포를 가지고 있는 mu와 sigma^2를 노드로 정하였다.

 

▷ 위의 그림에서 mu와 sigma^2 밑에 y1, y2, ... , yn도 확률변수이지만, 관측할 수 있기 때문에 이중 동그라미로 나타내었다.

 

▷ 각 노드별 종속(Dependence) 관계를 나타내기 화살표(Arrow)를 이용하였다. 화살이 가리키는 노드는 화살이 나오는 노드로부터 종속되어 있다는 것을 의미한다.

 

위의 그림을 단순화해보자.

 

 

▷ 관측 가능한 확률변수 부분이 바뀐 것을 볼 수 있다. 판(Plate)을 이용하여 하나의 노드로 나타내고, 해당 노드의 인덱스를 판에 나타냄으로써 단순화할 수 있다.

 

▷ 판 안에 있는 y1, ... , yn은 모두 같은 분포를 따라야 한다. 만약 다른 분포를 따르는 yi가 존재한다면, 노드를 분리하여 나타내야 한다.

 

▶ 그래프 표현은 모델의 데이터 생성을 위한 시뮬레이션을 어떻게 진행해야 하는지 알려준다. 위의 예시에서는 mu와 sigma^2를 각 사전분포로부터 생성하고, 생성된 두 모수를 이용하여 y를 생성해야함을 알 수 있다.

 

예시 2)

 

 

▷ 앞의 경우와는 다르게 mu가 sigma^2에 영향을 받는다는 것 확인할 수 있다.

 

위의 모델을 그래프로 표현해보자.

 

 

▷ 앞의 예의 모델과는 다르게 sigma^2는 y와 mu에 모두 영향을 주고 있음을 확인할 수 있다.

 

▷ 그래프 표현으로부터 위의 모델은 3 레이어(Layer)인 것을 확인할 수 있다.

 

▷ 위의 그림과 같이 확률변수가 계층적인 관계로 형성되어 있는 모델을 계층적 모델(Hierarchical model)이라 한다.

 

---

Reference:

"Bayesian Statistics: From Concept to Data AnalysisTechniques and Models," Coursera, https://www.coursera.org/learn/bayesian-statistics/.