본문 바로가기

전체 글

(80)

인공신경망(Artificial Neural Network) 구현 MNIST 데이터의 손글씨로 적힌 숫자 이미지를 분류하는 다중 분류(Multiclass classification) 문제를 다룰 것이다. 데이터는 여기(https://www.kaggle.com/c/digit-recognizer)에서 얻을 수 있다. 파이토치를 이용하여 인공신경망(Artificial Neural Network)을 구현할 것이다. 구현 과정은 다음과 같다. 1. 데이터 입력 및 확인 2. 데이터 전처리 3. 모델 설정 4. 데이터 학습 및 검증 1. 데이터 입력 및 확인 In: import numpy as np import pandas as pd from sklearn.model_selection import train_test_split import torch import torch.nn ..

사전예측분포와 사후예측분포(Prior and posterior predictive distribution) 사전예측분포(Prior predictive distribution)와 사후예측분포(Posterior predictive distribution)에 대해 알아볼 것이다. 다룰 내용은 다음과 같다. 1. 사전예측분포와 사후예측분포의 정의 2. 사전예측분포와 사후예측분포의 예제 1. 사전예측분포와 사후예측분포의 정의 ▷ 사전예측분포는 베이즈 정리를 이용하여 구하면, 사전분포와 가능도 함수의 곱을 적분한 형태로 정의된다. 즉, theta에 대한 가능도 함수의 평균이라 할 수 있다. ▷ 사후예측분포는 베이즈 정리를 이용하여 구할 수 있다. 이때, 일반적으로 관측 결과인 x와 확률 변수 x tilde의 관계는 독립이라 가정하기 때문에, theta의 사후분포와 가능도 함수의 곱을 적분한 형태로 정의된다. theta의..

신용구간(Credible interval) 신용구간(Credible interval)에 대해 알아볼 것이다. 다룰 내용은 다음과 같다. 1. 신용구간의 정의 2. 신용구간의 예제 1. 신용구간의 정의 신용구간의 정의는 다음과 같다. ▷ 빈도주의(Frequentist) 관점에서는 모수가 고정되어 있기 때문에 신뢰구간(Confidence interval)에 대한 해석이 우리의 직관과 맞지 않는 문제가 발생한다. 신용구간은 모수에 대한 사후분포를 가정하고 있기 때문에 신용구간의 해석이 우리의 직관과 일치한다. 즉, 모수가 해당 신용구간에 대해 존재할 확률에 대한 해석이 가능하다. 2. 신용구간의 예제 문제) 동전의 앞면이 나올 확률이 균일분포를 따르고, 가능도 함수는 베르누이 분포을 따른다. 이 때, 동전을 던졌더니 앞면이 나왔다. 이 결과를 이용하여..

클래스(Class)의 인자 및 메소드(Method) 파이썬의 자료 구조인 클래스(Class)의 인자 및 메소드(Method) 대해 알아볼 것이다. 다룰 내용으로는 다음과 같다. 1. self 인자 2. __init__() 메소드 3. super() 메소드 1. self 인자 In: class test_class: def test_fun_1(): print('Function 1') def test_fun_2(self): print('Function 2') t_c = test_class() t_c.test_fun_1() Out: --------------------------------------------------------------------------- TypeError Traceback (most recent call last) in 1 t_c =..

빈도주의 추론(Frequentist inference) 빈도주의(Frequentist) 관점의 추론(Inference)에 대해 알아볼 것이다. 다룰 내용은 다음과 같다. 1. 가능도(Likelihood)와 MLE(Maximum Likelihood Estimation) 2. 신뢰구간(Confidence interval) 1. 가능도와 MLE 베르누이 분포의 가능도 함수를 구해보자. ▷ P(X tilde)와 가능도 함수인 L(theta | X tilde)의 결과는 같지만, 가능도 함수는 y에 대한 함수가 아닌 theta에 대한 함수라는 점에서 다르다. 즉, 가능도란 모수에 대한 함수로써 모수가 주어졌을 때, 관측값에 대해 부여하는 확률을 의미한다. 빈도주의 관점에서 모수를 추정하기 위한 대표적인 방법으로는 MLE가 있다. MLE를 통해 베르누이 분포의 모수를 추..

자동 미분(Automatic differentiation) 사용법 파이토치의 자동 미분(Auto differentiation)을 이용한 변화도(Gradient) 계산 방법을 알아볼 것이다. 다룰 내용은 다음과 같다. 1. 자동 미분 준비 2. 변화도 계산 1. 자동 미분 준비 In: import torch x = torch.ones(2, 2, requires_grad = True) print(x) Out: tensor([[1., 1.], [1., 1.]], requires_grad=True) ▷ torch.ones()에 텐서 크기에 대한 인자와 requires_grad 인자를 주어 텐서를 생성하였다. 결과 창에 requires_grad=True가 나타난 것을 볼 수 있는데, 이는 이후 역전파 과정을 수행 후, 해당 텐서의 변화도를 구할 수 있도록 한다. In: y = ..

베이즈 정리(Bayes' theorem) 베이지안 통계의 가장 핵심인 베이즈 정리(Bayes' theorem)에 대해 알아볼 것이다. 다룰 내용은 다음과 같다. 1. 베이즈 정리의 의미 2. 베이즈 정리의 예제 1. 베이즈 정리의 의미 베이즈 정리의 공식은 다음과 같다. ▷ 베이즈 정리에서 P(H)는 사전 확률(Prior probability)이라고 한다. 사전 확률이란 사건 E가 발생하기 전 사건 H에 대한 확률을 의미한다. ▷ 사건 E가 발생하게 되어 이 정보를 반영하면 사건 H의 확률은 P(H|E)로 바뀌게 되며, 이를 사후 확률(Posterior probability)이라 한다. ▷ P(E|H) 는 가능도(Likelihood)라 하고, 사건 H가 조건으로 주어진 상태에서 얼마나 사건 E가 가능한 지에 대한 확률을 의미한다. ▷ P(E) ..

텐서(Tensor) 사용법 파이토치의 텐서(Tensor)의 사용법에 대해 알아보자. 다룰 내용은 다음과 같다. 1. 텐서의 생성 2. 텐서의 연산 3. 텐서의 변환 1. 텐서의 생성 In: import torch x = torch.rand(5, 3) print(x) Out: tensor([[0.1501, 0.8814, 0.4848], [0.0723, 0.9468, 0.1327], [0.8581, 0.8050, 0.4441], [0.4888, 0.0157, 0.6959], [0.9666, 0.4729, 0.1983]]) ▷ torch.rand()를 이용하여 0과 1 사이의 임의의 수가 원소인 5×3 행렬이 만들었다. 함수 안의 두 인자는 행과 열을 나타낸다. In: x = torch.rand(5, 3, 3) print(x) Out:..

이전 1 ··· 4 5 6 7 다음

티스토리툴바