베이지안 추론 ?
CONTENTS 베이지안 추론은 데이터가 주어진 후 모수에 대한 불확실성을 확률적으로 표현하는 것입니다. 베이지안 추론은 모수의 사전정보와 데이터를 결합해 모수의 사후 확률분포를 추정합니다. 모수의 사전정보는 확률분포(사전분포)입니다. 모수에 대한 초기 믿음이나 정보를 확률분포로 표현한 것입니다. 데이터의 확률분포(우도함수)의 형태는 모수가 어떤 확률분포를 표현하였는 가에 따라서 결정됩니다. 베이지안 추론에서의 모수는 확률변수 $x$의 확률분포를 결정하는 모수가 아니고 조건부확률변수 $x|theta$의 확률분포를 […]
최대우도법?
CONTENTS 최대우도법은 주어진 데이터로 모델하는 확률분포의 모수를 계산하는 방법론입니다. 최대우도법(Maximum Likelihood Method)을 통해 최대가능도추정량이 도출됩니다. 최대가능도추정량(Maximum Likelihood Estimator, MLE)은 추출한 표본데이터에서 우도(가능도)를 최대로 하는 모수의 추정량을 나타내는 수식입니다. https://www.datadata.link/wp-content/uploads/2025/02/ANIMATION-최대우도법-1.mp4 최대우도법 최대우도법(Maximum Likelihood Method, MLM)은 주어진 데이터를 가장 잘 설명하는 확률분포의 모수(parameter)를 점추정하는 방법론입니다. 최대우도법에서는 우도함수(likelihood function) $L$을 최대화하는 모수 값 $hat {theta_{MLE}}$을 최적화 알고리즘으로 찾습니다. […]
연속확률분포에서 분위수와 누적분포함수의 관계는?
CONTENTS 역함수 관계입니다. 분위수(Quantile, $Q(p)$)는 주어진 누적확률값($p$) 보다 큰 누적확률을 가지는 확률변수값 중 가장 작은 값($x$)을 변환하는 함수입니다. $ x=Q(p)$ 누적분포함수(CDF, $F(x)$)는 $-infty$에서 주어진 확률변수값($x$)까지의 누적확률($p$)을 반환하는 함수입니다. $p=F(x)$ 분위수 분위수 $Q(p)$는 누적확률 $p$에 해당하는 확률변수값 $x$를 반환합니다. 즉, 분위수는 분위수(Quantile, $Q(p)$)는 주어진 누적확률값($p$) 보다 큰 누적확률을 가지는 확률변수값 중 가장 작은 값($x$)을 변환하는 함수입니다. […]
조건부사건(A|B)과 곱사건(A$\cap$B)의 표본공간은 같은가?
CONTENTS 조건부사건과 곱사건은 표본공간이 다릅니다. 조건부사건(A|B)의 표본공간은 조건이 되는 사건(B)입니다. 곱사건(A$cap$ B)의 표본공간은 전체 표본공간($Omega$)입니다. 조건부사건의 표본공간 조건부사건 $A|B$는 어떤 기준 사건 $B$가 이미 발생했음을 전제로 합니다. 즉, 조건부사건 $A|B$는 원래의 표본공간 $Omega$가 아니라, 조건이 되는 사건 $B$에 의해 제한되어 새로운 표본공간 $B$에서 정의됩니다. 즉, 조건부사건 $A|B$의 표본공간은 원래의 전체 표본공간 $Omega$에서 부분집합인 $B$로 축소됩니다. […]
두 확률변수가 독립이면 두 확률변수의 사건간 모든 조합도 독립인가?
CONTENTS 네 그렇습니다. 그 역도 성립합니다. 두 확률변수가 독립이면 결합확률분포는 주위확률분포의 곱으로 표현됩니다. 두 확률변수 사이의 관계 두 확률변수 사이의 관계는 확률변수 간의 종속성(dependency), 독립성(independence), 상관성(correlation), 조건부 관계(conditional relationship) 등을 통해 설명됩니다. 독립 관계 두 확률변수가 독립(independent)이라면, 하나의 확률변수 값이 다른 확률변수 값에 영향을 미치지 않습니다. 종속 관계 두 확률변수가 독립이 아니라면, 하나의 확률변수 값이 […]
관계는 대응을 전제로 하나?
CONTENTS 네, 관계는 대응의 형태를 필요로 합니다. 대응의 대상에는 개체 또는 집단의 속성이 있습니다. 대응시키는 연결고리를 대응요소라고 합니다. 개체 또는 집단의 속성을 변수로 표현 개체 또는 집단은 대응의 대상입니다. 개체 또는 집단의 속성(attribute)은 변수함수로 표현되며 실현된 변수값은 데이터입니다. 속성을 수치적 또는 범주형 데이터로 변환하여 모델이나 분석에 활용할 수 있도록 만듭니다. Table 1. 대응 대상의 속성을 […]
조건부기대값의 분산과 조건부분산의 기대값의 합은?
CONTENTS 종속변수의 전체분산입니다. 전체분산법칙(Law of total variance) $$text{Var}left[Yright]=text{Var}left[text{E}[Y|X]right]+text{E}left[text{Var}[Y|X]right]$$ 전체분산법칙 전체분산법칙(Law of total variance)은 다음과 같이 표현됩니다. $$text{Var}left[Yright]=text{Var}left[text{E}[Y|X]right]+text{E}left[text{Var}[Y|X]right]$$ 여기서, $text{Var}[Y]$는 종속변수($Y$)의 전체분산 $text{Var}left[text{E}[Y|X]right]$는 독립변수($X$)로 인한 종속변수($Y$)의 기대값 변동 $text{E}left[text{Var}[Y|X]right]$는 독립변수($X$)로 인한 종속변수($Y$)의 분산의 기대값: 모델이 설명하지 못하는 변동 선형회귀모델에서의 전체분산법칙 선형회귀모델은 다음과 같습니다. $$Y=beta_0+beta_1X+epsilon$$ 여기서 $Y$는 종속변수 $X$는 독립변수 $beta_0$는 기울기(회귀계수) $epsilon$은 오차항 : $epsilon sim […]
배타적 사건은 독립사건인가, 종속사건인가?
CONTENTS 일반적으로, 배타적 사건은 종속사건입니다. 배타적 사건은 한 사건이 일어나면 또 다른 사건은 일어나지 않도록 영향을 주므로 종속사건입니다. 특별히, 적어도 하나의 사건의 확률이 0이면 배타적 사건은 독립사건입니다. 배타적 사건 배타적 사건 (mutually exclusive events)이란 동시에 발생할 수 없는 사건을 말합니다. 즉, 한 사건이 발생하면 다른 사건은 반드시 발생하지 않습니다. 확률로 표현 두 사건 $A$와 $B$가 […]
연속형 확률변수가 유리수로 실현될 확률은?
CONTENTS 연속형 확률변수가 유리수로 실현될 확률은 0입니다. 연속형 확률변수가 무리수로 실현될 확률은 1입니다. 실수의 확률공간 실수는 유리수와 무리수로 구성됩니다. $$mathbb{R} = mathbb{Q} cup (mathbb{R} setminus mathbb{Q})$$ 여기서, $mathbb{R}$은 실수 $mathbb{Q}$는 유리수 $(mathbb{R} setminus mathbb{Q})$은 무리수: $mathbb{R}$집합에서 $ mathbb{Q}$집합을 뺀 집합 유리수와 무리수는 서로소(disjoint) 관계인 배타적인 집합입니다. $$mathbb{Q} cap (mathbb{R} setminus mathbb{Q}) = emptyset$$ 여기서, $emptyset$은 […]
확률이론에서 표본공간과 벡터공간을 연결하는 함수는?
CONTENTS 양적 확률변수(quantitative random variable) 또는 양적 확률벡터(quantitative random vector)입니다. 확률변수 또는 확률벡터를 함수라고 하는 이유는 표본공간의 원소를 벡터공간의 점 또는 점의 집합으로 변환하는 기능을 하기 때문입니다. 확률변수를 기호로 표현하면 다음과 같습니다. $$X : Omega to mathbb{R}$$ 여기서, $X$는 양적(수치형) 확률변수 $Omega$는 표본공간 $mathbb{R}$는 $1$차원 벡터공간 확률벡터를 기호로 표현하면 다음과 같습니다. $$X : Omega to […]