2.1. 확률변수의 독립

두 확률변수 $X$와 $Y$의 독립

사건 A와 사건 B가 독립이면 곱사건의 확률 $P(A \cap B)$은 조건부확률계산을 할 필요가 없이 두 사건의 확률을 곱하여 구할 수 있습니다.

$P(A \cap B)=P(A)P(B)$

두 확률변수 $X$와 $Y$가 독립이면 곱사건의 확률은 다음식과 같습니다.

$$f(x,y)=g(x)h(y)$$

여러 확률변수간 서로 독립

여러 확률변수가 상호 독립임을 안다면 곱사건의 확률은 각 사건의 확률의 곱으로 나타납니다. 확률변수 $X1,X2,\cdots,Xn$가 서로 독립이면 다음식이 성립합니다.

$$f(x_1,x_2,\cdots,x_n)=f(x_1)f(x_2)\cdots f(x_n)$$

모두 이산형 확률변수인 경우는 다음과 같이 확률식을 표현할 수 있습니다.

$$P(X_1,X_2,\cdots,X_n)=P(X_1)P(X_2)\cdots P(X_n)$$

2.2. 두 확률변수간 독립 판별

모두 이산형 확률변수인 경우는 결합확률질량함수를 각각의 주변확률질량함수의 곱과 비교하여 같으면 독립입니다. 

모두 연속형 확률변수인 경우는 결합확률밀도함수를 각각의 주변확률밀도함수의 곱과 비교하여 같으면 독립입니다.

두 확률변수 $X$와 $Y$의 독립의 성질을 이용하여 독립 판별

성질 1

$${\rm E}[XY]=\mu_X\mu_Y$$

증명

$$\begin{align}
{\rm E}[XY] & = \int\int xyg(x)h(y)dxdy \\
& = \int xg(x)dx \int yh(y)dy \\
& = {\rm E}[X]{\rm E}[Y] \\
& = \mu_X\mu_Y \\
\end{align}$$

성질 2

확률변수 $X$와 $Y$가 독립이면 공분산은 0이 됩니다.

$${\rm Cov}(X,Y)=0$$

${\rm Cov}(X,Y)=0$이라고 해도 확률변수 $X$와 $Y$가 독립이라고 할 수 없습니다. $Cov(X,Y)=0$일 때 확률변수 $X$와 $Y$의 독립 판별은 모든 $x$, $y$에 대해 $f(x,y)=g(x)h(y)$ 인지 확인해야 합니다.

성질 3

확률변수 $X$와 $Y$가 독립이면 두 확률변수 합의 분산은 다음과 같습니다.

$${\rm Var}[X \pm Y]={\rm Var}[X]+{\rm Var}[Y]$$

여기서,  확률변수 $X$와 $Y$가 독립이면 ${\rm Cov}(X, Y)=0$

2.3. 두 확률변수의 선형결합

독립인 두 확률변수, $X$와 $Y$의 선형결합은 다음식으로 표현할 수 있습니다.

$$U=aX+bY$$

기대값의 식은

$${\rm E}[𝑈]=𝑎{\rm E}[𝑋]+𝑏{\rm E}[𝑌]$$

분산의 식은

$${\rm Var}[𝑈]=𝑎^2 {\rm Var}[𝑋]+𝑏^2{\rm Var}[𝑌]+2𝑎𝑏{\rm Cov}(𝑋,𝑌)$$

여기서,  확률변수 $X$와 $Y$가 독립이면 ${\rm Cov}(X,Y)=0$

$𝑋=𝑋_1+𝑋_2+\cdots+𝑋_𝑛$이며, $𝑋_1,𝑋_2,\cdots,𝑋_𝑛$가 서로 독립이라면 기대값의 식은

$${\rm E}[X]={\rm E}[X_1]+{\rm E}[X_2]+\cdots+{\rm E}[X_n]$$

$𝑋=𝑋_1+𝑋_2+\cdots+𝑋_𝑛$이며, $𝑋_1,𝑋_2,\cdots,𝑋_𝑛$가 서로 독립이라면 분산의 식은

$${\rm Var}[X]={\rm Var}[X_1]+{\rm Var}[X_2]+\cdots+{\rm Var}[X_n]$$

$𝑋=𝑋_1+𝑋_2+\cdots+𝑋_𝑛$이며, $𝑋_1,𝑋_2,\cdots,𝑋_𝑛$가 서로 독립이라면 공분산의 식은

$${\rm Cov}(X_i, X_j)=0$$

2.4. 두 확률변수의 상관계수

상관계수(correlation coefficient)는 두 연속형 변수의 선형관계를 나타내는 것 이외에 확률변수 $X$의 증감에 따른 확률변수 $Y$의 증감 정도를 나타내는 측도로도 사용할 수 있습니다. 그리고 상관계수는 두 확률변수의 선형결합에서의 계수비이므로 두 확률변수의 단위가 소거됩니다. 따라서 상관계수는 단위에 민감한 공분산의 문제점을 해결할 수 있습니다. 피어슨 상관계수는 다음과 같습니다.

$$\rho_{X,Y}=\dfrac{{\rm Cov}(X,Y)}{\sqrt{{\rm Var} [X]}\sqrt{{\rm Var}[Y]}}$$

여기서,  $-1 \leq \rho_{X,Y} \leq 1$

$\rho_{X,Y}$는 단위가 없는 값

상관계수는 ${\rm Cov}(X,Y)$를 각각의 표준편차인$\sqrt{{\rm Var}[X]}$와 $\sqrt{{\rm Var}[X]}$로 나눈 값입니다. 따라서 -1과 1 사이의 값을 가지고 단위에 민감한 공분산과 달리 단위가 없습니다. $\rho_{(X,Y)}$가 각각 1과 -1인 경우는 $ X$와 $Y$가 완벽한 상관을 이루는 경우입니다. 나머지 영역은 상관은 다음과 같이 분류할 수 있습니다.

정비례상관

$$0 \lt \rho_{(X,Y)} \lt 1$$

무상관

무상관은 서로 정보에 대해서 아무런 공유가 없다는 의미입니다.

$$\rho_{(X,Y)}=0$$

반비례상관

$$−1 \lt \rho_{(X,Y)} \lt 0$$

3.2. 함수

=ROWS(F2:F2) : 지정된 배열 또는 범위에 있는 행의 개수.

4.1 용어

확률변수

확률이론 및 통계에서 임의의 양, 임의의 변수, 즉 확률변수는 비공식적으로 값이 임의의 현상의 결과에 의존하는 변수로 설명됩니다.  확률변수에 대한 공식적인 수학적 설명은 확률이론의 주제입니다. 그 맥락에서, 확률변수는 결과가 일반적으로 실수인 확률공간에서 정의된 측정 가능한 함수로 이해할 수 있습니다.

확률변수의 가능한 값은 아직 수행되지 않은 실험의 가능한 결과 또는 이미 존재하는 값 불확실한 과거 실험의 가능한 결과인 경우를 나타내는 이미 존재하는 값으로 나타낼 수 있습니다 (예 : 부정확한 측정 또는 양자 불확실성으로 인해). 그들은 또한 개념적으로 “객관적”무작위 과정의 결과 또는 양에 대한 불완전한 지식으로 인한 “주관적인”무작위성”을 나타낼 수 있습니다. 확률변수의 잠재 가치에 할당된 확률의 의미는 확률 이론 자체의 일부가 아니며 확률의 해석에 대한 철학적 주장과 관련이 있습니다. 수학은 사용되는 특정 해석과 상관없이 동일하게 작동합니다.

함수로서 확률변수는 측정 가능해야 하며 확률은 잠재가치 집합으로 표현할 수 있습니다. 결과는 예측할 수 없는 몇 가지 물리적 변수에 달려 있을 수 있습니다. 예를 들어, 공정한 동전 던지기의 경우, 앞면 또는 뒷면의 최종 결과는 불확실한 동전의 물리적 조건에 달려 있습니다. 관찰되는 결과는 확실하지 않습니다. 동전의 표면에 균열이 생길 수 있지만 이러한 가능성은 고려 대상에서 제외됩니다.

확률변수의 존재 지역은 표본공간이며 임의의 현상의 가능한 결과의 집합으로 해석됩니다. 예를 들어, 동전 던지기의 경우 두 가지 가능한 결과, 즉 앞면 또는 뒷면이 그러합니다. 

확률변수는 확률분포를 가지며, 확률분포는 확률변수의 확률값을 지정합니다. 무작위 변수는 이산형일 수 있습니다. 즉, 임의의 변수의 확률분포의 확률 질량함수 특성이 부여된 유한한 값 또는 계산 가능한 값에서 하나를 취합니다. 또는 임의의 변수의 확률분포의 특징 인 확률밀도함수를 통해 간격 또는 연속된간격에서 임의의 수치 값을 취하는 연속 또는 두 유형의 혼합물 일 수 있습니다.

동일한 확률분포를 갖는 두 개의 확률 변수는 다른 확률 변수와의 관련성 또는 독립성 측면에서 다를 수 있습니다. 무작위 변수의 실현, 즉 변수의 확률분포 함수에 따라 무작위로 값을 선택한 결과를 무작위 변수라고 합니다.

Reference

Random variable – Wikipedia

연속, 불연속 변수

수학에서 변수는 연속이거나 이산일 수 있습니다. 두 개의 특정 실제 값 (예 : 임의의 가까운 값) 사이의 모든 실제 값을 취할 수 있는 경우 변수는 해당 간격에서 연속입니다. 변수가 가질 수 있는 값을 포함하지 않는 극한의 간격이 양측에 존재하는 값을 취할 수 있다면, 그 변수값을 중심으로 변수는 분리되고 그 변수는 이산형 변수입니다. 일부 상황에서는 변수가 선상의 일부 범위에서 이산이고 다른 변수에서는 연속일 수 있습니다.

Reference

Continuous or discrete variable – Wikipedia

상관(dependence)

통계에서 상관(dependence or association)은 두 확률변수(random variables or bivariate data)의 인과에는 무관한 단지 통계적 관계일 뿐입니다. 가장 넓은 의미에서 상관관계(correlation)는 통계적 연관성이지만 일반적으로는 한 쌍의 두 확률변수가 선형적으로 관련되는 정도를 나타냅니다. 상관에 부가되는 인과의 예는 부모와 자녀의 육체적인 체격 사이의 상관관계와 한정적으로 공급되는 제품에 대한 수요와 그 가격 간의 상관관계가 있습니다. 상관관계는 실제로 활용될 수 있는 예측가능한 관계(causal relationship)를 나타내기 때문에 유용합니다. 예를 들어, 발전소는 전기수요와 날씨 간의 상관관계를 기반으로 온화한 날에 적은 전력을 생산할 수 있습니다. 왜냐하면 극단적인 날씨에 사람들이 난방이나 냉방에 더 많은 전기를 사용하기 때문입니다.

일반적으로, 상관관계의 존재는 인과 관계의 존재를 추론하기에 충분하지 않습니다 (즉, 상관관계는 인과 관계를 의미하지 않습니다).

공식적으로, 확률변수가 확률적 독립(probabilistic independence)의 수학적 성질을 만족시키지 않는다면 종속변수입니다.

비공식적인 의미에서 상관관계는 종속성과 동의어입니다. 그러나 기술적인 의미에서 사용될 때, 상관은 평균값들 사이의 관계 중 어떤 몇 가지  특정 유형을 의미합니다. 상관의 정도를 나타내는  $\rho$ 또는 $r$로 표시되는 몇몇 상관계수가 있습니다. 이들 중 가장 널리 사용되는 것은 피어슨 상관계수(Pearson correlation coefficient)로 두 변수 사이의 선형관계를 잘 나타내 줍니다. 물론 한 변수가 다른 변수와 비선형관계일 때도 사용할 수 있습니다. 다른 상관계수는 Pearson 상관관계보다 강하게(robust) 개발되었기 떄문에 비선형 상관관계에서 더 민감합니다. 상호정보(Mutual information)는 두 변수 사이의 상관을 측정하는 데에도 적용될 수 있습니다.

Reference

Correlation and dependence – Wikipedia

4.2. 참고문헌

https://en.wikipedia.org/wiki/Independent_and_identically_distributed_random_variables

2.1. 확률실험(Random Experiment)

확률실험은 동일한 조건으로 실험을 반복하더라도 그 실험의 결과가 임의의 형태로 나타나는 특징을 갖는 실험입니다. 따라서 확률실험의 결과는 결과와 그에 따른 확률로 표현하게 됩니다. 예를 들면, 동전 던지기, 주사위 굴리기, 갈톤보드실험, 키와 몸무게 관측 등이 있습니다.

표본공간(Sample Space)

표본공간은 확률실험의 모든 발생 가능한 결과들의 집합입니다. 주로 대문자 “S”로 표기합니다. 동전 던지기, 주사위, 키 관측의 확률실험에 대한 표본공간($S$)은 다음과 같습니다.

동전 던지기 확률실험의 결과인 표본공간

$$S=\{H,T\}$$

주사위 굴리기 확률실험의 결과인 표본공간

$$S=\{1,2,3,4,5,6\}$$

성인남성 키 관측 확률실험의 결과인 표본공간

$$S=\{x:110 \leq x \leq 190 (cm)\}$$

사건(事件, 사상, 事象, Event)

사건은 확률실험에서 관심이 있는 실험결과들만의 집합입니다. 따라서, 사건은 표본공간의 부분집합입니다. 사건의 표기는 대문자 알파벳(A, B, C, …)으로 합니다. 확률실험과 표본공간과 사건의 예는 다음과 같습니다.

주사위 던지기 확률실험의 결과인 표본공간

$$S =\{1, 2, 3, 4, 5, 6\}$$

주사위 던지기 확률실험의 결과가 짝수인 사건

$$A=\{2, 4, 6\}$$

주사위 던지기 확률실험의 결과가 홀수인 사건

$$B=\{1, 3, 5\}$$

주사위 던지기 확률실험의 결과가 4 이상인 사건

$$C=\{4, 5, 6\}$$

2.2. 집합의 연산으로 사건을 표현

사건은 사건의 결과의 집합으로 표현할 수 있습니다. 그리고 집합의 연산으로도 사건을 다음과 같이 표현할 수 있습니다.

합사건(合事件, Sum event)

사건 A와 B의 합집합($A \cup B$)으로 표현합니다. U는 union에서 따온 철자입니다. 다시말하면, 합사건은 사건A 또는 사건 B의 결과인 원소들의 집합으로 표현됩니다. 이때 사건 A에도 있고 사건 B에도 있는 원소는 한 번만 기입합니다.

$$A \cup B$$

곱사건(Product event)

사건 A와 B의 교집합($A \cap B$)으로 표현합니다.  A Interaction B 또는 A and B 라고도 표기하며 간단하게는 AB 라고 표기합니다. 곱사건은 사건 A의 결과이고 사건 B의 결과이기도 한 원소들의 집합으로 표현합니다.

$$A \cap B$$

여사건(餘事件, Complementary event)

사건 C의 여사건은 사건 C의 여집합 ($C^{\prime}$)으로 표현합니다. 표본공간에서 사건 C의 원소만 제외한 원소들로 표현합니다.

$$C^{\prime}$$

공사건(空事件, Empty event)

어떤 결과도 없는 사건은 공집합을 나타내는 기호인  $\phi$(파이)로 표기합니다.  공집합은 원소가 없는 집합입니다.

공집합과 “0”을 원소로 가지는 집합인 {0}은 다르므로 반드시 구별하여야 합니다.

$$\phi$$

전사건(全事件, Total event)

전사건은 확률실험에서 일어날 수 있는 모든 사건입니다. 예를 들면 ‘자연수를 임의로 골랐을 때 홀수 또는 짝수가 나올 사건’ 입니다. 전사건이 일어날 확률은 1이며, 전사건의 여사건은 공사건입니다. 전체집합으로 표현됩니다.

영사건(零事件, Null event)

사건결과가 있지만 일어날 확률이 0인 사건입니다. 영사건의 예로는 무작위로 선택되는 $0 \leq x \leq 1$인 임의의 실수 $x$가 무엇인지 맞추는 사건, 실수 전체에서 유리수를 뽑는 사건 등이 있습니다.  확률밀도함수에서 특정 실수 확률변수값에의 확률이 0인 것과 같은 예입니다. 영사건은 공사건과 같아 보이지만 공사건은 영사건의 부분집합입니다. 즉, 공사건은 영사건이지만 영사건이라고 해서 반드시 공사건이 되는 것은 아닙니다.

배반사건(排反事件, Exclusive event)

두 개의 사건이 동시에 일어날 수 없으면 그 두 사건은 서로 배반사건입니다.배반사건들은 한 사건이 일어날 때 다른 사건이 절대 일어나지 않는 관계입니다.  서로 “직교(orthogonal)” 또는 “서로 소”라고도 표현합니다.

2.3. 사건간의 관계

표본공간의 부분집합으로 여러개의 사건이 있을 때 그 사건들간에는 상호 배타관계, 포괄관계, 표본공간을 분할하는 관계 등이 있습니다.

상호배타(Mutually Exclusive)관계

두 집합의 교집합이 공집합이면 이 두 집합은 상호 배타적인 관계라고 합니다.

$$A \cap B=\phi$$

둘 이상의 대상 사이에서 각각 상호 베타적인(Exclusive)인 경우입니다. 예를 들어, 한 사건의 뱔생이 다른 사건들의 발생을 차단한다면 그 사건들은 상호 배타적입니다.

상호포괄(Collectively Exhaustive) 관계

사건 A와 사건 B의 합집합이 표본공간이면 상호포괄관계입니다.

$$A \cup B=S$$

표본공간을 분할(Partition)하는 관계

여러 개의 사건이 상호배반(背反)관계와 동시에 상호포괄관계를 갖는 경우입니다.

3.2. 함수

=ROWS(F2:F2) : 지정된 배열 또는 범위에 있는 행의 개수.

4.1 용어

표본공간(sample space)

확률이론에서 무작위 실험의 표본공간 (표본표현공간, 이벤트공간 또는 가능성공간이라고도 함)은 실험의 가능한 모든 결과 또는 결과의 집합입니다. 표본공간은 일반적으로 집합 표기법을 사용하여 표시되며 가능한 결과가 집합의 요소로 나열됩니다. 표본공간을 S, Ω 또는 U레이블로 나타내는 것이 일반적입니다 (일반적인 집합의 경우).

예를 들어, 실험에서 동전을 던지면 표본공간은 일반적으로 집합기호로 표시되며 {앞면, 뒷면}입니다. 두 개의 동전을 던지기에 대응하는 표본공간은 {(앞면, 앞면), (앞면, 뒷면), (뒷면, 앞면), (뒷면, 뒷면)} 또는 일반적으로 기호를 사용하여 {HH, HT, TH, TT}로 표현됩니다. 표본공간에서 순서를 무시하면 {(앞면, 뒷면), (앞면, 뒷면), (뒷면, 뒷면)}이됩니다. 하나의 6 면체 주사위를 던지기에 대응하는 일반적인 표본공간은 {1, 2, 3, 4, 5, 6}입니다(주사위 던지기 시행의 결과인 사건은 주사위의 위로 향한 면에 적혀있는 수입니다). 잘 정의된 표본공간은 확률모델(확률공간)의 세 가지 기본 요소 중 하나입니다. 다른 두 가지는 가능한 시행(event : $\sigma$대수)과 각 시행의 결과(사건)에 할당된 확률(확률측정함수 : 확률질량함수 또는 확률밀도함수)입니다.

Reference

Sample space – Wikipedia

4.2. 참고문헌

https://en.wikipedia.org/wiki/Experiment_(probability_theory)

2.1 주사위 던지기의 확률변수

12면 주사위는 확률변수값이 12개입니다. 여기서도 주사위를 던진다는 시행(Trial)이 전제되어야 사건(Event)이 발생하고 확률이 존재합니다.

확률변수(Random Variable,  Stochastic Variable, 確率變數)를 나타내는 기호로는 알파벳 대문자를 사용합니다.

$X$

확률변수의 값(Value of random variable)은 확률변수에서 사용한 알파벳의 소문자를 사용합니다. 그리고 구분자는 아래첨자를 사용하기도 합니다.

$x_1, x_2, x_3$, …

확률변수는 다음과 같이 설명할 수도 있습니다.

확률을 가지는 변수

시행(Trial)을 해서 어떤 사건이 나타났는지 보면  값이 정해지는 변수

시행을 많이 해서 평균을 구하면 어떤 값, 즉 기대값에 수렴하는 변수

특별히 범주형 확률변수의 예를 들면 다음이 같은 것들이 있습니다.

동전의 확률변수값 : 앞면, 뒷면

6면 주사위의 확률변수값 : 1면,2면,3면,4면,5면,6면

12면 주사위의 확률변수값  : 1면,2면,3면,4면,5면,6면,7면,8면,9면,10면,11면,12면

과녁의 확률변수명 : 노랑, 빨강, 파랑, 검정

시행(Trial)의 결과를 사건(Event)이라하고 시행의 결과는 확률변수와 대응될 수 있습니다. 시행의 결과(Sample)가 시행공간(Sample space)안에 항상 존재한다면 그 변수는 확률을 가질 수 있는 변수, 즉 확률변수(Random variable)입니다. 확률변수가 가지는 확률값의 합은 1이거나 100%입니다.

확률변수의 예와 관측에 사용되는 척도를 살펴보면 동전던지기라는 시행으로 생성된 시행공간은 동전의 앞면과 뒷면입니다. 이 시행공간을 확률변수로 대응한다면 범주형 확률변수입니다. 그리고 척도로는 명목척도가 사용됩니다. 주사위도 마찬가지로 6면을 1에서 6까의 숫자로 표시하였을 때 주사위 던지기라는 시행에서 시행공간은 1, 2, 3, 4, 5, 6의 숫자이며 이는 바로 확률변수값이 됩니다. 그리고 이 확률변수는 수치형중에서 연속형이 아닌 이산형 확률변수입니다. 그리고 척도로는 수식계산이 가능한 간격척도가 사용됩니다.

3.2. 함수

=ROWS(F2:F2) : 지정된 배열 또는 범위에 있는 행의 개수.

4.1 용어

확률변수

확률이론 및 통계에서 임의의 양, 임의의 변수, 즉 확률변수는 비공식적으로 값이 임의의 현상의 결과에 의존하는 변수로 설명됩니다.  확률변수에 대한 공식적인 수학적 설명은 확률이론의 주제입니다. 그 맥락에서, 확률변수는 결과가 일반적으로 실수인 확률공간에서 정의된 측정 가능한 함수로 이해할 수 있습니다.

확률변수의 가능한 값은 아직 수행되지 않은 실험의 가능한 결과 또는 이미 존재하는 값 불확실한 과거 실험의 가능한 결과인 경우를 나타내는 이미 존재하는 값으로 나타낼 수 있습니다 (예 : 부정확한 측정 또는 양자 불확실성으로 인해). 그들은 또한 개념적으로 “객관적”무작위 과정의 결과 또는 양에 대한 불완전한 지식으로 인한 “주관적인”무작위성”을 나타낼 수 있습니다. 확률변수의 잠재 가치에 할당된 확률의 의미는 확률 이론 자체의 일부가 아니며 확률의 해석에 대한 철학적 주장과 관련이 있습니다. 수학은 사용되는 특정 해석과 상관없이 동일하게 작동합니다.

함수로서 확률변수는 측정 가능해야 하며 확률은 잠재가치 집합으로 표현할 수 있습니다. 결과는 예측할 수 없는 몇 가지 물리적 변수에 달려 있을 수 있습니다. 예를 들어, 공정한 동전 던지기의 경우, 앞면 또는 뒷면의 최종 결과는 불확실한 동전의 물리적 조건에 달려 있습니다. 관찰되는 결과는 확실하지 않습니다. 동전의 표면에 균열이 생길 수 있지만 이러한 가능성은 고려 대상에서 제외됩니다.

확률변수의 존재 지역은 표본공간이며 임의의 현상의 가능한 결과의 집합으로 해석됩니다. 예를 들어, 동전 던지기의 경우 두 가지 가능한 결과, 즉 앞면 또는 뒷면이 그러합니다. 

확률변수는 확률분포를 가지며, 확률분포는 확률변수의 확률값을 지정합니다. 무작위 변수는 이산형일 수 있습니다. 즉, 임의의 변수의 확률분포의 확률 질량함수 특성이 부여된 유한한 값 또는 계산 가능한 값에서 하나를 취합니다. 또는 임의의 변수의 확률분포의 특징 인 확률밀도함수를 통해 간격 또는 연속된간격에서 임의의 수치 값을 취하는 연속 또는 두 유형의 혼합물 일 수 있습니다.

동일한 확률분포를 갖는 두 개의 확률 변수는 다른 확률 변수와의 관련성 또는 독립성 측면에서 다를 수 있습니다. 무작위 변수의 실현, 즉 변수의 확률분포 함수에 따라 무작위로 값을 선택한 결과를 무작위 변수라고 합니다.

Reference

Random variable – Wikipedia

시행

확률이론에서, 실험이나 시행은 무한히 반복되어 행해 질 수 있고 표본공간으로 알려진 가능한 모든 결과의 집합을 얻는 과정을 말합니다. 실험은 하나 이상의 결과가 있을 경우는 “무작위”로, 하나만 있는 경우는 “결정적”으로 표현합니다. 예를 들면,  2 가지(결과는 상호 배타적) 가능한 결과를 갖는 무작위 실험은 베르누이 시험이 있습니다.

실험이 수행 될 때, 시행의 결과는 보통 하나로 나타납니다. 그 결과는 모든 사건에 포함됩니다. 이 모든 사건은 시행에서 발생했다고 말합니다. 같은 실험을 여러 번 수행하고 결과를 모으고 나면 실험자는 실험에서 발생할 수 있는 다양한 결과 및 사건의 경험적 확률을 평가하고 통계분석방법을 적용할 수 있습니다.

Reference

Experiment (probability theory) – Wikipedia

4.2. 참고문헌

Dice – Wikipedia

2.1 활쏘기의 확률변수

궁수가 과녁 정중앙을 겨누고 천발의 화살을 쏩니다. 과녁에 꽂힌 1000발의 화살의 분포는 궁수의 실력을 나타낸다고 할 수 있습니다. 궁수의 실력을 숫자로 나타내기 위해 과녁을 점수판으로 만듭니다. 궁수는 활쏘기 시행(Event)에서 10점, 8점, 6점, 4점, 0점중에서 반드시 한개를 취득하게 됩니다. 그래서 점수를 확률변수로 하고 확률분포를 보면 는 궁수의 실력을 알 수 있습니다. 그래서 확률(Probability)을 과녁(Stochastic)이라고도  표현합니다.

활쏘기를 시행하고 나온 점수로 도수분포도(Frequency Chart)를 그려 봅니다. 애니메이션에 나온 궁수는 8점의 빈도수가 제일 높은 도수분포를 나타내고 있습니다. 그리고 궁수의 실력을 나타내는 도수분포도를 그려서 확률질량함수를 추정해 볼 수 있습니다.

만일,  과녁의 중앙점에서 화살이 꽂힌 거리를 연속형 확률변수로 하여 상당히 많은 횟수(예를 들면 만 번)를 쏘아서 도수분포도를 그려서 확률밀도함수를 추정해 볼 수 있습니다. 이를 궁수의 실력을 나타내는 통계라고 할 수 있습니다 그리고 궁수의 실력을 정확하게 평가하기 위해서는 과녁의 크기와 간격, 그리고 점수값을 잘 정해야 할 것입니다.

이산형 확률변수와 연속형 확률변수를 비교해 봅니다. 이산형 확률변수(discrete variable)는 이어지지 않습니다. 이산확률변수값을 확률질량함수에 대입하면 확률을 구할 수 있습니다. 연속향 확률변수(continuous variable)는 이어집니다. 따라서 확률을 구할 때는 확률변수 구간을 확률밀도함수에 적용하여 면적을 구해 확률을 구합니다. 즉,  구간에 걸쳐 확률밀도를 적분한 면적이 그 구간의 확률이 됩니다. 아래 표에는 이산형 확률변수와 연속형 확률변수의 특징을 나타내었습니다.

이산형 확률변수와 연속형 확률변수 비교

3.1 용어

연속, 불연속 변수

수학에서 변수는 연속이거나 이산일 수 있습니다. 두 개의 특정 실제 값 (예 : 임의의 가까운 값) 사이의 모든 실제 값을 취할 수 있는 경우 변수는 해당 간격에서 연속입니다. 변수가 가질 수 있는 값을 포함하지 않는 극한의 간격이 양측에 존재하는 값을 취할 수 있다면, 그 변수값을 중심으로 변수는 분리되고 그 변수는 이산형 변수입니다. 일부 상황에서는 변수가 선상의 일부 범위에서 이산이고 다른 변수에서는 연속일 수 있습니다.

Reference

Continuous or discrete variable – Wikipedia

확률변수

확률이론 및 통계에서 임의의 양, 임의의 변수, 즉 확률변수는 비공식적으로 값이 임의의 현상의 결과에 의존하는 변수로 설명됩니다.  확률변수에 대한 공식적인 수학적 설명은 확률이론의 주제입니다. 그 맥락에서, 확률변수는 결과가 일반적으로 실수인 확률공간에서 정의된 측정 가능한 함수로 이해할 수 있습니다.

확률변수의 가능한 값은 아직 수행되지 않은 실험의 가능한 결과 또는 이미 존재하는 값 불확실한 과거 실험의 가능한 결과인 경우를 나타내는 이미 존재하는 값으로 나타낼 수 있습니다 (예 : 부정확한 측정 또는 양자 불확실성으로 인해). 그들은 또한 개념적으로 “객관적”무작위 과정의 결과 또는 양에 대한 불완전한 지식으로 인한 “주관적인”무작위성”을 나타낼 수 있습니다. 확률변수의 잠재 가치에 할당된 확률의 의미는 확률 이론 자체의 일부가 아니며 확률의 해석에 대한 철학적 주장과 관련이 있습니다. 수학은 사용되는 특정 해석과 상관없이 동일하게 작동합니다.

함수로서 확률변수는 측정 가능해야 하며 확률은 잠재가치 집합으로 표현할 수 있습니다. 결과는 예측할 수 없는 몇 가지 물리적 변수에 달려 있을 수 있습니다. 예를 들어, 공정한 동전 던지기의 경우, 앞면 또는 뒷면의 최종 결과는 불확실한 동전의 물리적 조건에 달려 있습니다. 관찰되는 결과는 확실하지 않습니다. 동전의 표면에 균열이 생길 수 있지만 이러한 가능성은 고려 대상에서 제외됩니다.

확률변수의 존재 지역은 표본공간이며 임의의 현상의 가능한 결과의 집합으로 해석됩니다. 예를 들어, 동전 던지기의 경우 두 가지 가능한 결과, 즉 앞면 또는 뒷면이 그러합니다. 

확률변수는 확률분포를 가지며, 확률분포는 확률변수의 확률값을 지정합니다. 무작위 변수는 이산형일 수 있습니다. 즉, 임의의 변수의 확률분포의 확률 질량함수 특성이 부여된 유한한 값 또는 계산 가능한 값에서 하나를 취합니다. 또는 임의의 변수의 확률분포의 특징 인 확률밀도함수를 통해 간격 또는 연속된간격에서 임의의 수치 값을 취하는 연속 또는 두 유형의 혼합물 일 수 있습니다.

동일한 확률분포를 갖는 두 개의 확률 변수는 다른 확률 변수와의 관련성 또는 독립성 측면에서 다를 수 있습니다. 무작위 변수의 실현, 즉 변수의 확률분포 함수에 따라 무작위로 값을 선택한 결과를 무작위 변수라고 합니다.

Reference

Random variable – Wikipedia

2.1 갈톤보드의 확률변수

동전던지기처럼 확률을 느껴보는 대표적인 실험으로는 Galton보드가 있습니다. 동전던지기 결과가 동전의 두 면 중에서 한 면을 선택하는 것처럼 갈톤보드는 구슬이 분기점을 지날 때  두 방향 중에서 한 쪽 만을 선택하게 되어 있습니다.

갈톤보드에 구슬을 굴린다는 것은 갈톤보드의 분기점 수 만큼의 동전을 던지는 것과 같은 효과를 냅니다. 동전던지기에서  앞면이 나온 동전의 수와 일치하게 갈톤보드에서 포켓에 번호를 매길 수 있습니다. 예를 들면 동전 4개 던지기는 분기수가 4인 갈톤보드로 생각할 수 있고 갈톤보드 포켓의 번호를 0, 1, 2, 3, 4 로 적는다면 한 개의 구슬이 굴러 들어간 포켓에 적힌 숫자는 4개의 동전을 던질 때 앞면이 나온 숫자와 관련 지을 수 있습니다.

애니메이션에서는  구슬 하나를 분기점이 8개 있는 갈톤보드에 굴리면 동전을 8개 던진 것과 같은 효과가 있음을 보여줍니다. 구체적으로는 동전 8개를 동시에 던져서 나온 1의  합이  8번의 분기점을 가지는 갈톤보드에 1개의 구슬을 굴려 들어간  포켓에 적힌 번호와 같음을 알 수 있습니다. 극단적으로는 8개 동전 모두 1이 나올 경우와 8개 동전 모두 0이 나올 경우가 있습니다. 그리고 8개 동전을 던졌을 때 1이 나올 동전의 숫자는 0부터 8까지이고  경우의 수는 9입니다. 일반화하면  경우의 수는 동전의 수(갈톤보드에서는 구슬이 만나는 분기점의 수) + 1 입니다.

구슬을 여러번 굴린다는 것은 동전던지기를 여러번 한다는 것입니다. 갈톤보드를 사용하면 동전던지기를 한후 나온 앞면의 수를 더하는 수고를 안해도 되는 좋은점이 있습니다. 즉, 여러번 시행을 하면 갈톤보드는 종모양의 분포를 보여줍니다. 이 모양은 도수분포를 의미하며 확률분포라 할 수 있습니다. 여기서 종모양의 확률분포를 이항분포(binomial distribution)라 부릅니다. 

갈톤보드는 두 가지 중 어느 한 쪽을 선택하는 분기의 연속된 수행 결과의 합으로 구성되어 있다고 볼 수 있습니다. 즉,  어느 한 쪽을 선택하는 시행을 지칭하는 베르누이 시행의 반복해서 나온 합의 결과를 표현한다고 할 수 있습니다.

애니메이션에서 같톤보드의 너비를 고정하고 분기 수를 8개와 32개로 늘려 보았습니다. 같은 종모양이지만 분기 수가 클 때 더 가운데에 모이는 것을 볼 수 있습니다. 중심극한정리(Central Limit Theorem)를 시각적으로 보여주고 있습니다.

3.2. 구글시트 함수

=준비 중입니다. 

4.1 용어

2.1 동전 여러개 던지기의 확률변수

앞면과 뒷면에 1과 0이 표시된 동전, 열개가 있습니다. 열개의 동전을 바닥에 던지고  1이 나온 동전의 수를 관찰하는 시행을 해 봅니다. 이 시행은 위를 향하는 숫자의 합을 관측하는 시행이라고도 할 수 있습니다. 이 시행의 확률변수를 정해 봅니다.  확률변수는 시행 후 1이 표시된 동전의 수라고 할 수 있습니다. 따라서 확률변수의 값들은 0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10의 열 한개가 있을 수 있습니다. 주목할 사실은 동전의 수는 10개인데 확률변수의 가지수는 11개가 됩니다.

 0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10의 확률변수에 대응하는 확률은 어떤 값인지를 알아봅니다. 확률변수에 대응하는 확률을 알기 위해서 가장 중요한 전제로는 동전의 앞면 또는 뒷면이 나올 확률을 알아야 한다는 것입니다. 보통 동전의 앞 뒷면이 나올 확률은 반반으로 0.5라고 정합니다. 

가장 큰 확률을 가지는  확률변수값은 어떤 수 일까요? 직관적으로  동전이 10개일 때는 5입니다. 그리고 역시 직관적으로 이 시행의 기대값은  5입니다.

3.2. 구글시트 함수

=준비 중 입니다. 

4.1 용어

2.1 동전 한개 던지기의 확률변수

두 면에 0과 1이 적혀 있는 동전이 있습니다. 이 동전 한 개를 바닥에 던져서 윗면의 숫자를 관측하는 것을 시행(try)이라고 한다면 시행의 결과를 알 수 있습니다. 즉, 바닥에 던져진 동전이 0이나 1을 나타내는 것을 시행의 결과라고 합니다. 다르게 표현하면, 시행의 결과가 존재하는 시행공간(Sample Space)에 0과 1이 있다고 할 수 있습니다.

0과 1이외의 시행결과는 없고 동전의 모양으로  각 시행결과에 해당하는 확률(Probability)값을 적용할 수 있습니다. 여기서 0과 1이 나올수 있는 정도, 즉 확률은 동전일 경우 반반으로 표현합니다. 총합은 확률의 정의에 의하여 1이 됩니다.

동전의 면에 적혀있는 0과 1을 확률변수라고 하고 각각 0.5의 확률을 가지게 됩니다. 또한 시행을 할때 기대하는 확률변수의 값을 기대값이라고 합니다.

한 개의 동전을 바닥에 던지는 시행에서의 기대값은 0도 아니고 1도 아닌 0.5가 됩니다. 동전에 새겨있지 않은 0.5라는 숫자입니다.

물론 가중평균을 구하는 방법에 따라 확률변수 0과 확률 0.5의 곱 그리고 확률변수 1과 확률 0.5의 곱의 합  0.5를  기대값이라 할 수 있습니다.

정리하면

시행 : 앞면과 뒷면에 1과 0이 표시된 동전 1개를 바닥에 던져서 나오는 숫자를 관측

시행공간 : {0, 1}

사건 : 0 이 관측됨

사건 : 1 이 관측됨

확률변수 : 0과 1이 새겨진 동전을 던져서 관측되는 값

확률변수값 : 0과 1

확률변수값의 가중 평균 : 0.5

기대값 : 0.5

0과 1이 새겨진 동전을 던져 위를 향하는 수를 확률변수라 할때 확률변수의 값과 대응되는 확률을 표로 정리하면 아래표와 같습니다.

3.2. 구글시트 함수

=준비 중 입니다. 

4.1 용어

2.1. 확률변수의 예

확률변수의 이름을 “로또복권의 등수”라 한다면 확률변수값은 1등, 2등, 3등, 4등, 5등 그리고 꽝으로 총 6개가 있을 수 있습니다.  여기서 “로또복권의 등수”는 범주형 확률변수입니다. 그리고 6개의 확률변수값으로 구성됩니다. 로또복권의 한 회차의 판매를 마감하면 각 등수에 대한 확률도 규정된 수식에 의해 계산될 수 있습니다.

간단한 예로 동전던지기를 한 후 나온 윗면을 범주형 확률변수라 할 수 있습니다. 만일, 0과 1을 써 놓은 동전은 확률변수값으로 0과 1 두 개를 가지게 되고 동전던지기를 한 후 나온 윗면은 이산형 확률변수가 됩니다. 그리고 완벽하게 두 면이 대칭된 동전이라면 한 개의 동전을 던져서 나온 확률변수값은  0과 1 두 개이고 확률변수값이 가지는 확률은 각각 1/2로 같습니다. 여기서 확률(probability)이 있다는 것은 사건(event)이 있다는 것을 전제합니다. 즉, 동전을 던져서  윗면의 숫자를 관측한다는 실제적인 시행(trial)을 해야 시행의 결과인 사건(event)이 나타납니다. 여기서 사건은 0과 1 두가지가 있습니다. 동전의 한 면이 나올 확률을 일반화하여 $p$라고 하면 다른 한면의 확률은 $(1-p)$가 됩니다. 이런 경우를 특별히 베르누이 시행(Bernoulli try) 또는 베르누이 프로세스(Bernoulli process)라고 합니다.

12면 주사위는 확률변수값이 12개입니다. 여기서도 주사위를 던진다는 시행(trial)이 전제되어야 사건(event)이 발생하고 확률이 존재합니다. 한편, 궁수가 과녁에 화살을 쏘는 행위를 할 때 확률변수는 과녁의 나누어진 면적이 될 수도 있고 과녁이 나누어지지 않고 중심만 있을 때는 중심에서 떨어진 거리가 될 수 있습니다.

또 다른 예로 궁수의 실력을 확률변수로 표현할 수 있습니다. 궁수가 활을 쏜 후 관측된 점수를 확률변수값으로 하면 궁수의 실력, 즉 궁수의 점수는 확률변수라 할 수 있습니다. 이렇게 관측된 확률변수값을 데이터라고도 합니다. 궁수의  데이터가 많을 수록 궁수의 실력을 보다 정확히 말할 수 있습니다. 궁수의 실력을 나타내는 확률분포는 궁수가 많이 쏠수록 궁수의 실력을 더 잘 반영할 것입니다. 그렇지만, 데이터가 충분히 많고 그 데이터가 좋게 나온 궁수가 활쏘기 대회에서 우승한다고 단언할 수 는 없습니다. 확률이 높다고만 할 수 있고  기대값만 말할 수 있지 활쏘기 대회에서 어떤 점수가 나올지 모르기 때문입니다. 만일 활쏘기 횟수가 적은 대회라면 더더욱 우승을 예측하기는 어려울 수 있습니다. 표적은 면적으로 확률을 잘 설명할 수 있는 예입니다. 그래서 확률을 영어로 probability(가능성)뿐만아니라  stochastic(표적)으로도 표현합니다.

범주형 확률변수의 확률변수값의 예를 보면 다음과 같습니다.

– 동전의 확률변수값 : 앞면, 뒷면

– 6면 주사위의 확률변수값 : 1면, 2면, 3면, 4면, 5면, 6면

– 12면 주사위의 확률변수값 : 1면, 2면, 3면, 4면, 5면, 6면, 7면, 8면, 9면, 10면, 11면, 12면

– 과녁의 확률변수명 : 노랑, 빨강, 파랑, 검정

범주형 확률변수의 확률변수값은 질적속성을 나타내므로 질적 확률변수라고도 합니다. 이에 반해 확률변수값이 양적인 수치를 가지는 확률변수를 양적 확률변수라고 합니다. 양적 확률변수를 수치형 확률변수라고도 합니다. 양적 확률변수는 다시 이산형 확률변수와 연속형 확률변수로 나누어 집니다.

2.2. 변수(變數, variable)와 확률변수(random variable)

변수는 정해지지 않은 수, 변하는 값을 나타내는 문자입니다. 보통 사칙연산이 가능한 수(數)를 대신하는 대수(代數)인 알파벳을 이용해서 표현합니다. 확률변수도 변수입니다. 변수에서의 정의역은 확률변수에서는 지지집합(support)에 해당합니다. 지지집합은 확률이 나타나는 확률변수의 집합입니다. 그리고 확률변수는 고유한 확률분포를 가집니다.

2.3. 확률변수(random variable)

확률변수(random variable)는 말 그대로 확률을 가지는 변수입니다. 변수이기 때문에 어떤 값을 가질지는 모르지만 변수값에 따라 나올 가능성, 즉 확률(probability)이 정해져 있는 변수를 확률변수라고 합니다. 예를 들어 로또복권은 등수에 따라서 각각 다른 확률을 가지게 됩니다. 따라서 등수는 확률변수가 됩니다. 확률변수를 표현하려면 확률변수명을 정하고 확률변수값에 대한 정의를 내리면 됩니다. 물론 확률도 확률변수값에 대응하여 표현하면 됩니다.

확률변수의 관측에 사용되는 척도를 살펴보면 동전던지기라는 시행으로 생성된 시행공간은 동전의 앞면과 뒷면입니다. 이 시행공간을 확률변수로 대응한다면 범주형 확률변수입니다. 여기서 척도로는 명목척도가 사용됩니다. 주사위도 마찬가지로 6면을 1에서 6까지의 숫자로 표시하였을 때 “주사위 던지기”라는 시행에서 시행공간은 1, 2, 3, 4, 5, 6의 숫자이며 이는 바로 확률변수값으로 사용할 수 있습니다. 그리고 이 확률변수는 수치형(양적 데이터) 중에서 연속형이 아닌 이산형 확률변수입니다. 그리고 척도로는 수식계산이 가능한 간격척도가 사용됩니다.

확률변수의 설명을 정리하면 다음과 같습니다.

– 확률을 가지는 변수 : 특별히, 연속형 확률변수의 경우는 구간이 주어져야 확률을 가짐. 즉, 점에서의 확률은 0

– 시행(Trial)을 해서 어떤 사건이 나타났는지 보고  값이 정해지는 변수

– 시행을 많이 해서 평균을 구하면 어떤 값, 즉 기대값에 수렴하는 변수

확률변수(random variable, stochastic variable, 確率變數)는 알파벳 대문자로 표기합니다. 아래 첨자로 확률변수를 구분하기도 합니다.

$X, \, Y, \, Z$ 

$X_1, \, X_2, \, X_3$

한 확률변수의 값(Value of random variable)은 확률변수에서 사용한 알파벳의 소문자를 사용합니다. 그리고 구분자는 아래첨자를 사용하기도 합니다.

$x_1, x_2, x_3$, …

$x_{11}, x_{12}, x_{13}$, …

2.4. 확률변수값의 속성과 확률변수값을 원소로 가지는 집합에 따른 확률변수의 분류

범주형 확률변수 – 유한집합으로 표현 : 확률변수값은 수치가 아닌 기호나 언어로 표현, 기호나 언어는 순서를 가질 수도 있음

유한집합은 원소의 수가 유한한 집합입니다.

범주형 확률변수의 예 – 동전에 기호를 적고 동전을 던져 결과를 보는 경우

$$\{\text{앞 면, 뒷 면}\}$$

$$\{\text{H, T}\}$$

기호를 적지 않고 동전을 바닥에 던져 관측하고 난 후 표현하는 경우  

$$\{\text{보이는 면, 안 보이는 면}\}$$

동전의 두면에 수치를 적으면 이산형 확률변수가 됩니다.

$$\{1, 2\}$$

$$\{0, 100\}$$

범주형 확률변수의 예 – 설문지 문항의 답

$$\{\text{싫다, 좋다}\}$$

$$\{\text{동의하지 않는다, 동의한다}\}$$

$$\{\text{매우동의하지 않는다, 동의하지 않는다, 중간이다, 동의한다, 매우 동의한다}\}$$

이산형 확률변수- 유한집합 또는 셀 수 있는 무한집합으로 표현 : 확률변수값은 수치로 표현 (예를 들어 빈도수인 경우는 자연수)

유한집합은 원소의 수가 유한한 집합입니다.

$$\{0, 1, 2, 3 \}$$

이산형 확률변수의 예 : 육각주사위에 수치를 적고 결과를 보는 경우

$$\{\text{1, 2, 3, 4, 5, 6}\}$$

$$\{\text{1, 10, 100, 1,000, 10,000, 100,000}\}$$

육각주사위에 기호를 적으면 범주형 확률변수가 됩니다.

$$\{\text{1면, 2면, 3면, 4면, 5면, 6면}\}$$

$$\{\text{A, B, C, D, E, F}\}$$

셀 수 있는 무한집합은 원소의 수가 무한 개이지만 셀 수 있는 집합입니다.

$$\{0, 1, 2, 3, \cdots \}$$

연속형 확률변수 – 셀 수 없는 무한집합으로 표현 : 확률변수는 구간을 나타내는 수치로 표현

셀 수 없는 무한집합은 원소의 수가 무한이며 셀 수 없는 경우입니다.

$$155.5 <X<180.2$$

2.5. 범주형 확률변수(categorical random variable)

확률변수는 확률실험의 발생 가능한 결과에 하나의 값을 배정하는 함수입니다. 범주형 확률변수도 고유한 확률분포를 따릅니다. 범주형 확률변수는 숫자일 필요는 없습니다. 기호나 단어여도 됩니다. 예를 들면, 동전의 면, 12면 주사위의 면, 과녁, 한우등급 등입니다. 범주형 확률변수의 확률변수값은 기호나 단어인 경우가 많습니다. 

범주형 확률변수의 확률분포 – 확률질량함수 (probability mass function)로 표현 : 순서를 가지고 순서간 간격을 정하면 누적확률분포로 표현가능

확률질량함수 $f(x)$는 범주형 확률변수 $X$가 $x$를 변수값으로 가질 때의 확률입니다. 

$$f(x)=P(X=x)$$

모든 $x$에 대한 $f(x)$의 합은 1입니다.

$$\sum\limits_{{\rm all} \,\, x}f(x)=1$$

확률의 공리에 따라 0에서1까지의 범위를 갖습니다.

$$0 \leq f(x) \leq 1$$

2.6. 이산형 확률변수(discrete random variable)

확률변수 $X$의 $R_X$가 유한집합 또는 셀 수 있는 무한집합의 경우, 확률변수, $X$를 이산형 확률변수라고 합니다.

이산형 확률변수의 확률분포 – 확률질량함수 (probability mass function) : 누적분포함수(cumulative distribution function)로도 표현

확률질량함수 $f(x)$는 확률변수 $X$가 $x$를 변수값으로 가질 때의 확률입니다. 

$$f(x)=P(X=x)$$

모든 $x$에 대한 $f(x)$의 합은 1입니다.

$$\sum\limits_{{\rm all} \,\, x}f(x)=1$$

확률의 공리에 따라 0에서1까지의 범위를 갖습니다.

$$0 \leq f(x) \leq 1$$

2.7. 연속형 확률변수(continuous random variable)

확률변수 $X$ 의 $R_X$가 셀 수 없는 무한집합의 경우, 확률변수 $X$를 연속형 확률변수라고 합니다.

연속형 확률변수의 확률분포 – 확률밀도함수(probability density function)와 누적분포함수(cumulative distribution function)로 표현

확률밀도 함수 $f(x)$는 확률변수 $X$가 변수값 $x$에 대해 밀집된 정도를 나타내는 함수입니다. 확률밀도함수를 수식으로 나타내면 다음과 같으며, 여기서 $X$는 연속형 확률변수이고 $a$와 $b$는 상수입니다.

$$P(a\lt X\lt b)=\int_a^b f(x)dx$$

확률밀도함수는 양의 함수여야 합니다.

$$0 \leq f(x)$$

$-\infty$에서 $+\infty$까지 확률밀도함수를 적분했을 때의 값은 1이 됩니다.

$$\int_{-\infty}^{\infty}f(x)dx=1$$

연속형 확률변수 $X$가 어떤 특정한 값을 가질 확률은 0입니다.

$$𝑃(𝑋=𝑥)=0$$

따라서, 지지집합(support) 원소인 $a$, $b$에서 다음의 4가지 확률이 같습니다. 즉, 연속형 확률변수의 확률값은 확률변수의 구간의 등호에 영향을 받지 않습니다.

$$𝑃(𝑎 \lt 𝑋 \lt 𝑏)=𝑃(𝑎 \leq 𝑋 \lt 𝑏)=𝑃(𝑎 \lt 𝑋 \leq 𝑏)=𝑃(𝑎 \leq 𝑋 \leq 𝑏)$$ 

2.8. 양적(수치형) 확률변수의 평균과 분산

확률변수의 평균(기대값)

확률변수는 확률질량 또는 확률밀도들이 흩어져 있는 변수라고 할 수 있습니다. 확률변수는 고유한 하나의 분포를 이루고 있는데 분포의 중심인 평균과 분포의 중심으로부터 각각의 값들이 얼마만큼 흩어져 있는지 나타내는 측도(measure)인 분산이 있습니다. 확률변수의 평균은 분포의 중심입니다.

확률변수 $X$의 평균(mean)의 표기는 그리스문자 $\mu$입니다.

확률변수의 기대값( expected value)은

${\rm 𝐸}[𝑋]$로 표기합니다.

그리고 확률변수의 평균과 그 확률변수의 기대값은 같습니다.

$$\mu_X={\rm E}[X]$$

이산형 확률변수일 때 확률변수의 기대값 ${\rm E}[X]$

$${\rm E}[X]=\sum_{\text{all X}}xf(x)$$

연속형 확률변수일 때 확률변수의 기대값 ${\rm E}[X]$

$${\rm E}[X]=\int_{-\infty}^{\infty}xf(x)dx$$

확률변수의 분산

확률변수의 분산은 분포의 중심으로부터 각각의 값들이 어느 정도 흩어져 있는지를 나타내는 측도(measure)입니다.

확률변수 $X$의 분산은그리스문자 $\sigma^2$로 표기합니다. 그리고 ${\rm Var}[X]$로 표기하기도 합니다.

정리하면, 확률변수 $X$의 분산은 확률변수 $X$가 확률변수 평균 $\mu_X$로부터 얼마나 흩어져 있는지에 대한 측도(measure)입니다.

$$\sigma_X^2={\rm Var}[X]={\rm E}[X-\mu]^2={\rm E}[X^2]-\mu_X^2$$

여기서,  ${\rm E}[X^2]=\sum\limits_{all \, X}x^2f(x)$

이산형 확률변수의 분산

$${\rm Var}[X]=\sum_{all \, X}(x-\mu)^2f(x)$$

연속형 확률변수의 분산

$${\rm Var}[X]=\int_{-\infty}^{\infty}(x-\mu)^2f(x)dx$$

3.2. 함수

=BINOM.INV(1,RAND(),0.5) : 50%(0.5) 확률의 사건을 1번 시도해서 나올 수 있는 결과.

=RAND() : 0이상 1미만의 난수를 반환.

=AVERAGE(H3:H102) : 평균. H3에서 H102까지 데이터의 평균. 데이터를 모두 더한 후, 개수로 나눈 산술평균.

=SUM(H3:H102) : 합계. H3에서 H102까지 데이터의 합계.

4.1. 용어

시행

확률이론에서, 실험이나 시행은 무한히 반복되어 행해 질 수 있고 표본공간으로 알려진 가능한 모든 결과의 집합을 얻는 과정을 말합니다. 실험은 하나 이상의 결과가 있을 경우는 “무작위”로, 하나만 있는 경우는 “결정적”으로 표현합니다. 예를 들면,  2 가지(결과는 상호 배타적) 가능한 결과를 갖는 무작위 실험은 베르누이 시험이 있습니다.

실험이 수행 될 때, 시행의 결과는 보통 하나로 나타납니다. 그 결과는 모든 사건에 포함됩니다. 이 모든 사건은 시행에서 발생했다고 말합니다. 같은 실험을 여러 번 수행하고 결과를 모으고 나면 실험자는 실험에서 발생할 수 있는 다양한 결과 및 사건의 경험적 확률을 평가하고 통계분석방법을 적용할 수 있습니다.

Reference

Experiment (probability theory) – Wikipedia

확률

확률은 사건이 일어날 가능성을 정량화하는 척도입니다. 확률은 0에서 1 사이의 숫자로 정량화됩니다. 여기서, 0은 불가능함을 나타내며 1은 확실함을 나타냅니다. 시행(event)의 확률이 높을수록 시행이 발생할 가능성이 큽니다. 간단한 예가 동전 던지기입니다. 동전 던지기는 결과가 명확하게 두 가지 결과인 “앞면(Head)”와 “뒷면(Tale)”으로 나타납니다. 그리고 쉽게 앞면과 뒷면의 확률은 동일하다고 동의가 이루어집니다. 다른 결과가 없기 때문에 “앞면”또는 뒷면”의 확률은 1/2 (0.5 또는 50 %)입니다.

이러한 확률개념은 수학, 통계, 금융, 도박, 과학 (특히 물리학), 인공지능, 기계 학습, 컴퓨터 과학, 게임 이론 등과 같은 분야에 공리적 수학적 형식화를 제공합니다. 빈도에 관한 추정을 이끌어내거나 복잡한 시스템의 기본 역학 및 규칙성을 기술하는 데에도 사용됩니다.

Reference

Probability – Wikipedia

확률분포

확률이론 및 통계에서 확률분포는 실험에서 가능하고 서로 다른 모든 결과의 출현 확률을 제공하는 수학적 기능입니다. 보다 기술적인 측면에서, 확률분포는 사건의 확률의 관점에서 임의의 현상에 대한 기술입다. 예를 들어, 확률 변수 $X$가 동전 던지기( “실험”) 결과를 나타내는 데 사용되면 $X$의 확률 분포는 $X$ = 앞면의 경우 0.5, $X$ = 뒷면의 경우 0.5를 취합니다( 동전은 공정). 임의의 현상의 예에는 실험이나 조사의 결과가 포함될 수 있습니다.

확률분포는 관찰되는 임의의 현상의 모든 가능한 결과 집합인 기본 표본공간(sample space)의 관점에서 지정됩니다. 표본공간은 실수 집합 또는 벡터 집합일 수도 있고 비 숫자 값 목록일 수도 있습니다. 예를 들어, 동전 뒤집기의 샘플 공간은 {앞면(Head), 뒷면(Tail)}입니다. 확률 분포는 일반적으로 두 가지로 나뉩니다. 이산 확률분포 (동전 던지기 나 주사위와 같이 가능한 결과 집합이 불연속인 시나리오에 적용 가능)는 확률질량함수라고하는 결과의 확률에 대한 개별 목록으로 표시할 수 있습니다. 반면, 연속확률분포 (주어진 날의 온도와 같이 연속적인 범위 (예 : 실수)의 값을 취할 수 있는 시나리오에 적용 가능)는 일반적으로 확률 밀도함수 (임의의 개별 결과가 실제로는 0인 확률)로 표현할 수 있습니다. 정규 분포는 일반적으로 자주 나타나는 연속확률분포입니다. 지속적인 시간에 정의 된 확률론적 과정과 관련된 복잡한 실험은 더 일반적인 확률측정법의 사용을 요구할 수 있습니다.

표본공간이 1차원인 확률분포 (예 : 실수, 레이블 목록, 정렬된 레이블 또는 이진수)는 단 변수이라고 불리우는 반면 표본공간이 2차원  이상의 벡터 공간 인 분포를 다 변수라고합니다. 단일 변수(변량) 분포는 다양한 대체 값을 취하는 단일 확률변수의 확률을 제공합니다. 다 변수 분포 (합동확률분포)는 다양한 값의 조합을 취하는 임의의 벡터 (두 개 이상의 임의변수를 원소로 가짐)의 확률을 제공합니다. 중요하고 공통적으로 발생하는 단 변량 확률분포에는 이항분포, 초기 하분포 및 정규분포가 포함됩니다. 다 변수 정규 분포는 일반적으로 발생하는 다 변수 분포입니다.

Reference

Probability distribution – Wikipedia

연속, 불연속 변수

수학에서 변수는 연속이거나 이산일 수 있습니다. 두 개의 특정 실제 값 (예 : 임의의 가까운 값) 사이의 모든 실제 값을 취할 수 있는 경우 변수는 해당 간격에서 연속입니다. 변수가 가질 수 있는 값을 포함하지 않는 극한의 간격이 양측에 존재하는 값을 취할 수 있다면, 그 변수값을 중심으로 변수는 분리되고 그 변수는 이산형 변수입니다. 일부 상황에서는 변수가 선상의 일부 범위에서 이산이고 다른 변수에서는 연속일 수 있습니다.

Reference

Continuous or discrete variable – Wikipedia

확률변수

확률이론 및 통계에서 임의의 양, 임의의 변수, 즉 확률변수는 비공식적으로 값이 임의의 현상의 결과에 의존하는 변수로 설명됩니다.  확률변수에 대한 공식적인 수학적 설명은 확률이론의 주제입니다. 그 맥락에서, 확률변수는 결과가 일반적으로 실수인 확률공간에서 정의된 측정 가능한 함수로 이해할 수 있습니다.

확률변수의 가능한 값은 아직 수행되지 않은 실험의 가능한 결과 또는 이미 존재하는 값 불확실한 과거 실험의 가능한 결과인 경우를 나타내는 이미 존재하는 값으로 나타낼 수 있습니다 (예 : 부정확한 측정 또는 양자 불확실성으로 인해). 그들은 또한 개념적으로 “객관적”무작위 과정의 결과 또는 양에 대한 불완전한 지식으로 인한 “주관적인”무작위성”을 나타낼 수 있습니다. 확률변수의 잠재 가치에 할당된 확률의 의미는 확률 이론 자체의 일부가 아니며 확률의 해석에 대한 철학적 주장과 관련이 있습니다. 수학은 사용되는 특정 해석과 상관없이 동일하게 작동합니다.

함수로서 확률변수는 측정 가능해야 하며 확률은 잠재가치 집합으로 표현할 수 있습니다. 결과는 예측할 수 없는 몇 가지 물리적 변수에 달려 있을 수 있습니다. 예를 들어, 공정한 동전 던지기의 경우, 앞면 또는 뒷면의 최종 결과는 불확실한 동전의 물리적 조건에 달려 있습니다. 관찰되는 결과는 확실하지 않습니다. 동전의 표면에 균열이 생길 수 있지만 이러한 가능성은 고려 대상에서 제외됩니다.

확률변수의 존재 지역은 표본공간이며 임의의 현상의 가능한 결과의 집합으로 해석됩니다. 예를 들어, 동전 던지기의 경우 두 가지 가능한 결과, 즉 앞면 또는 뒷면이 그러합니다. 

확률변수는 확률분포를 가지며, 확률분포는 확률변수의 확률값을 지정합니다. 무작위 변수는 이산형일 수 있습니다. 즉, 임의의 변수의 확률분포의 확률 질량함수 특성이 부여된 유한한 값 또는 계산 가능한 값에서 하나를 취합니다. 또는 임의의 변수의 확률분포의 특징 인 확률밀도함수를 통해 간격 또는 연속된간격에서 임의의 수치 값을 취하는 연속 또는 두 유형의 혼합물 일 수 있습니다.

동일한 확률분포를 갖는 두 개의 확률 변수는 다른 확률 변수와의 관련성 또는 독립성 측면에서 다를 수 있습니다. 무작위 변수의 실현, 즉 변수의 확률분포 함수에 따라 무작위로 값을 선택한 결과를 무작위 변수라고 합니다.

Reference

Random variable – Wikipedia

4.2. 참조

Reference

Wikipedia