확률

기본 개념

• 변수: 값이 변할 수 있는 대상
  • 예: 선박 길이, 속도, 연료 사용량
• 상수: 변하지 않는 값
  • 예: 고정된 기준값, 모델의 절편
• 모형: 현실의 관계를 단순화해서 표현한 수학적 구조

함수와 수열

• 함수: 입력값을 넣으면 하나의 출력값이 나오는 규칙
  • $y=f(x)$
• 함수의 예: 선형 함수
  • $y=ax+b$
  • 입력이 증가하면 출력이 일정한 비율로 증가 또는 감소
• 수열: 일정한 순서로 나열된 숫자들의 모음
  • 예: 시간에 따른 매출, 센서값, 주가, 온도

벡터와 행렬의 기초

• 벡터: 여러 개의 숫자를 한 줄로 모은 것
  • 하나의 관측치나 하나의 데이터 포인트를 표현할 수 있음
  • 예: 한 선박의 [길이, 폭, 속도, 중량]
• 행렬: 숫자를 행과 열로 배열한 것
  • 여러 관측치와 여러 변수를 한 번에 표현
  • 데이터셋은 보통 행렬 형태로 볼 수 있음
• 데이터 분석에서의 의미
  • 행: 개별 사례
  • 열: 변수
  • 값: 각 사례가 가진 변수의 값

행렬 연산과 선형변환

• 행렬 연산
  • 여러 변수의 값을 한 번에 계산하기 위한 방법
  • 대량의 데이터를 효율적으로 처리할 수 있음
• 주요 연산
  • 덧셈: 같은 위치의 값을 더함
  • 스칼라 곱: 모든 값에 같은 숫자를 곱함
  • 행렬 곱: 변수들의 조합을 계산함
• 선형변환
  • 벡터나 데이터를 다른 좌표계 또는 다른 표현으로 바꾸는 연산
  • 회전, 확대, 축소, 투영 등이 가능

표본공간과 사건

• 표본 공간(sample space): 어떤 시행에서 일어날 수 있는 모든 결과들의 모임
• 사건(event): 표본 공간의 부분 집합
• 예: 무작위로 한 학생을 선택하고 "청바지 몇 켤레를 가지고 있습니까?"라고 묻는다면
  • 표본공간: $S=\{0,1,2,3,\dots \}$
  • 청바지가 없음: $A=\{0\}$
  • 청바지가 있음: $B=\{1,2,3,\dots \}$
  • 청바지를 5벌 이하 소유: $C=\{1,2,3,4,5\}$
  • 홀수 벌의 청바지 소유: $D=\{1,3,5,\dots \}$

확률의 기초 개념

• 0과 1 사이의 숫자로 사건의 가능성을 표현한 것
  • 0에 가까울수록 가능성이 없고, 1에 가까울수록 가능성이 높음
• 사건 $A$의 확률 $P(A)$는 다음 성질을 가짐
  • 사건 $A$의 확률은 음이 아닌 실수: $P(A)\ge 0$
  • 표본공간의 확률은 1: $P(S)=1$
  • $A_1,A_2,\dots$가 상호 배타적인 사건일 경우
    • $P(A_1\cup A_2\cup \dots )=P(A_1)+P(A_2)+\dots$

사건에 확률을 할당하는 방법

• 수학적 확률
  • $P(A)=\frac{N(A)}{N(S)}$
  • $N(S)$: 표본 공간의 크기
  • $N(A)$: 사건 $A$의 크기
• 통계적 확률
  • $P(A)=\frac{m}{n}$
  • 시행을 $n$번 반복했을 때, $A$가 $m$번 발생하면 사용
• 주관적 확률
  • 믿음의 정도를 확률로 표현
  • 예: 내가 응원하는 팀이 올해 우승할 확률은 40%다

확률의 성질

• $P(A)=1-P(A^c)$
• $P(\varnothing )=0$
• $A\subset B\Rightarrow P(A)\le P(B)$
• $P(A)\le 1$
• $P(A\cup B)=P(A)+P(B)-P(A\cap B)$

조건부 확률과 베이즈 정리

• $A$가 주어진 상태에서 $B$의 확률
  • $P(B\mid A)=\frac{P(A\cap B)}{P(A)}$
• 베이즈 정리
  • $P(B\mid A)=\frac{P(A\mid B)P(B)}{P(A)}$

조건부 확률의 예

• 137명의 사람을 검사했을 때
• 양성 반응의 확률
  • $P(T^{+})=\frac{44+10}{137}$
• 질병에 걸릴 확률
  • $P(D^{+})=\frac{44+23}{137}$
• 검사에서 양성 반응을 보였을 때, 질병에 걸렸을 조건부 확률
  • $P(D^{+}\mid T^{+})=\frac{44}{44+10}$
• 질병에 걸렸을 때, 검사에서 양성 반응을 보일 조건부 확률
  • $P(T^{+}\mid D^{+})=\frac{44}{44+23}$

곱셈 규칙

• 곱셈 규칙
  • $P(A\cap B)=P(A\mid B)P(B)=P(B\mid A)P(A)$
• 연쇄 규칙
  • $P(A\cap B\cap C\cap \dots )=P(A)P(B\mid A)P(C\mid A\cap B)P(\cdots \mid A\cap B\cap C)$

독립 사건

• 사건 $A,B$가 독립($A\perp B$)이면
  • $P(A\mid B)=P(A)$
  • $P(B\mid A)=P(B)$
• 두 사건의 곱사건의 확률은
  • $P(A\cap B)=P(A)P(B)$
• $A\perp B$이면 다음도 성립
  • $A\perp B^c$
  • $A^c\perp B$
  • $A^c\perp B^c$