통계적 가설 검정

가설검정

• 통계적 가설검정: 모집단에 대한 가설을 세우고 표본 데이터를 통해 이를 평가
• 가설이 사실이라는 가정하에 현재 데이터가 관찰될 확률을 계산
• 그 확률이 매우 낮다면 기존 가설이 틀렸다고 판단하여 기각

일반적인 과학에서의 가설검정은 가설을 세우고 이를 증명할 증거를 수집하는 방식

• 가설을 세우고 이를 증명할 증거 수집
• 긍정적인 증거를 모아 가설을 지지

통계적 가설검정은 반증주의 방식

• 기각하고자 하는 가설을 세우고 반증 시도
• "차이가 없다", "효과가 없다" 등으로 설정
• 결코 100% 확실히 증명할 수 없기 때문에 논박하는 구조를 취함

귀무가설과 대립가설

• 귀무가설(Null Hypothesis, $H_0$)
  • 검정의 대상이 되는 기본 가설
  • 기각이 목표
  • "차이가 없다", "영향이 없다", "기존과 동일하다" 등
• 대립가설(Alternative Hypothesis, $H_1$)
  • 연구자가 새롭게 입증하고자 하는 가설
  • "차이가 있다", "기존과 다르다" 등
  • 귀무가설 기각 시 채택됨

유의확률과 검정 오류

• 유의수준($\alpha$)
  • 귀무가설을 기각하기로 설정한 확률적 기준선
  • 관례적으로 0.05(5%)를 가장 널리 사용
• 유의확률, p-값(p-value)
  • 귀무가설이 맞다는 전제하에, 표본으로부터 얻은 통계량 이상으로 극단적인 값이 나올 확률
  • 표본 데이터가 귀무가설과 얼마나 어울리지 않는지 판단하는 기준
  • p-값이 크다고 귀무가설이 참이라는 뜻은 아님
  • p-값이 작을수록 현재 데이터가 귀무가설과 어울리지 않음을 의미
• 검정 오류
  • 1종 오류: 실제로는 차이가 없는데 차이가 있다고 판단
  • 2종 오류: 실제로는 차이가 있는데 차이가 없다고 판단
  • 유의수준을 높이면 2종 오류는 감소하는 경향

가설의 채택과 기각 판단 기준

• 일반적으로 0.05를 기준으로 판단
• $p<\alpha$
  • 귀무가설 기각, 대립가설 채택
  • "통계적으로 유의미한 차이가 있다"고 결론
  • 유의함
• $p\ge \alpha$
  • 귀무가설 기각 실패
  • "통계적으로 유의미한 차이를 발견하지 못했다"고 결론
  • 유의하지 않음

가설 검정 순서도

• 기각 실패는 귀무가설이 참이라는 증명이 아니라, 차이를 확인할 근거가 부족하다는 뜻

p-value에 영향을 주는 요소

• 표본의 크기($n$)
  • 표본이 클수록 p-value가 작아지는 경향
• 귀무가설과 통계량의 차이
  • 효과가 클수록 p-value가 작아지는 경향
• 모집단의 변산성
  • 모집단의 변산성이 클수록 p-value가 커지는 경향

집단 비교

• 집단 비교: 두 집단 또는 여러 집단의 평균, 비율, 분포가 서로 다른지 확인하는 분석
• 예
  • A 공정과 B 공정의 불량률 비교
  • 교육 전후 점수 비교
  • 장비별 생산량 비교

단순 비교만으로는 부족

• 표본은 항상 우연한 차이를 포함
• 두 집단의 평균이 달라도, 그 차이가 실제 차이인지 표본을 잘못 뽑아서 생긴 차이인지 알기 어려움
• 예: A 집단 평균 72점, B 집단 평균 75점

가설검정을 하는 이유: 관찰된 집단 차이가 "우연히 나올 수 있는 수준"인지 판단하기 위해

• 귀무가설: 두 집단 사이에 실제 차이가 없다.
• 대립가설: 두 집단 사이에 실제 차이가 있다.

두 집단 평균 비교

• 독립표본 t 검정(Independent samples t-test): 서로 독립적인 두 집단의 평균 비교
• 예: Container 선종과 Tanker 선종의 평균 속도 비교
• 관찰된 차이가 우연, 즉 표집 오차인지 실제 모집단의 차이인지 통계적으로 판단
• 두 집단을 구성하는 관측치들이 서로에게 독립적이어야 함
• 가설
  • 귀무가설($H_0$): 두 집단의 평균 수치에 차이가 없음
  • 대립가설($H_1$): 두 집단의 평균 수치에 차이가 있음

독립표본 t 검정 순서도

독립표본 t 검정의 통계적 가정

• 정확한 검정을 위해 데이터가 다음 두 가정을 만족해야 함
• 정규성 가정(Normality)
  • 각 집단의 데이터가 정규분포를 따름
  • 단, 데이터 수가 충분히 크면 보통 30개 이상에서는 만족하지 않아도 무관
• 등분산성 가정(Homoscedasticity)
  • 두 집단 데이터의 분포 퍼짐 정도, 즉 분산이 동일함
  • 등분산이 아닐 경우 이분산으로 보고 Welch의 방법으로 보정
• 본격적인 검정 전 가정 만족 여부 확인 필요

독립표본 t 검정 수행 및 결과 해석

• 선종 Container와 Tanker 간 속도(speed) 차이 검정

import pingouin as pg

type_container = df_ship.query('ship_type == "Container"')["speed"]
type_tanker = df_ship.query('ship_type == "Tanker"')["speed"]

# 독립표본 t 검정 (이분산성은 자동으로 보정)
result = pg.ttest(type_container, type_tanker)
result

• 결과표 해석
  • p-value가 0.05보다 작으면 두 선종 간 평균 속도에 통계적으로 유의미한 차이가 있다고 판단
  • p-value가 0.05 이상이면 평균 속도 차이가 통계적으로 유의미하다고 보기 어려움