결정계수

결정계수

• 결정계수(coefficient of determination, $R^2$, R-squared): 모형이 종속변수의 변동을 설명하는 비율
• 절편이 있는 OLS에서는 0에서 1 사이이며, 1에 가까울수록 설명력이 높음
• 단순 선형 회귀에서는 피어슨 상관계수($r$)의 제곱과 같음
• "$R^2\times 100$%만큼 종속변수의 분산을 설명"으로 해석
  • 예: $R^2=0.3$이면 "분산의 30%를 설명한다"

• $\mathrm{RSS}$: 잔차 제곱합
• $\mathrm{TSS}$: 종속변수와 평균의 차이를 제곱한 합

회귀분석 결과의 결정계수 해석

앞선 회귀분석에서 length로 weight를 설명한 모형의 결과.

• $R^2$: 0.397
  • 길이가 무게 분산의 39.7% 설명

상관계수와 결정계수

앞서 단순 선형 회귀에서는 $R^2=r^2$.

df_ship[["length", "weight"]].corr()

          length    weight
length  1.000000  0.630324
weight  0.630324  1.000000

피어슨 상관계수는 0.630324.

0.630324 ** 2

0.397308344976

결과는 약 0.3973으로 회귀분석의 $R^2$와 거의 같음(상관계수의 표시값을 사용했으므로 반올림 차이 발생)

반대로 $R^2$의 제곱근은 상관계수의 크기

import numpy as np

np.sqrt(0.397)

np.float64(0.6300793600809346)