최소제곱법을 통한 회귀계수 행렬 구하기

행렬정의 

 

 

 

오차 제곱합을 최소화 시켜야 하므로 오차 제곱을 구하면 행과 열이 같아야 하므로 오차의 전치행렬과 오차 행렬을 곱해주는 것과 같다.

 

그런데 회귀식에 의해 오차는 아래와 같이 나타낼 수 있다.

 

 

제곱식에 대입해서 전개하면 아래와 같이 전개한다.

 

가운데 두항은 서로 전치행렬관계이면서 1*1 행렬이므 -2로 연산이 가능하다.

 

오차항의 제곱을 최소화하기위해 정리된 식을 베타의 추정량으로 미분하면 아래와 같이 정리된다.

 

따라서 추정 회귀계수를 행렬로 나타내면

위와 같이 정리된다.

 

 

참고 사이트

http://infoso.kr/?p=3224