Orthogonality와 Orthogonal complement에 대한 깨달음

선형대수학을 공부하면서 Orthogonality를 공부했는데, 조금 헷갈리는 부분이 있어서 정리를 해본다.

 

1) Orthogonality란?

일단 Perpendicular(수직)와 Orthogonal(직교) 어감 차이를 먼저 알아보자.

둘 다 거의 비슷한 의미이긴 하다. 그러나... 뉘앙스의 차이가 있다.

Perpendicular vs Orthogonal

 

선형대수학에서는 Orthogonality가 더 많이 사용되므로 직교를 더 알아보자.

벡터 끼리의 orthogonality는 직관적으로 이해가 된다. 그럼 Subspace 끼리의 orthogonality는 무엇을 의미하는가?

수학적 정의는 다음과 같다.

Orthogonality of subspace

즉, subspace에 있는 모든 벡터끼리가 서로 orthogonal( inner product = 0 ) 하면 된다.

 

어려울게 없네?
그러면 우리가 배우는 four subspaces들의 orthogonality를 알아보자.

orthogonality of four subspaces

2) Orthogonal complement

이젠 좀 더 나아가서 Orthogonal complement를 알아보자.

Orthogonal complement란 주어진 부분공간과 수직인 모든 벡터들이 이루는 공간을 의미한다.

그런데 이 정의에서 나는 "모든 벡터들이 이루는" 이 조금 헷갈렸다.

 

모든 벡터들...의 '모든'을 수학적으로 어떻게 표현할 수 있을까?

그 답은 Null space에 있었다.

Null space가 바로 어떤 행렬 A에 대해 Ax = 0을 만족하는 모든 벡터 x가 span 하는 공간이기 때문이다.

Orthogonal complement

S와 S의 orthogonal complement의 dimension 합이 전체 실공간이 된다는 의미는, 두 subspace의 기저가

전체 공간의 기저가 된다는 의미이다.

 

이 개념을 좀 더 확장하여 Ax = b의 해를 생각해보자.

https://mharry345.tistory.com/28

선형 방정식 linear equation에 대한 깨달음 (2) _ 비동차 연립 방정식 Ax = b 와 랭크 rank

위 글에 Ax = b 의 해를 구하는 방법이 설명되어 있다.(여기서는 x = x_p + x_n 라고 하였다. 표현이 다를 뿐)

Lecture note of Korea University Prof. Wonjae Shin

 

Ax = b를 구할 때 x 를 x_r 과 x_n 으로 나눌 수 있다 ( x = x_r + x_n).

이 때, x_n은 A의 null space에 있는 임의의 vector이다.

그러면 Ax_r = b 를 만족하는 x_r은 무엇일까? 바로 Row space of A ( Col(A^T) ) 에 있는 특정 vector이다.

 

왜 그렇지??? 나도 처음에 이해가 안됐다.

 

x_n의 경우 Ax_n = 0을 만족하는 임의의 벡터니까 N(A)에 있는건 당연해...

그런데 x_r은 Ax_r = b 를 만족할 뿐인데 왜 A의 row space에 포함된다는 거지?

그 답은 바로 앞 두 subspace의 기저가 전체 공간의 기저가 된다 에 있다.

실공간에 있는 x에 대해 x는 C(A^T)와 N(A) 각각의 기저로 항상 표현이 가능하다. 그렇다는 의미는

x_r 이 N(A)에 존재하지 않는다면 당연히 C(A^T)에 존재한다는 의미이다.

WOW!

 

이렇게 Orthogonality와 Orthogonal complement를 확인해 보았다.

 

반론이나 질문은 환영입니다.