선형대수학 orthogonality ~ Digonalization 정리

선형대수학 기말 공부 정리본입니다.

 

1. 벡터 공간과 직교성 (Vector Spaces & Orthogonality)

• Orthogonality (직교성): 벡터의 수직 관계 (x^T y = 0)
• 4 Fundamental Subspaces: Column space, Null space, Row space, Left Null space
• Orthogonal Complement (직교 여공간): 부분 공간 간의 수직 관계 (N(A) ⊥ C(A^T))

2. 투영과 근사해 (Projection & Least Squares)

• Projection Matrix (투영 행렬): P = A(A^T A)⁻¹ A^T (성질: P² = P)
• Least Squares (최소자승법): 해가 없는 Ax=b의 근사해 찾기
• Normal Equation (정규 방정식): A^T A x̂ = A^T b
• Pseudo Inverse (의사 역행렬): A⁺

3. 정규 직교화와 QR 분해

• Gram-Schmidt Process: 독립인 벡터들을 직교 기저로 변환
• Orthogonal Matrix (직교 행렬): Q^T Q = I
• QR Decomposition: A = QR

4. 행렬식과 연립방정식

• Determinant (행렬식): det(A) 또는 |A|
• Cofactor (여인수): C_ij
• Cramer's Rule: 행렬식을 이용해 연립방정식 해 구하기

5. 고유값과 대각화 (Eigenvalues & Diagonalization)

• Eigenvalue (고유값): Ax = λx
• Trace & Determinant: ∑λ = trace(A), ∏λ = det(A)
• Diagonalization (대각화): A = S Λ S⁻¹
• Symmetric Matrix (대칭 행렬): A^T = A (고유값은 실수, 고유 벡터는 서로 수직)

6. 특이값 분해 (SVD)

• SVD: A = U Σ V^T
• Singular Values (특이값): σ_i (A^T A의 고유값의 제곱근)

7. 응용

• Markov Matrix: 확률 과정, 상태 전이
• Differential Equations: du/dt = Au (시스템의 안정성 판별)
• Fibonacci Numbers: 행렬 거듭제곱 응용