행렬의 기본공간과 차원정리
이 부분의 내용은 이후 내용의 기초가 되는 초석같은 내용이다.
확률에서의 조합, 미분에서의 기울기같은 기초 내용이니 반드시 숙지해야한다.
원서 : Strang, G. (2023). Introduction to Linear Algebra (6th ed.).
1. 벡터공간에서 기저(basis)와 차원(dimension)
① 기저(basis)
벡터공간 V에 대하여 S={v1, v2, …, vn}는 V의 부분집합이라 하자.
집합 S가 다음 두가지 조건을 만족할 때, S를 V의 기저(basis)라고 한다.
{v1, v2, …, vn}이 V를 생성(span) 한다.
{v1, v2, …, vn}이 선형독립(Linear independent) 이다.
② 벡터공간의 차원(dimension)
S={v1, v2, …, vn}가 V의 기저라면 S의 원소의 개수 n을 벡터공간 V의 차원(dimension) 이라 하며 dimV = n로 나타낸다.
③ 기저에 대한 좌표벡터와 좌표공간으로의 변환
이 부분이 후술할 추이(기저변환)행렬, 표현행렬 등에서 자주 쓰이는 개념이다.
개인적으로 선형대수의 꽃이라고 생각하는 부분 중 하나이다.
S={v1, v2, …, vn}이 벡터공간 V의 기저라면 V에 속하는 모든 벡터 v는 적당한 실수 a1,a2,…,an에 대하여 v = a1v1 + a2v2 + … + anvn으로 나타낼 수 있다.
이때 [v]s = (a1,a2,…,an)을 기저 S에 대한 v의 좌표벡터(상대좌표, 좌표행렬) 이라 한다.
이게 뭔소린가 싶겠지만 우리는 이미 무의식적으로 이런 개념을 사용하고 있다.
예를들어 v = 2x + 7y + 10z 이 있다고 생각하자. 여기서 x,y,z는 기저가 되고 (2,7,10)이 좌표벡터가 되는것이다. 따라서 우리는 좌표로 나타낼때 (2,7,10)이라고 무의식적으로 사용하고 있다.
이해를 위해 예제를 풀어보자
문제 1
R^3의 벡터 v = (7, 2 ,3)의 순서기저 B = {(1,2,0), (0,1,2), (2,0,1)}에 대한 좌표벡터 [v]B를 구하면?
(7,2,3) = 1(1,2,0) + 0(0,1,2) + 3*(2,0,1) 이므로 답은 (1,0,3)이다.
사실 이 부분에서 어려운 점은 기저를 찾는것이 굉장히 힘들다.
2. 행렬의 기본공간과 차원정리
① 행공간(Row Space) 및 열공간(Column Space)
A의 행벡터(row vector) 가 생성하는 R^n의 부분공간을 A의 행공간(row space) 라고 하고, 열벡터(column vector) 가 생성하는 R^m의 부분공간을 A의 열공간(column space) 이라 한다.
이때 기본행연산은 행렬의 행공간을 변화시키지 않는다
② 영공간(해공간, Null Space)
행렬 A가 mxn행렬일 때, R^n의 부분공간이 동차연립방정식 AX=0의 집합 X를 A의 영공간(해집합) 이라 하며, nullspace 또는 kernel 이라고 한다.
이때 기본행연산은 행렬의 해공간(영공간)을 변화시키지 않는다.
③ 계수(rank)와 퇴화차수(nullity)
행렬 A의 행공간과 열공간의 공통차원을 A의 계수(rank)라 하고 rankA 로 표현하며, A의 영공간의 차원을 A의 퇴화차수(nullity) 라 하고 nullity A 라고 표현한다.
A가 mxn행렬이라면, nullityA + rankA = n 이 성립한다.
이해를 위해 부족하지만 그림을 참고하자.
④ 직교여(보)공간(Orthogonal Space)
W를 벡터공간 V의 부분공간이라 하자. V의 벡터 u가 W의 모든 벡터와 수직할 때, 벡터 u는 W와 직교한다고 하고 W와 직교하는 V의 모든 벡터 집합을 W의 직교여(보)공간(Orthogonal complement of W)이라 한다.
Theorem
A가 mxn행렬이면 다음이 성립한다.
A의 해공간과 행공간은 서로 직교보공간이다.
A^t의 해공간과 A의 열공간은 서로 직교보공간이다
즉, A의 행공간에 대한 직교보공간의 차원은 A의 해공간의 차원과 같다
이해를 위해 예제를 풀어보자.
문제 2
선형변환 T: R^4 -> R^5 를 다음과 같이 정의한다.
\[A = \begin{pmatrix} 2 & 0 & -2 & 4 \\ 1 & 0 & -2 & 3 \\ 0 & 4 & 2 & 1 \\ 6 & 4 & -4 & 13 \\ 2 & 4 & -2 & 7 \end{pmatrix}\] \[T v = A v, \quad v \in \mathbb{R}^4\]이때 T의 계수를 r이라 하고 T의 nullity를 n이라 할때 r-n을 구하라.
위의 행렬을 기본행연산을 하면 다음과 같이 나온다.
\[\begin{pmatrix} 1 & 0 & -2 & 3 \\ 0 & 4 & 2 & 1 \\ 0 & 0 & 2 & -2 \\ 0 & 0 & 0 & 0 \\ 0 & 0 & 0 & 0 \end{pmatrix}\]따라서 rank = 3 = r 이다. 그리고 앞서 정리한 차원정리의 의해
nullity = 열의수 - rank = 4 - 3 = 1 = n 이므로 답은 2이다.
2.1 내적공간
임의의 벡터공간 V의 두 벡터 u,v에 대하여 실수 u⋅v를 대응시키는 연산 ⋅가 다음 성질을 만족할 때, 내적이라 부르고 V를 내적공간이라고 한다.
(단, u,v,w는 V에 속하는 임의의 벡터이고 c는 임의의 스칼라다.)
① u⋅u≥0이고, 등호는 u=0일 때만 성립한다.
② (u+v)⋅w=u⋅w+v⋅w,u⋅(v+w)=u⋅v+u⋅w
③ (cu)⋅v=c(u⋅v),u⋅(cv)=c(u⋅v)
④ u⋅v=v⋅u
Theorem
구간 [a,b]에서 연속인 모든 함수들로 구성된 벡터공간 C[a,b]의 f(x),g(x) ∈ C[a,b]에 대해
좀더 이해하자면 적분 또한 내적의 성질을 만족한다면 내적공간이 될 수 있다.
문제를 풀어보자
문제 3
닫힌구간 [-1, 1]에서 연속인 모든 함수들로 구성된 내적공간 C[-1,1]에서 내적을 다음과 같이 정의할때
\[\langle f, g \rangle = \int_{-1}^{1} f(x)g(x) \, dx\](C[-1,1])의 부분공간 P1 = span{1, x}에 대하여 다음 두 함수가 h_1(x) + h_2(x) = e^x를 만족할때 h_1(1)의 값은?
\[h_1(x) \in P_1,\quad h_2(x) \in (P_1)^\perp\]이 문제를 풀기 위해서는 후에 기술할 직교분해를 알고 있어야 한다.
예를들어 h3라는 벡터를 W와 W의 직교여공간에 정사영을 한 벡터를 각각 h1, h2라고 한다면 h3 = h1 + h2이다. 이를 직교분해라고 한다.
위 문제에서 h1과 h2는 각각 W와 W의 직교여공간에 있고 이 둘을 합했을때 e^x가 나오므로, e^x를 W와 W의 직교여공간에 사영한 벡터가 각각 h1 h2가 된다.
이를 이용해서 풀면 직교기저가 {1,x}이므로 직교사영공식을 사용해서 풀면된다.
이때 사영공식에서 내적을 위에 주어진 적분으로 처리하면 된다.
\[h_1(x) = \frac{\langle e^x, 1 \rangle}{\langle 1, 1 \rangle} \cdot 1 + \frac{\langle e^x, x \rangle}{\langle x, x \rangle} \cdot x = \frac{e}{2} - \frac{1}{2e} + \frac{3}{e}x\]