Gilbert Strang의 18.065 강의 Lecture 1: The Column Space of A Contains All Vectors Ax를 정리한 내용이다. Matrix와 Vector의 multiplication, Matrix와 Matrix의 multiplication을 올바르게 이해하는 것을 다루고, Column space, Row space, basis vector 등을 다룬다.
$A = \begin{bmatrix} 2&1&3 \\ 3 & 1&4 \\ 5&7&12\end{bmatrix},\space x=\begin{bmatrix}x_1\\x_2\\x_3\end{bmatrix}$
위와 같이 행렬 $A$ 와 벡터 $x$ 가 있다고 하자. $Ax$를 계산하는 방법은 크게 두가지가 있다.
행렬과 벡터를 올바르게 계산하는 방법은 2번 방법이고, 다음과 같이 표현할 수 있다.
$Ax = x_1\begin{bmatrix}2\\3\\5\end{bmatrix}+x_2\begin{bmatrix}1\\1\\7\end{bmatrix}+x_3\begin{bmatrix}3\\4\\12\end{bmatrix}$
$Ax$는 벡터 $x$을 선형변환 행렬 $A$를 통해 계산된 새로운 벡터 $x'$이라고 할 수 있다. ($Ax=x'$)
행렬 A의 column의 모든 combination은 행렬 A의 column space와 동일하다. 다시말하면 $Ax$로 표현될 수 있는 모든 공간이 A의 column space, $C(A)$라고 할 수 있다.
$B=\begin{bmatrix}1&3&8\\1&3&8\\1&3&8\end{bmatrix}$
위의 경우엔 $B$의 각 column이 모두 서로 dependent하기 때문에 $C(B)=rank(B)=1$이고, B의 column space는 line으로 표현된다.
$A = \begin{bmatrix} 2&1&3 \\ 3 & 1&4 \\ 5&7&12\end{bmatrix}$
위의 행렬 $A$의 경우 세번째 column은 첫번째와 두번째 column의 합으로 표현되기 때문에, 세번째 column은 나머지 두개에 linearly dependent하다. 그래서 $C(A)=rank(A)=2$이고, A의 column space는 plane으로 표현된다.
Row rank는 row space의 dimension을 의미한다. 즉 Row space of A는 A의 row로 표현할 수 있는 모든 combination이고, 이는 Transpose of A의 column space와 동일하다.
$A=\begin{bmatrix} 2&1&3 \\ 3 & 1&4 \\ 5&7&12\end{bmatrix}= \begin{bmatrix} 2&1 \\ 3 &1 \\ 5&7\end{bmatrix} \begin{bmatrix}1&0&1 \\ 0&1&1\end{bmatrix}$