선형대수 - (5) 벡터공간

연립방정식에서 하나의 해가 아닐 때

미지수의 갯수가 방정식의 갯수보다 많을 때 푸는 방법을 다룬다.
즉 무수히 많은 수의 해를 가질 때의 경우와 해가 없는 경우를 다루게 된다.
이 때 무수히 많은 해를 가질 때의 해를, 벡터공간이라고 하는 것으로 표현하는 방법을 알아본다.

예를 들어 다음과 같은 연립방정식이 있을 때,

$\begin{cases} 2u + v + w = 5 \\ 4u - 6v = -2 \end{cases}$

무수히 많은 해에 대한 표기를 어떻게 할것인가를 알아본다.
이 무수히 많은 해의 집합을 공간이라고 표현한다.

벡터 공간 (Vector Space)

공간이란 원소들을 갖는 일종의 집합이다.
이 공간은 원소들의 덧셈과 스칼라 곱셈으로부터 닫혀있는 집합이다.

어떤 임의의 벡터들 $x, y \in R^n$ 과 어떤 임의의 스칼라 $c \in R$에 대해,
벡터 공간 $V$는 $x, y \in V$, 즉 x와 y를 원소로 갖는 집합이라고 할 때,
$V$는 $x + y \in V$, 그리고 $cx \in V$를 만족하는 집합이다.
즉 위에서 표현한 바와 같이 원소가 되는 벡터들의 덧셈과 원소 벡터와 스칼라 곱셈을 모두 포함하는 집합이다.

위는 다시 표현하면, 모든 원소들의 선형 결합을 모두 포함하는 집합이다.
$c_1x + c_2y \in V$

벡터 공간의 특징들

1. 각 원소 벡터들의 덧셈은 교환법칙이 성립한다.
   $x + y = y + x$
2. 각 원소 벡터들의 덧셈은 결합법칙이 성립한다.
   $x + (y + z) = (x + y) + z$
3. 어떠한 벡터 x라는 벡터와 더했을때 자기 자신이 되는 (항등원인) $\mathbb{0}$벡터가 존재한다.
   (0벡터란 원소가 모두 0인 벡터이고, 이는 원점을 포함하고 있다는 의미이다.)
   $x + \mathbb{0} = \mathbb{0} + x = x$
4. 각각의 벡터 x에 대해 자기 자신을 뺐을 때 0벡터가 되는 (역원) 벡터가 존재한다.
   $x + (-x) = x - x = 0$
5. 모든 원소 벡터 x에 스칼라 값 1과 곱하면 자기 자신된다.
   $1x = x$
6. 각 원소 벡터들은 스칼라값의 분배법칙이 성립한다.
   $c(x+y) = cx + cy$
   $(c_1 + c_2)x = c_1x + c_2x$

예제 1)

행렬은 벡터공간으로 표현될 수 있다.
다음 2 x 2행렬은,

$\begin{bmatrix}a \quad b \\ c \quad d \end{bmatrix}$

하나의 벡터공간에 표현하면 다음과 같은 4차원의 벡터가 된다.

$\begin{bmatrix}a \\ b \\ c \\ d \end{bmatrix}$

예제 2)

다항함수 $ax^2 + bx + c \in R^3$은 다음과 같이 3차원의 벡터공간으로 표현될 수 있다.
(계수들만 모아 벡터로 표현한다)

$\begin{bmatrix}a \\ b \\ c \end{bmatrix}$

부분 공간(Subspace)

• 전체 벡터 공간의 일정의 부분집합(subset)이다.
• 이 부분 집합은 벡터 공간의 조건들을 만족한다.

예를 들어, 부분 공간은 다음을 만족한다:

$s_1, s_2 \in \mathbb{S} \subset \mathbb{V}$
$c_1s_1 + c_2s+2 \in \mathbb{S}$

예제 1)

$\mathbb{R}$에 속하는 Lower Triangular 행렬 L에 대해서, $L_{n x n}$
각각의 LT 행렬 $c_1L_1 + c_2L_2 \in \mathbb{L}$는 벡터 공간을 이루고,
$L_{n x n}$은 곧 LT 행렬이 파생된 행렬 $A_{n x n}$의 부분공간이 된다.
$L_{n x n} \subset A_{n x n}$

예제 2)

$y = mx (m \neq 0), (x, y) \in \mathbb{R}^2$
$\mathbb{S} = \{(x, y) | y = mx, m \neq 0\}$
위의 수식은 다음과 같은 선이 그려진다.

위의 선의 임의의 두 점들에 대해서, 어떤 점을 더하든 선에 놓이게 된다.
따라서 위의 선 위의 모든 점들은 2차원 평면 공간의 부분 공간이 된다.
$S \in \mathbb{R}^2$

열벡터 공간

벡터 공간을 행렬에 적용하고, 이를 컬럼벡터 (열벡터)들의 모임으로 만들면, 이는 열벡터 공간이 된다.
A의 열백터 공간을 $\mathbb{C}(A)$로 표현한다. 열벡터 공간은 다음과 같이 정의 된다:

• A의 모든 컬럼 벡터들과 그들의 선형 결합으로 이뤄지는 벡터 공간
• 이는 A의 컬럼 벡터들의 결합이기 때문에 Closed이다.

열벡터와 연립방정식

열벡터 공간은 다음과 같은 수식으로 표현될 수 있다.
$A = \begin{bmatrix} \\ a_1 \quad a_2 \quad ... \quad a_n \\ \quad\end{bmatrix}$ $= \sum_{i = 1}^n c_ia_i$

연립 방정식의 예를 보자:
$Ax = b$

위의 수식은 다음과 같이 컬럼벡터의 조합, 즉 행렬로 표현될 수 있다.
$= \begin{bmatrix} \\ a_1 \quad a_2 \quad ... \quad a_n \\ \quad\end{bmatrix}\begin{bmatrix} x_1 \\ ... \\ x_n\end{bmatrix} = b$

만약 이 연립 방정식의 해가 있다면,
다음과 같이 벡터 b는 A의 열벡터 공간의 선형결합으로 표현될 수 있는 것이고,
$x_1a_1 + x_2a_2 + ... x_na_n = b$

이는 곧 b역시 열벡터 공간에 속하는 벡터라는 의미가 된다.
따라서 b가 열벡터 공간에 속하면 해가 있고, 속하지 않는다면 해가 없다는 결론이 된다.

열벡터의 표현

만약 $b_1, b_2 \in \mathbb{C}(A)$를 만족한다면, $Ax_1 = b_1$ $Ax_2 = b_2$

위의 두 벡터를 더해서 생성된 b라는 백터는, $b_1 + b_2 = b$

위의 해 집합은 결국, 다음과 같아진다: Ax_1 + Ax_2 = A(x_1 + x_2) = b

만약 $b \in \mathbb{C}(A)$ 라면 해가 존재하는 것이고,
그렇지 않다면 해가 존재하지 않는 것이다.

예제)

$Ax = b,\; b = \begin{bmatrix} 2 \\ 3 \\ 4\end{bmatrix}$ 를 다음과 같이 표현할 수 있다.
$Ax_1 = \begin{bmatrix} 2 \\ 0 \\ 0\end{bmatrix}$, $Ax_2 = \begin{bmatrix} 0 \\ 3 \\ 0\end{bmatrix}$, $Ax_3 = \begin{bmatrix} 0 \\ 0 \\ 4\end{bmatrix}$

또한 $b$라는 벡터를 어떠한 스칼라 c값을 곱한 것의 선형 결합으로 표현하면,
다음과 같은 수식이 될 수 있다:
b = $2\begin{bmatrix} 1 \\ 0 \\ 0\end{bmatrix} + 3 \begin{bmatrix} 0 \\ 1 \\ 0\end{bmatrix} + 4 \begin{bmatrix} 0 \\ 0 \\ 1\end{bmatrix}$

열벡터와 역행렬

$Ax = b; A_{n x n}$에 대해서 $x = A^{-1}b$, 즉 역행렬 $A^{-1}$가 존재한다면,
$b$는 항상 열벡터 공간 $b \in \mathbb{C}(A)$ 에 속해있다는 의미이고,
이는 곧 $\mathbb{C}(A)$는 n차원 공간을 모두 표현하는 whole space이다.

Whole Space란 모든 공간을 의미한다. 이 때, 벡터들의 선형결합으로 표현되는 공간을 Vector Span이라고 부르는데, Whole Space는 Vector Span이 모든 공간을 이루는 것이다. 따라서 전체 공간을 이루느냐 아니냐는 역행렬이 존재하느냐 아니냐에 따른다.