열렬히.뛰기

4. 벡터공간

수학 & 통계 > 최적화이론 > 수업 : 통수 & 선계 > 벡터공간

벡터공간

벡터를 만들어 써보니 편리하다는 것을 알게 됨.

그럼, 수학의 다른 대상들을 벡터로 바꾸어 생각하면 안되나?

그래서 나온 개념이 바로 넓은 의미의 벡터벡터공간.

넓은 의미의 벡터 = 벡터공간의 원소

그럼 벡터공간이란 무엇인가?

벡터공간의 정의

펼쳐보기

A1) 덧셈에 대한 교환법칙 :

∀x,y∈V에 대하여, x+y=y+x

A2) 덧셈에 대한 결합법칙 :

∀x,y,z∈V 에 대하여, (x+y)+z=x+(y+z)

A3) 덧셈에 대한 항등원 :

∀x∈V 에 대하여, x+0=0+x 를 만족시키는 0∈V 의 존재

A4) 덧셈에 대한 역원 :

∀x∈V 에 대하여, x+y=0 을 만족시키는 y∈V 의 존재

A5) 곱에 대한 항등원 :

∀x∈V에 대하여 1 \cdot x = x \cdot 1

A6) ∀x,y∈F∀x∈V 에 대하여 (ab)x=a(bx)

A7) 스칼라 분배법칙 :

∀a,b∈F∀x∈V 에 대하여 a(x+y)=ax+by

A8) 벡터 분배법칙

∀a,b∈F 와 x∈V 에 대하여 (a+b)x = ax + bx

➡️ 이 8가지 조건을 만족하는 수학적 대상은 벡터공간으로 생각할 수 있다.

➡️ 즉, n차원 공간처럼 생각할 수 있다.

➡️ 행렬은 이 조건을 만족하기 때문에 벡터공간의 일종이다.

➡️ 즉, 행렬은 n차원 공간 그 자체로 볼 수 있다.

벡터공간의 성질

모든 벡터공간 V에서, 임의의 벡터 \underline{x}∈V 와 임의의 스칼라 a∈F 에 대해 다음이 성립한다.

\begin{align*} ①&\; 0\underline{x}=0 \\ ②&\; \underline{a}0=0 \\ ③&\; (−a)\underline{x} = −(a\underline{x}) = a(−\underline{x}) \\ ④&\; a\underline{x}= \underline{0} ⇔ a=0 \; or \; \underline{x} = \underline{0} \\ \end{align*}

벡터공간의 응용

‘벡터공간’이라는 개념을 통해 다양한 수학적 대상들이 벡터로 생각될 수 있음.

  • 행렬을 벡터공간로 생각 ➡️ 행공간, 열공간, 선형생성 등에 응용
  • 함수를 벡터공간로 생각 ➡️ 적분, 푸리에 변환, 미분방정식 등에 응용

도움이 되는 영상

영상여기서 바로 보기 · 누르면 유튜브에 연결됩니다

벡터공간과 행렬 1 : 선형결합과 선형생성

행렬 = 일종의 벡터공간.

즉, 행렬에 존재하는 열벡터 & 행벡터는 벡터공간의 원소가 된다.

기저를 통해 벡터 간의 관계를 알 수 있다.

예시로 보는 개념

\underline{a} = \begin{pmatrix} 1 \\ 2 \\ 3 \end{pmatrix} ,\quad \underline{b} = \begin{pmatrix} 1 \\ 0 \\ 1 \end{pmatrix} ,\quad \underline{c} = \begin{pmatrix} 2 \\ 2 \\ 4 \end{pmatrix}

이 벡터들 간의 연산을 해보자.

  • 단, 할 수 있는 연산의 종류는 한정되어 있다.

  • 연산 : 벡터 + 벡터, 벡터 + 스칼라, 벡터 * 스칼라

  • 이러한 연산을 선형결합이라고 한다.

  • 벡터 a를 연산해 벡터 b를 만들 수 있는가?

    불가능. 이러한 경우 a와 b는 선형독립이다.

  • 벡터 a와 b를 연산해 벡터 c를 만들 수 있는가?

    가능. 이러한 경우 c는 a와 b의 선형종속이다.

그런데, 벡터 a와 b를 연산해 만들 수 있는 (선형종속인) 벡터는 굉장히 많다.

이러한 벡터들을 모아보면 특정한 공간(여기서는 평면)이 만들어진다.

특정한 공간선형생성(Span) 또는 선형포(linear haul)이라고 한다.

기호로는 lin\; S 라고 한다.

또 벡터 a, b를 집합 S으로 묶어서 표시할 수 있고, 이를 lin S기저(basis)라고 한다.

또한 집합 S의 크기를 차원(dimension)이라고 한다. (여기서는 n=2 이므로 2차원)

수학적 정의

선형결합

k_{1}\underline{a_{1}} + k_{2}\underline{a_{2}} + \cdots = \begin{bmatrix} \underline{a_{1}} & \underline{a_{2}} & \cdots \underline{a_{n}} \end{bmatrix} \begin{bmatrix} k_{1} \\ k_{2} \\ \vdots \\ k_{n} \end{bmatrix}

선형생성

  • 앞서 말했듯, 선형결합으로 만들어진 벡터들을 모은 것
lin\; S = \{ k_{1}\underline{a_{1}} + \cdots + k_{n}\underline{a_{n}} \;||\; k_{i} \in \mathbb{R} \}
  • 벡터 x와 벡터 y 가 있으며, 이들이 lin S 의 원소라고 가정하자.

    \underline{x} = \sum k_{i}a_{i} 이므로, 이에 해당하는 모든 k_{i}를 찾을 수 있다.

    \underline{y} = \sum k_{i}a_{i} 이므로, 이에 해당하는 모든 k_{i}를 찾을 수 있다.

    이때, k_{1}\underline{x} +k_{2}\underline{y}을 계산한 값 역시 lin\; S 에 포함된다.

    이 경우, lin S를 ‘덧셈과 실수배에 닫혀있다’ 라고 한다.

    (원소들을 더하거나 실수배해선 해당 집합을 빠져나갈 수 없다.)

연립방정식과 선형독립

\begin{bmatrix} 1 & 2 & 3\\ 0 & 1 & 2\\ 4 & 0 & 1 \end{bmatrix} \begin{bmatrix} x \\ y \\ z \end{bmatrix} = \begin{bmatrix} 1 \\ -1 \\ 3 \end{bmatrix}
  • 앞의 행렬 A에는 3개의 벡터가 있다.
  • 이 벡터들의 선형생성 속에 벡터 b가 들어가 있다면 해가 존재한다고 할 수 있다.
  • 즉, 연립방정식을 기하학적 개념으로 생각해 볼 수 있다.

도움이 되는 동영상

영상여기서 바로 보기 · 누르면 유튜브에 연결됩니다

벡터공간과 행렬 2: 기저와 공간

행렬과 기저

  • lin S 를 만족하는 벡터들이 바로 그 행렬의 기저라고 할 수 있다.
  • 그 벡터의 갯수가 바로 차수(랭크)라고 할 수 있다.

만드는 방법

  1. 가우스-조르당 소거법을 이용해 행렬을 역삼각행렬로 만든다.
\begin{bmatrix} 1 & 2 & 1 & 4 \\ 0 & 0 & 1 & 0 \\ 1 & 1 & 0 & 2 \end{bmatrix} \quad \Rightarrow \quad \begin{bmatrix} 1 & 2 & 1 & 4 \\ 0 & 1 & 1 & 2 \\ 0 & 0 & 1 & 0 \end{bmatrix}
  1. 여기서 피봇연산이 적용된 원소의 갯수가 바로 기저이라고 할 수 있다.

    즉, 여기서는 rank(A) = 3 이다.

  • 열을 기준으로 잡았기에, 다음과 같이 생각할 수 있다.
\begin{matrix} & 1st & 2nd & 3rd & 4th\\[7pt] x\text{축} & & & \\[7pt] y\text{축} & & & \\[7pt] z\text{축} & & & \\ \end{matrix}
  • 보면 알 수 있듯, 기저의 최대값은 행의 갯수와 열의 갯수 중 더 작은 것을 따라간다.
A = \{a_{ij}\}_{m \times n} \\[8pt] rank(A) \le min(m, n)

행렬 속 공간 (부분공간)

  • 꼭 열을 기준으로 선형생성한다고 생각할 필요는 없다.
  • 행렬 속에는 다양한 공간들이 존재한다.

열공간

A \in M_{m,n}(F)인 행렬에 대하여,

Am개 열들의 선형공간으로 생성된 부분공간 R(A) = {r_{1}, r_{2}, \cdots, r_{n}}

행렬 A의 열공간이라고 한다.

행공간

A \in M_{m,n}(F)인 행렬에 대하여,

An개 들의 선형공간으로 생성된 부분공간 R(A) = {r_{1}, r_{2}, \cdots, r_{n}}

행렬 A의 열공간이라고 한다.

영공간

만약 연립방정식의 해가 0인 경우, 빈공간 C에는 0이 아닌 다른 값이 들어간다.

A\underline{C} = \underline{0}
\begin{bmatrix} 1 & 2 & 3\\ 0 & 1 & 2\\ 4 & 0 & 1 \end{bmatrix} \begin{bmatrix} x \\ y \\ z \end{bmatrix} = \begin{bmatrix} 0 \\ 0 \\ 0 \end{bmatrix}

이러한 C의 모임을 빈공간이라고 한다. 기호로는 N(A)라고 쓴다.

예시

A = \begin{bmatrix} 1 & 0 & 1 & 2 \\ 0 & 0 & 1 & 3 \\ 0 & 0 & 0 & 0 \end{bmatrix}. \quad rank(A) = 2

이때 열공간은 다음과 같다.

c_{1} \begin{pmatrix} 1 \\ 0 \\ 0 \end{pmatrix} + c_{2} \begin{pmatrix} 0 \\ 1 \\ 0 \end{pmatrix} = \begin{pmatrix} c1 \\ c2 \\ 0 \end{pmatrix} = 0
lin\; S = \{ \begin{pmatrix} 1 \\ 0 \\ 0 \end{pmatrix}, \begin{pmatrix} 0 \\ 1 \\ 0 \end{pmatrix} \}

또 행공간은 다음과 같다.

c_{1} \begin{pmatrix} 1 \\ 0 \\ 1 \\ 2 \end{pmatrix} + c_{2} \begin{pmatrix} 0 \\ 1 \\ 1 \\ 3 \end{pmatrix} = \begin{pmatrix} c1 \\ c2 \\ c_{1}+c_{2} \\ 2c_{1} + 3c_{2} \end{pmatrix} = 0
lin\; S = \{ \begin{pmatrix} 1 \\ 0 \\ 1 \\ 2 \end{pmatrix}, \begin{pmatrix} 0 \\ 1 \\ 1 \\ 3 \end{pmatrix} \}

빈공간은 다음과 같다.

\underline{c} = \begin{pmatrix} c_{1}\\c_{2}\\c_{3}\\c_{4} \end{pmatrix}. \quad c_{1} \begin{pmatrix} 1 \\ 0 \\ 0 \end{pmatrix} + c_{2} \begin{pmatrix} 0 \\ 1 \\ 0 \end{pmatrix} + c_{3} \begin{pmatrix} 1 \\ 1 \\ 0 \end{pmatrix} + c_{4} \begin{pmatrix} 2 \\ 3 \\ 0 \end{pmatrix} = 0
\begin{pmatrix} c_{1} + c_{3} + 4c_{4} \\ c_{2} + c_{3} + 3c_{4} \\ 0 \end{pmatrix} = \begin{pmatrix} 0 \\ 0 \\ 0 \end{pmatrix}. \quad \underline{c} = \begin{pmatrix} c_{1} \\ c_{2} \\ c_{3} \\ c_{4} \end{pmatrix} = \begin{pmatrix} a \\ b \\ 3a-4b \\ -a+b \end{pmatrix}
N(A) = \{ \begin{pmatrix} a \\ b \\ 3a-4b \\ -a+b \end{pmatrix} ||\; a \in \mathbb{R}, b \in \mathbb{R} \}

기저와 이웃기저해

다음과 같은 방정식이 있다고 생각해 보자. (행렬화한 상태)

\begin{bmatrix} 1 & 1 & 1 & 1 & 1 & 10 \\ -1 & 1 & -1 & 4 & 0 & 40 \\ 1 & 1 & 3 & 0 & 1 & 50 \end{bmatrix}
\begin{bmatrix} 1 & 1 & 1 & 1 & 1 & 10 \\ 0 & 1 & 0 & 2.5 & 0.5 & 25 \\ 0 & 0 & 1 & 2 & 0.5 & 45 \end{bmatrix}

이 행렬의 rank는 3이고, 기저변수는 x1, x2, x3라고 할 수 있다.

이때의 기저해는 다음과 같다.

\begin{bmatrix} -60 \\ 25 \\ 45 \\ 0 \\ 0 \end{bmatrix}

그런데, 기저변수를 x1, x2, x5로 놓을 수도 있다. 이 때의 기저해는 다음과 같다.

\begin{bmatrix} -60 \\ 25 \\ 0 \\ 0 \\ 90 \end{bmatrix}

이때 기저해들끼리의 관계를 서로 이웃기저해 라고 한다.

이웃기저해의 갯수는 최대 \binom{\text{행의 갯수}}{\text{열의 갯수}} 라고 할 수 있다.