1. 내적과 내적공간
개요
수의 곱셈을 생각해보자.
2 \times 3 = 6
그런데 생각해보면 곱셈도 일종의 함수라고 할 수 있다.
f(x, y) = x\cdot y \\[10pt]
f(2, 3) = 2\cdot 3
마찬가지로, 지금까지 내적을 벡터에서의 곱셈 중 하나로 보았다.
\underline{x} \cdot
\underline{y} =
\begin{pmatrix}
1 & 2
\end{pmatrix}
\begin{pmatrix}
3 \\ 4
\end{pmatrix}
= 1\cdot 3 + 2\cdot 4
= 11
이제는 내적을 함수의 일종으로 생각해 보자.
\langle \underline{x},~
\underline{y} \rangle
- 좁은 의미의 내적(dot product) : 벡터의 곱셈.
- 넓은 의미의 내적(inner product) : 두 벡터를 스칼라로 만들어주는 함수.
함수로써의 내적과 내적공간
다음과 같은 조건을 만족하는 모든 함수는 내적이라고 볼 수 있다.
x,y,z \in V,~~c\in F \\[10pt]
\begin{align*}
1.~&\langle x, a+b\rangle
= \langle x,a\rangle
+ \langle x,b\rangle \\
2.~&\langle cx, y \rangle
= c \langle x,y \rangle \\
3.~&\langle y, x \rangle
= \langle x, y \rangle \\
4.~&\forall x \in V,
~\langle x,x\rangle\ge 0~,~
~\langle x,x\rangle <=> x=0
\end{align*}
이때, 적어도 하나의 내적을 가지는 벡터공간을 내적공간이라고 한다.
만약 내적을 가진 벡터공간 V = \mathbb{R}이면, 이 V를 실내적공간이라고 한다.
대표적인 내적
위의 4가지 조건만 만족하면 무조건 내적이라고 할 수 있기 때문에 다양한 내적들이 나올 수 있다.
표준 내적
x =
\begin{bmatrix}
a_1 & a_2 & \cdots & a_n
\end{bmatrix}\\
y =
\begin{bmatrix}
b_1 & b_2 & \cdots & b_n
\end{bmatrix}\\[20pt]
\langle x,y \rangle = \sum a_ib_i
우리가 벡터의 곱셈으로 알던 좁은 의미의 내적이다.
프로베니우스 내적
A,B \in M_n(\mathbb{R})\\[10pt]
\langle A,B \rangle = tr(AB^t)
A =
\begin{pmatrix}
1 & 3 \\
2 & 4 \\
\end{pmatrix}.~~
B =
\begin{pmatrix}
1 & 5 \\
7 & 4 \\
\end{pmatrix}. \\[15pt]
AB^T =
\begin{pmatrix}
1 & 3 \\
2 & 4 \\
\end{pmatrix}
\begin{pmatrix}
1 & 7 \\
5 & 4 \\
\end{pmatrix}
=
\begin{pmatrix}
8 & 19 \\
22 & 22 \\
\end{pmatrix} \\[15pt]
tr(AB^T) = 8 + 22 = 30
행렬에서 정의한 내적이라고 할 수 있다.
적분
적분도 내적이라고 볼 수 있다.
\langle f, g \rangle = \int f(x)g(x)dx
원래 벡터에서의 내적(표준내적) : 각 원소끼리 곱한 뒤 모두 더한다.
\begin{bmatrix}
1 & 2 & 3
\end{bmatrix}
\begin{bmatrix}
1 \\ 2 \\ 3
\end{bmatrix}
함수 f, g를 벡터라고 생각해 보자. (벡터공간 참고!)
함수의 각 값들을 더하고, 모두 곱해줘야 한다.
\begin{bmatrix}
\cdots & f(0.99) & \cdots & f(1) & \cdots & f(1.1) & \cdots
\end{bmatrix}
\begin{bmatrix}
\vdots \\ f(0.99) \\ \vdots \\ f(1) \\ \vdots \\ f(1.1) \\ \vdots
\end{bmatrix}
표준내적과 차이점은 벡터의 원소가 무한히 많다는 것이다. 즉 더하는 과정이 무한히 많다.
무한히 더해야 한다 ⇒ 적분으로 바꿀 수 있음.
\cdots+ f(0.99)g(0.99) +..+ f(1)g(1)+..+f(1.1)g(1.1)+\cdots
\\[20pt]
\lim_{a \to \infty}~~\sum_{x = -a}^{a}~f(x)g(x)dx
\int f(x)g(x)dx
2. 기저와 사영
기저와 직교기저
- 내적공간 내의 두 벡터의 내적이 0일 경우, 두 벡터는 서로 직교한다.
- 이렇게 서로 내적이 0인 벡터들을 모은 집합을 직교집합이라고 한다.
- 만약 그 벡터들의 Norm이 1인 경우, 이를 정규직교집합이라고 한다.
사영
proj_{x}(\mathbf{v})
3. 그람-슈미트 과정
직교벡터를 통해 R^n에 있는 어떠한 벡터를 만들 수 있다.
그렇다면, 거꾸로 어떠한 벡터가 주어질 때 이를 만들어낸 직교벡터를 찾아 볼 수 있다. 이를 그람-슈미트 과정이라고 한다.
계산과정
예시
v1 = \begin{pmatrix}
2 & 0 & 0\end{pmatrix}\\
v2 = \begin{pmatrix}
2 & 0 & 0\end{pmatrix}\\