Always awake,

선형독립과 선형종속 본문

선형 대수

선형독립과 선형종속

호재 P.B 2022. 2. 18. 01:20

 

본 포스팅의 모든 출처는 edwith의 고려대학교 주재걸 교수님의 "인공지능을 위한 선형대수" 강좌입니다

좋은 강의를 제공해주신 교수님께 감사드립니다 :)

 

 

 

 

[LECTURE] 선형독립과 선형종속 : edwith

학습목표 이번 강의에서는 선형대수에서 중요한 개념 중 하나인 선형독립과 선형종속에 대해서 배우겠습니다. 그리고 이들이 선형 시스템 내에서 가지는 특성에 대해서도 알아보겠습니다.  ...

www.edwith.org

선형 독립, 선형 종속

Practical Definition

 

n차원 공간에서 p개의 벡터 $v_1, v_2, ..., v_p$가 주어져 있을 때,

  • 어떤 벡터 하나를 나머지 벡터들의 선형 결합으로 표현할 수 있다면 해당 vector들은 "선형 종속"이라고 합니다.
  • 반대로 어떠한 벡터도 다른 벡터들의 선형 결합으로 표현할 수 없는 경우에는 "선형 독립" 이라고 합니다

 

Formal Definition

p개의 vector가 있을 때, 이것들의 선형 결합이 영벡터가 되는 경우를 생각해봅시다.

$$ \large x_1 v_1 + x_2 v_2 + ... + x_p v_p = 0 $$

그리고 이를 만족하는 가중치들($x_1, x_2, ..., x_p$ )을 해라고 하였을 때 무조건 위의 방정식을 만족하는 해를 생각해보면, $x_1, x_2, .., x_p$ 가 모두 0인 경우일 것입니다. 이를 너무나 당연한 해, 즉 trivial solution이라고 표현합니다. (trivial : 하찮은)

그리고 모든 해를 구하였다고 합시다. 해의 갯수에 따라서 우리는 p개의 벡터가 선형 독립인지 확인할 수 있습니다

  • 해가 trivial solution 오직 하나인 경우, 각 p개의 벡터는 "선형 독립"이고
  • 해가 2개 이상 존재하는 경우, 즉 trivial solution 이외의 해가 존재한다는 의미이므로 $x_1, x_2, ..., x_p$ 중 하나라도 0이 아닌 경우가 존재한다는 뜻이죠. 이는 어떤 벡터를 다른 벡터의 선형 결합으로 표현할 수 있다는 의미이므로 p개의 벡터는 서로 "선형 종속"입니다

 

Span과의 연관성

Span 개념으로 생각해봅시다

우리는 벡터들을 하나씩 추가해가면서 선형 결합을 통해 표현할 수 있는 공간인 Span을 늘려나가려고 합니다.

 

여기서 만약 j번째로 추가한 벡터가 이전의 1, .., j-1 번째 벡터들의 선형결합으로 표현할 수 있는 경우(선형 종속) 

$v_j$는 결국 이전의 j-1개의 벡터들의 Span안에 존재하게 됩니다.

이는 j-1개의 벡터들의 선형결합으로 표현할 수 있는 공간과 $v_j$ 를 추가한 j개의 벡터들이 표현할 수 있는 공간이 같다는 의미가 됩니다. j번째 벡터인 $v_j$를 추가하여도 우리가 표현할 수 있는 공간은 늘어나지 않는다는 뜻입니다

$$ Span\{v_1, v_2, ..., v_{p-1}\} = Span\{v_1, v_2, ..., v_{p-1}, v_p\} $$ 

해가 존재하는 경우 해의 갯수

위와 같은 방정식을 봅시다

벡터 3개 $v_1, v_2, v_3$가 주어져 있고, 벡터들의 선형 결합이 벡터 $b$가 되도록 각 벡터에 적절한 가중치 $x_1, x_2, x_3$를 구하는 문제입니다.

그리고 이를 만족하는 $x_1 = 3, x_2 = 2, x_3 = 1$이라는 해가 존재한다고 합시다. 오직 이 해 1개만 존재할까요?

이를 확인하는 방법은 바로 3개의 벡터가 선형 독립인지 살펴보면 됩니다

 

선형 종속인 경우

먼저 선형 종속인 경우를 생각해봅시다. 우선 해가 존재한다는 것은 $b \in Span\{v_1, v_2, v_3\}$ 입니다

그리고 만약 예를 들어 $v_3 = 2 v_1 + 3 v_2$와 같이 선형 종속 관계라면 아래를 만족합니다

$$ Span\{v_1, v_2, v_3\} = Span\{v_1, v_2\} = Span\{v_1, v_3\} = Span\{v_2, v_3\} $$

즉 $b$가 존재하는 공간인 Span을 단 2개 혹은 3개의 벡터로 표현 가능하다는 것이죠. $v_1, v_2, v_3$의 선형 결합으로 $b$를 만들 수 있는 방법이 매우 다양해지기 때문에 각 벡터에 취할 수 있는 가중치(우리가 구하고자 하는 해 $x$)는 무한히 많아집니다.

 

즉, 해가 무수히 많이 존재하게 됩니다

 

선형 독립인 경우

반대로, 선형 독립인 경우 3개의 벡터 모두를 사용한 경우에만 해가 존재하는 공간을 만들 수 있기 때문에

$b$를 만들기 위해 각 벡터에 취할 수 있는 가중치는 (우리가 구하고자 하는 해 $x$) 오직 1개만 존재하게 됩니다.

 

 

 

글이 도움이 되셨다면 아래 클릭 한번 부탁드립니다 :)

반응형

'선형 대수' 카테고리의 다른 글

correlation의 기하학적 의미  (0) 2022.12.10
Orthogonal 벡터 만들기 #2  (0) 2022.03.07
Orthogonal 벡터 만들기  (0) 2022.03.02
Least Square & Normal Equation  (0) 2022.02.19
회귀분석과 해의 존재성  (0) 2022.02.14