일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | 6 | 7 |
8 | 9 | 10 | 11 | 12 | 13 | 14 |
15 | 16 | 17 | 18 | 19 | 20 | 21 |
22 | 23 | 24 | 25 | 26 | 27 | 28 |
29 | 30 | 31 |
- LU분해
- 단순선형회귀
- 회귀불연속설계
- least square estimation
- 네이버 뉴스
- Instrumental Variable
- 잔차의 성질
- Omitted Variable Bias
- OVB
- simple linear regression
- 인과추론
- rct
- 선형대수
- 교란 변수
- 크롤링
- Sharp RD
- 누락편의
- 최소제곱법
- 통계
- residuals
- confounder
- 인과 추론
- HTML
- 사영
- 머신러닝
- Python
- causal inference
- 교란변수
- 예제
- backdoor adjustment
- Today
- Total
Always awake,
선형독립과 선형종속 본문
본 포스팅의 모든 출처는 edwith의 고려대학교 주재걸 교수님의 "인공지능을 위한 선형대수" 강좌입니다
좋은 강의를 제공해주신 교수님께 감사드립니다 :)
선형 독립, 선형 종속
Practical Definition
n차원 공간에서 p개의 벡터 $v_1, v_2, ..., v_p$가 주어져 있을 때,
- 어떤 벡터 하나를 나머지 벡터들의 선형 결합으로 표현할 수 있다면 해당 vector들은 "선형 종속"이라고 합니다.
- 반대로 어떠한 벡터도 다른 벡터들의 선형 결합으로 표현할 수 없는 경우에는 "선형 독립" 이라고 합니다
Formal Definition
p개의 vector가 있을 때, 이것들의 선형 결합이 영벡터가 되는 경우를 생각해봅시다.
$$ \large x_1 v_1 + x_2 v_2 + ... + x_p v_p = 0 $$
그리고 이를 만족하는 가중치들($x_1, x_2, ..., x_p$ )을 해라고 하였을 때 무조건 위의 방정식을 만족하는 해를 생각해보면, $x_1, x_2, .., x_p$ 가 모두 0인 경우일 것입니다. 이를 너무나 당연한 해, 즉 trivial solution이라고 표현합니다. (trivial : 하찮은)
그리고 모든 해를 구하였다고 합시다. 해의 갯수에 따라서 우리는 p개의 벡터가 선형 독립인지 확인할 수 있습니다
- 해가 trivial solution 오직 하나인 경우, 각 p개의 벡터는 "선형 독립"이고
- 해가 2개 이상 존재하는 경우, 즉 trivial solution 이외의 해가 존재한다는 의미이므로 $x_1, x_2, ..., x_p$ 중 하나라도 0이 아닌 경우가 존재한다는 뜻이죠. 이는 어떤 벡터를 다른 벡터의 선형 결합으로 표현할 수 있다는 의미이므로 p개의 벡터는 서로 "선형 종속"입니다
Span과의 연관성
Span 개념으로 생각해봅시다
우리는 벡터들을 하나씩 추가해가면서 선형 결합을 통해 표현할 수 있는 공간인 Span을 늘려나가려고 합니다.
여기서 만약 j번째로 추가한 벡터가 이전의 1, .., j-1 번째 벡터들의 선형결합으로 표현할 수 있는 경우(선형 종속)
$v_j$는 결국 이전의 j-1개의 벡터들의 Span안에 존재하게 됩니다.
이는 j-1개의 벡터들의 선형결합으로 표현할 수 있는 공간과 $v_j$ 를 추가한 j개의 벡터들이 표현할 수 있는 공간이 같다는 의미가 됩니다. j번째 벡터인 $v_j$를 추가하여도 우리가 표현할 수 있는 공간은 늘어나지 않는다는 뜻입니다
$$ Span\{v_1, v_2, ..., v_{p-1}\} = Span\{v_1, v_2, ..., v_{p-1}, v_p\} $$
해가 존재하는 경우 해의 갯수
위와 같은 방정식을 봅시다
벡터 3개 $v_1, v_2, v_3$가 주어져 있고, 벡터들의 선형 결합이 벡터 $b$가 되도록 각 벡터에 적절한 가중치 $x_1, x_2, x_3$를 구하는 문제입니다.
그리고 이를 만족하는 $x_1 = 3, x_2 = 2, x_3 = 1$이라는 해가 존재한다고 합시다. 오직 이 해 1개만 존재할까요?
이를 확인하는 방법은 바로 3개의 벡터가 선형 독립인지 살펴보면 됩니다
선형 종속인 경우
먼저 선형 종속인 경우를 생각해봅시다. 우선 해가 존재한다는 것은 $b \in Span\{v_1, v_2, v_3\}$ 입니다
그리고 만약 예를 들어 $v_3 = 2 v_1 + 3 v_2$와 같이 선형 종속 관계라면 아래를 만족합니다
$$ Span\{v_1, v_2, v_3\} = Span\{v_1, v_2\} = Span\{v_1, v_3\} = Span\{v_2, v_3\} $$
즉 $b$가 존재하는 공간인 Span을 단 2개 혹은 3개의 벡터로 표현 가능하다는 것이죠. $v_1, v_2, v_3$의 선형 결합으로 $b$를 만들 수 있는 방법이 매우 다양해지기 때문에 각 벡터에 취할 수 있는 가중치(우리가 구하고자 하는 해 $x$)는 무한히 많아집니다.
즉, 해가 무수히 많이 존재하게 됩니다
선형 독립인 경우
반대로, 선형 독립인 경우 3개의 벡터 모두를 사용한 경우에만 해가 존재하는 공간을 만들 수 있기 때문에
$b$를 만들기 위해 각 벡터에 취할 수 있는 가중치는 (우리가 구하고자 하는 해 $x$) 오직 1개만 존재하게 됩니다.
▼ 글이 도움이 되셨다면 아래 클릭 한번 부탁드립니다 :) ▼
'선형 대수' 카테고리의 다른 글
correlation의 기하학적 의미 (0) | 2022.12.10 |
---|---|
Orthogonal 벡터 만들기 #2 (0) | 2022.03.07 |
Orthogonal 벡터 만들기 (0) | 2022.03.02 |
Least Square & Normal Equation (0) | 2022.02.19 |
회귀분석과 해의 존재성 (0) | 2022.02.14 |