일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | |||||
3 | 4 | 5 | 6 | 7 | 8 | 9 |
10 | 11 | 12 | 13 | 14 | 15 | 16 |
17 | 18 | 19 | 20 | 21 | 22 | 23 |
24 | 25 | 26 | 27 | 28 | 29 | 30 |
31 |
- Python
- Instrumental Variable
- HTML
- 잔차의 성질
- 교란 변수
- 누락편의
- 선형대수
- simple linear regression
- 네이버 뉴스
- Sharp RD
- 사영
- Omitted Variable Bias
- 회귀불연속설계
- 최소제곱법
- 예제
- rct
- 인과추론
- causal inference
- confounder
- backdoor adjustment
- 크롤링
- 인과 추론
- 통계
- least square estimation
- residuals
- LU분해
- 머신러닝
- 단순선형회귀
- 교란변수
- OVB
- Today
- Total
Always awake,
선형독립과 선형종속 본문
본 포스팅의 모든 출처는 edwith의 고려대학교 주재걸 교수님의 "인공지능을 위한 선형대수" 강좌입니다
좋은 강의를 제공해주신 교수님께 감사드립니다 :)
[LECTURE] 선형독립과 선형종속 : edwith
학습목표 이번 강의에서는 선형대수에서 중요한 개념 중 하나인 선형독립과 선형종속에 대해서 배우겠습니다. 그리고 이들이 선형 시스템 내에서 가지는 특성에 대해서도 알아보겠습니다. ...
www.edwith.org
선형 독립, 선형 종속
Practical Definition

n차원 공간에서 p개의 벡터 v1,v2,...,vp가 주어져 있을 때,
- 어떤 벡터 하나를 나머지 벡터들의 선형 결합으로 표현할 수 있다면 해당 vector들은 "선형 종속"이라고 합니다.
- 반대로 어떠한 벡터도 다른 벡터들의 선형 결합으로 표현할 수 없는 경우에는 "선형 독립" 이라고 합니다
Formal Definition

p개의 vector가 있을 때, 이것들의 선형 결합이 영벡터가 되는 경우를 생각해봅시다.
x1v1+x2v2+...+xpvp=0
그리고 이를 만족하는 가중치들(x1,x2,...,xp )을 해라고 하였을 때 무조건 위의 방정식을 만족하는 해를 생각해보면, x1,x2,..,xp 가 모두 0인 경우일 것입니다. 이를 너무나 당연한 해, 즉 trivial solution이라고 표현합니다. (trivial : 하찮은)
그리고 모든 해를 구하였다고 합시다. 해의 갯수에 따라서 우리는 p개의 벡터가 선형 독립인지 확인할 수 있습니다
- 해가 trivial solution 오직 하나인 경우, 각 p개의 벡터는 "선형 독립"이고
- 해가 2개 이상 존재하는 경우, 즉 trivial solution 이외의 해가 존재한다는 의미이므로 x1,x2,...,xp 중 하나라도 0이 아닌 경우가 존재한다는 뜻이죠. 이는 어떤 벡터를 다른 벡터의 선형 결합으로 표현할 수 있다는 의미이므로 p개의 벡터는 서로 "선형 종속"입니다
Span과의 연관성

Span 개념으로 생각해봅시다
우리는 벡터들을 하나씩 추가해가면서 선형 결합을 통해 표현할 수 있는 공간인 Span을 늘려나가려고 합니다.
여기서 만약 j번째로 추가한 벡터가 이전의 1, .., j-1 번째 벡터들의 선형결합으로 표현할 수 있는 경우(선형 종속)
vj는 결국 이전의 j-1개의 벡터들의 Span안에 존재하게 됩니다.
이는 j-1개의 벡터들의 선형결합으로 표현할 수 있는 공간과 vj 를 추가한 j개의 벡터들이 표현할 수 있는 공간이 같다는 의미가 됩니다. j번째 벡터인 vj를 추가하여도 우리가 표현할 수 있는 공간은 늘어나지 않는다는 뜻입니다
Span{v1,v2,...,vp−1}=Span{v1,v2,...,vp−1,vp}
해가 존재하는 경우 해의 갯수

위와 같은 방정식을 봅시다
벡터 3개 v1,v2,v3가 주어져 있고, 벡터들의 선형 결합이 벡터 b가 되도록 각 벡터에 적절한 가중치 x1,x2,x3를 구하는 문제입니다.
그리고 이를 만족하는 x1=3,x2=2,x3=1이라는 해가 존재한다고 합시다. 오직 이 해 1개만 존재할까요?
이를 확인하는 방법은 바로 3개의 벡터가 선형 독립인지 살펴보면 됩니다
선형 종속인 경우
먼저 선형 종속인 경우를 생각해봅시다. 우선 해가 존재한다는 것은 b∈Span{v1,v2,v3} 입니다
그리고 만약 예를 들어 v3=2v1+3v2와 같이 선형 종속 관계라면 아래를 만족합니다
Span{v1,v2,v3}=Span{v1,v2}=Span{v1,v3}=Span{v2,v3}
즉 b가 존재하는 공간인 Span을 단 2개 혹은 3개의 벡터로 표현 가능하다는 것이죠. v1,v2,v3의 선형 결합으로 b를 만들 수 있는 방법이 매우 다양해지기 때문에 각 벡터에 취할 수 있는 가중치(우리가 구하고자 하는 해 x)는 무한히 많아집니다.
즉, 해가 무수히 많이 존재하게 됩니다
선형 독립인 경우
반대로, 선형 독립인 경우 3개의 벡터 모두를 사용한 경우에만 해가 존재하는 공간을 만들 수 있기 때문에
b를 만들기 위해 각 벡터에 취할 수 있는 가중치는 (우리가 구하고자 하는 해 x) 오직 1개만 존재하게 됩니다.
▼ 글이 도움이 되셨다면 아래 클릭 한번 부탁드립니다 :) ▼
'선형 대수' 카테고리의 다른 글
correlation의 기하학적 의미 (0) | 2022.12.10 |
---|---|
Orthogonal 벡터 만들기 #2 (0) | 2022.03.07 |
Orthogonal 벡터 만들기 (0) | 2022.03.02 |
Least Square & Normal Equation (0) | 2022.02.19 |
회귀분석과 해의 존재성 (0) | 2022.02.14 |