목록transformer (1)

Always awake,

Transformer 행렬 연산 #1 Encoder

"개인적으로 트랜스포머를 행렬 연산으로 이해하기 위해 작성한 포스트입니다" 트랜스포머를 공부하다 보면 개념적으로는 이해가 되는데, 아래 내용들이 머릿 속에서 잘 그려지지 않아 이해해보려 합니다!전체 흐름이 어떻게 되는지각 연산(Layer)마다 Tensor 형태가 어떻게 변하는지 (Input, Output)행렬 연산으로는 어떻게 처리되는지본 글에서는 Transformer 의 구조, 개념, 각 층의 상세한 수식 및 의미는 아래 첨부한 글에 나와 있어 생략하고,행렬 연산을 통해 Tensor 의 형태가 어떻게 변해가는지 위주로 작성하였습니다!Transformer 구조출처: https://wikidocs.net/217018그래도 Transformer 구조는 간단하게나마 알아야 하기에 잠깐 설명하겠습니다! Tran..
머신러닝 2025. 3. 11. 01:51
이전 Prev 1 Next 다음