논문 구현

이 글은 2017년 발표된 "Attention Is All You Need" 논문에서 제안한 Transformer 모델을 Pytorch로 구현한 내용을 정리한 것입니다. 논문에서 설명된 구조와 수식을 바탕으로, 각 구성 요소가 코드에서 어떻게 구현되는지를 단계적으로 설명하겠습니다. 참고: https://k-jirung.tistory.com/62 (Attention Is All You Need 논문 리뷰)     전체 구조 요약Transformer는 인코더-디코더 구조를 기반으로 하며, 각 구성은 다음과 같이 이루어집니다:Encoder: 입력 문장을 처리하여 문맥 정보를 추출Decoder: 인코더의 출력을  바탕으로 출력 문장을 생성핵심 구성 요소:Multi-Head AttentionPosition-wis..