[스노피 AI] Vision Transformer 쉽게 이해하기 - 2. Transformer Architecture
Transformer Architecture1. Introduction to Transformer ArchitectureDefinition: "Attention is All You Need" 논문에 소개된 Transformer 아키텍처는 자연어 처리(NLP) 분야에 혁명을 일으켰으며 현재 Vision Transformers(ViT)를 통해 컴퓨터 비전에 적용되고 있습니다.Importance: Self-Attention 메커니즘을 사용하여 이미지의 여러 부분 간의 관계를 캡처함으로써 이미지 처리 작업에서 기존 CNN(컨볼루션 신경망)을 대체합니다.Architecture2. Key Components of Transformer ArchitectureEncoder and Decoder: Transformer는..
SnowPea(스노피) AI
2024. 6. 13. 10:06