PyTorch

PyTorch로 딥러닝 모델을 만들고 학습하는 방법.

PyTorch로 딥러닝 모델을 만들고 학습하는 방법.

상위 개념: 딥러닝

11 posts · 아카이브에서 필터로 보기

(설명추가) 웨이트 초기화 (Weight Initialization)

1. 웨이트 초기화란? 딥러닝에서 웨이트 초기화(Weight Initialization)는 신경망의 가중치를 학습 전에 설정하는 과정입니다. 초기화 방식에 따라 모델의 학습 속도, 성능, 안정성이 크게 달라질 수 있습니다. 적절한 초기화 방식은 훈련을 가속화하고, 최적화 과정에서 안정적인 학습을 보장하며, 그래디언트 소실 및 폭발 문제를 방지...

[Graph] 4장. Graph Neural Networks: Algorithms

1. Introduction 그래프 구조 데이터는 복잡한 관계와 상호작용을 모델링하는 데 매우 유용합니다. 이러한 데이터를 효과적으로 분석하고 학습하기 위해 그래프 신경망(Graph Neural Networks, GNN)과 그래프 임베딩(Graph Embedding) 기법이 개발되었습니다. 1.1 그래프 신경망 모델 vs 그래프 임베딩 그래...

[개념] Deep Learning Normalization Techniques

딥러닝에서의 정규화 기법 출처: https://theaisummer.com/normalization/ 정규화의 정의와 목적 정규화(Normalization)는 데이터의 스케일을 조정하는 과정으로, 머신러닝과 딥러닝에서 모두 중요한 역할을 합니다. 그러나 전통적인 머신러닝에서의 정규화와 딥러닝에서의 정규화는 그 목적과 방법에 있어 약간의 차이가 ...

[파이토치] 파이토치로 CNN 모델을 구현해보자! (ResNet편)

안녕하세요! 지난번 포스트인 VGGNet과 GoogleNet 이후로 오늘은 ResNet 관련 포스트입니다. 2번에 걸친 포스팅에서 소개드렸다시피 컴퓨터 비전 대회 중에 ILSVRC (Imagenet Large Scale Visual Recognition Challenges)이라는 대회가 있는데, 본 대회는 거대 이미지를 1000개의 서브이미지로 분류...

[파이토치] 파이토치로 CNN 모델을 구현해보자! (GoogleNet편)

안녕하세요! 지난번 포스트인 VGGNet 이후로 오늘은 GoogleNet 관련 포스트입니다. 다음 포스트는 ResNet으로 찾아뵙도록 하겠습니다. 지난번에도 소개드렸다시피 컴퓨터 비전 대회 중에 ILSVRC (Imagenet Large Scale Visual Recognition Challenges)이라는 대회가 있는데, 본 대회는 거대 이미지를 1...

[파이토치] 파이토치로 CNN 모델을 구현해보자! (VGGNet편)

안녕하세요! 오늘 포스팅부터 다음다음 포스팅까지는 CNN 모델의 뼈대가 되는 모델들인 VGGNet, GoogleNet, ResNet을 소개하고 이를 구현해보는 시간을 갖도록 하겠습니다! :) 이번 포스팅은 VGGNet 관련 포스트입니다. 먼저 ILSVRC (Imagenet Large Scale Visual Recognition Challenges)이...

[파이토치] 파이토치로 CNN 모델을 구현해보자! (기초편 + DataLoader 사용법)

MNIST 데이터 - CNN 실습 오늘은 MNIST 데이터로 Convolutional Neural Network(이하 CNN)을 구현하고 돌려보는 시간을 갖도록 하겠습니다! 먼저, CNN은 크게 아래와 같은 구성요소로 이루어져 있습니다. 합성곱 연산(Convolution) : 이미지의 특성을 추출하는 계층 맥스풀링(Max Pooling)...

[Paper Review] An Image Is Worth 16x16 Words : Transformers for Image Recognition at Scale (Vision Transformer)

선정 이유 안녕하세요! 오늘 논문리뷰, 코드리뷰해볼 논문은 “An Image Is Worth 16x16 Words: Transformers for Image Recognition at Scale” 로, 컴퓨터 비전에서 Transformer와 Attention이 쓰이게 된 결정적 계기(?)가 된 논문입니다. 최근 이쪽 분야에 관심이 많다 보니 오늘은 ...

[Paper Review] An Architecture Combining Convolutional Neural Network(CNN) and Support Vector Machine(SVM) for Image Classification

오늘 리뷰/번역/구현할 논문은 “Abien Fred M. Agarap” 저자가 쓴 논문으로, “Yichuan Tang”의 “Deep Learning using Linear Support Vector Machines”을 보고 inspired되어 연구하게 되었다고 한다. 하단의 참고 논문 소스에 해당 논문 링크와 이번 논문의 링크를 첨부였다. (참고) ...

[파이토치] 파이토치 기초 요소 (Autograd란)

순전파와 역전파 신경망(Neural Network)은 어떤 입력 데이터에 대해 실행되는 중첩된 함수들의 집합체입니다. 신경망을 아래 2단계를 거쳐 학습됩니다 : 순전파(Forward Propagation) 역전파(Backward Propagation) Forward Propagation (순전파) Forward Propagatio...

[파이토치] 파이토치 기초 요소 (텐서편)

오늘은 파이토치를 다루기 위해 중요한 기초 지식들 중 텐서에 대해 다루어볼 예정입니다. Source : https://hadrienj.github.io/posts/Deep-Learning-Book-Series-2.1-Scalars-Vectors-Matrices-and-Tensors/ 텐서 텐서는 ‘데이터를 표현하는 단위’입니다. ...