역전파

역전파(Backpropagation)

This entry is part 3 of 9 in the series 딥러닝 핵심 개념

1. 들어가며 Backpropagation(역전파)는 딥러닝을 이루는 핵심 알고리즘들 중 하나입니다. 따라서 반드시 직접 네트워크를 미분해 보며 그 의미를 느껴봐야 합니다. 딥러닝 모델을 연구, 개발할 때 대부분은 PyTorch, TensorFlow 등의 딥러닝 프레임워크를 사용하는데요. 이러한 프레임워크들은 대부분 Backpropagation을 위한 자동 미분 메서드를 제공합니다. 따라서 특별한 경우를 제외하면 Backpropagation을 위한 코드를 직접 짜는 경우는 잘 없습니다. 그런데 왜 굳이 …

역전파(Backpropagation) 더 보기

역전파 과정에서 나오는 Gradient의 요소별 의미

6.딥러닝이 학습하는 방법 : 역전파(Backpropagation), 경사하강법(Gradient Descent)

This entry is part 6 of 7 in the series 딥러닝 이야기

1. 들어가며 지난 글에서는 딥러닝에 대해 살펴봤습니다. 딥러닝은 머신러닝의 다양한 방법 중 하나입니다. 그 많은 방법 중 인공신경망에 해당하는 방법론이죠. 인공신경망과 딥러닝은 사실상 같은 개념입니다. 재야에 묻혀 있던 인공신경망이 득도하여 세상으로 나오면서 새롭게 브랜딩 한 이름이 딥러닝입니다. 이러한 딥러닝의 굵직한 개념들에 대해 살펴봤었는데요. 먼저 기존 머신러닝 방법들과 차별화되는 딥러닝의 철학을 살펴봤습니다. 인공신경망은 쉽게 말해 데이터셋을 …

6.딥러닝이 학습하는 방법 : 역전파(Backpropagation), 경사하강법(Gradient Descent) 더 보기

오차가 줄어드는 방향으로 학습하는 방법
Scroll to Top