Learn And Earn

0. Forward 연산 분석, 꼭 필요한가요?연산 분석은 단순히 모델 내부를 들여다보는 것을 넘어, 다음을 가능하게 합니다:문제를 발견하고 수정하는 디버깅.성능 최적화 및 효율성 증대.전체 연산을 구성하는 기초연산/보다 작은 복합 연산을 분석 가능.결국, 연산 분석은 단순히 모델을 "돌아가게" 만드는 것을 넘어, "잘 돌아가게" 만드는 데 핵심적인 역할을 합니다. 이번 포스팅에서는 가장 기초적인 연산인 nn.Conv2d 연산을 추적해보겠습니다. python-debugger 과 pytorch 내장된 hook 기능을 활용하여 분석해보겠습니다. 정말 쉬우니 5분만 투자하세요!1. 디버거 활용디버거는 코드 실행 중 step-by-step으로 모델의 연산을 살펴볼 수 있게 합니다.활용 방법:디버거를 통해 모델의..

"나 보려고 쓰는 딥러닝" 카테고리에서는 딥러닝의 가장 핵심적인 이론, 또 그의 응용분야(image, sequential-data)에 따른 variation의 모델들을 설명하겠습니다. 또한, tensorflow, pytorch와 같은, 딥러닝이 들어가는 데에 아주 효율적으로 사용되는 라이브러리의 사용법도 함께 다뤄보도록 하겠습니다. 또 이러한 오픈소스를 이용할 때에 발생하는 사소한 기술적인 문제들의 해결방법 및 소소한 팁 또한 다뤄볼 예정입니다. 감사합니다.