Must Have 텐초의 파이토치 딥러닝 특강

이종민(텐초) 저자(글)

골든래빗(주) · 2022년 08월 12일

책 소개

★ 먼저 〈기본 블록〉과 〈학습 루프〉 그림으로 이해하고
★ 15가지 파이토치 딥러닝 신경망을 구현하고 학습하라

개념을 제대로 이해하면 누구나 ‘데이터 분석 → 전처리 → 모델링 → 평가’ 순서를 따라 딥러닝 신경망을 어렵지 않게 만들 수 있습니다. 그래서 이 책은 이해를 돕는 그림을 곁들여 개념을 충실히 설명하고 〈기본 블록〉과 〈학습 루프〉를 그림으로 제시합니다. 그러고 나서 이미지, 텍스트, GAN 생성 모델을 학습하는 데 유용한 15가지 신경망을 만들어봅니다. 이 책으로 딥러닝 기초를 다지고 나서 최신 논문을 참고하면 실무에서 만나는 데이터에 알맞은 문제 풀이 전략을 고안할 수 있게 될 겁니다.

* Must Have 시리즈는 내 것으로 만드는 시간을 드립니다. 명확한 학습 목표와 핵심 정리를 제공하고, 간단명료한 설명과 다양한 그림으로 학습 효과를 극대화합니다. 설명과 예제를 제공해 응용력을 키워줍니다. 할 수 있습니다. 포기는 없습니다. 지금 당장 밑줄 긋고 메모하고 타이핑하세요! Must Have가 여러분의 성장을 돕겠습니다.

작가정보

저자(글) 이종민(텐초)

일본 JAIST 정보과학 석사. 동경의 딥러닝 엔지니어로 Ghelia에서 B2B 인공지능 솔루션을 개발 중이다. 딥러닝의 유용함을 널리 알리고자 유튜버로 활동하고 글을 쓰고 책을 집필합니다. 쉬운 그림을 이용해 10초만에 핵심을 전달하자는 의미에서 닉네임을 텐초로 지어 활동하고 있습니다.
- SNS : www.youtube.com/c/텐초

목차

• 00장. 실습 환경 안내
  __0.1 코랩 시작하기
  __0.2 코랩 기초 사용 방법
  __0.3 예제 코드 노트 복사하기
  __0.4 실습에 사용할 데이터셋 준비하기
  
  [1단계 : 딥러닝 입문하기]
  
  01장. 딥러닝 한눈에 살펴보기
  __1.1 머신러닝과 딥러닝
  __1.2 지도 학습, 비지도 학습, 강화 학습
  __1.3 왜 딥러닝에 파이토치인가?
  __1.4 파이토치 권고 코딩 스타일
  __1.5 딥러닝 문제 해결 프로세스
  __1.6 딥러닝 문제 해결 체크리스트
  __1.7 딥러닝에 필요한 최소한의 통계 개념
  __1.8 직관적 분석에 유용한 시각화
  __학습 마무리
  __연습문제
  
  02장. 인공 신경망 ANN 이해하기
  __2.1 퍼셉트론
  __2.2 다층 신경망으로 단층 신경망 한계 극복하기
  __2.3 인공 신경망의 학습 확인해보기
  __2.4 손실 함수로 올바른 가중치 찾기
  __2.5 경사 하강법과 오차 역전파로 최적의 값 찾기
  __2.6 활성화 함수로 기울기 소실 예방하기
  __2.7 신경망 성능 비교하기
  __학습 마무리
  __연습문제
  
  03장. 간단한 신경망 만들기
  __3.1 사인 함수 예측하기
  __3.2 보스턴 집값 예측하기 : 회귀 분석
  __3.3 손글씨 분류하기 : 다중분류
  __학습 마무리
  __연습문제
  
  [2단계 : 입문용 신경망 3총사 CNN, ResNet, RNN]
  
  04장. 사진 분류하기 : CNN과 VGG
  __4.1 이해하기 : CNN
  __4.2 데이터 전처리하기
  __4.3 CNN으로 이미지 분류하기
  __4.4 전이 학습 모델 VGG로 분류하기
  __학습 마무리
  __연습문제
  
  05장. 유행 따라가기 : ResNet 만들기
  __5.1 이해하기 : ResNet
  __5.2 이해하기 : 배치 정규화
  __5.3 기본 블록 정의하기
  __5.4 ResNet 모델 정의하기
  __5.5 모델 학습하기
  __5.6 모델 성능 평가하기
  __학습 마무리
  __연습문제
  
  06장. 넷플릭스 주가 예측하기 : RNN으로 첫 시계열 학습
  __6.1 이해하기 : RNN
  __6.2 데이터 살펴보기
  __6.3 학습용 데이터 만들기
  __6.4 RNN 모델 정의하기
  __6.5 모델 학습하기
  __6.6 모델 성능 평가하기
  __학습 마무리
  __연습문제
  
  [3단계 : 딥러닝으로 이미지 처리하기]
  
  07장. 이미지 세그멘테이션 : U-Net
  __7.1 이해하기 : U-Net
  __7.2 데이터 살펴보기
  __7.3 학습용 데이터 만들기
  __7.4 U-Net 모델 정의하기
  __7.5 모델 학습하기
  __7.6 모델 성능 평가하기
  __학습 마무리
  __연습문제
  
  08장. 이미지 노이즈 제거 : 오토인코더
  __8.1 이해하기 : 이미지 노이즈
  __8.2 이해하기 : 오토인코더
  __8.3 데이터 살펴보기
  __8.4 학습용 데이터 만들기
  __8.5 인코더 모델 정의하기
  __8.6 디코더 모델 정의하기
  __8.7 CAE 모델 정의하기
  __8.8 모델 학습하기
  __8.9 모델 성능 평가하기
  __학습 마무리
  __연습문제
  
  09장. 자동 채색 : Let there be color 모델
  __9.1 이해하기 : Let there be color 모델 구조
  __9.2 데이터 살펴보기
  __9.3 학습용 데이터셋 만들기
  __9.4 모델 정의하기 : 로 레벨 특징 추출기
  __9.5 모델 정의하기 : 미들 레벨 특징 추출기
  __9.6 모델 정의하기 : 글로벌 레벨 특징 추출기
  __9.7 모델 정의하기 : 컬러라이제이션 신경망
  __9.8 모델 정의하기 : 전체 모델
  __9.9 모델 학습하기
  __9.10 모델 성능 평가하기
  __학습 마무리
  __연습문제
  
  [4단계 : 딥러닝으로 텍스트 처리하기]
  
  10장. 글쓰는 인공지능 : LSTM 텍스트 생성
  __10.1 이해하기 : 텍스트 생성
  __10.2 이해하기 : LSTM
  __10.3 데이터 살펴보기
  __10.4 학습용 데이터 만들기
  __10.5 LSTM 모델 정의하기
  __10.6 학습하기
  __10.7 모델 성능 평가하기
  __학습 마무리
  __연습문제
  
  11장. 직접 만드는 번역기 : 어텐션 기계 번역
  __11.1 이해하기 : Seq2Seq 모델
  __11.2 이해하기 : 어텐션 메커니즘
  __11.3 이해하기 : GRU
  __11.4 데이터 살펴보기
  __11.5 학습용 데이터 만들기
  __11.6 인코더 정의하기
  __11.7 디코더 정의하기
  __11.8 어텐션 기계 번역기 학습하기
  __11.9 모델 성능 평가하기
  __학습 마무리
  __연습문제
  
  12장. 캡챠 텍스트 인식 : CRNN+GRU
  __12.1 이해하기 : CRNN
  __12.2 이해하기 : CTC 손실
  __12.3 데이터 살펴보기
  __12.4 학습용 데이터셋 만들기
  __12.5 CRNN 모델 정의하기 : CNN
  __12.6 CRNN 모델 정의하기 : 전체 모델
  __12.7 모델 학습하기
  __12.8 모델 성능 평가하기
  __학습 마무리
  __연습문제
  
  [5단계 : GAN으로 생성 모델 만들기]
  
  13장. 사람 얼굴을 생성하는 GAN
  __13.1 이해하기 : GAN
  __13.2 이해하기 : 특징 공간
  __13.3 데이터 살펴보기
  __13.4 학습용 데이터셋 만들기
  __13.5 GAN 생성자 정의하기
  __13.6 GAN 감별자 정의하기
  __13.7 가중치 초기화하기
  __13.8 모델 학습하기
  __13.9 모델 성능 평가하기
  __학습 마무리
  __연습문제
  
  14장. 화질을 개선하는 GAN
  __14.1 이해하기 : SRGAN
  __14.2 학습용 데이터셋 만들기
  __14.3 SRGAN 생성자 정의하기
  __14.4 SRGAN 감별자 정의하기
  __14.5 CNN 특징 추출기 정의하기
  __14.6 모델 학습하기
  __14.7 모델 성능 평가하기
  __학습 마무리
  __연습문제
  
  15장. 데이터 없이 학습하는 GAN
  __15.1 이해하기 : 모델 경량화
  __15.2 이해하기 : GAN을 이용한 경량화
  __15.3 교사 모델 학습하기
  __15.4 GAN 생성자 정의하기
  __15.5 학생 모델과 생성자 학습하기
  __15.6 모델 성능 평가하기
  __학습 마무리
  __연습문제
  
  부록 A. 트랜스포머 · GPT · BERT · ViT 알아보기
  부록 B. 오차 역전파에서 가중치 업데이트 과정
  부록 C. 윈도우 · 맥OS · 우분투에 개발 환경 구축하기

추천사

• Mo Kweon (구글 시니어 소프트웨어 엔지니어)

  딥러닝을 기초를 지났고 파이토치로 다양한 문제를 풀고 싶은 사람들에게 추천합니다. 깔끔한 코드와 수많은 그림을 곁들인 설명 덕분에 왠만한 문제는 풀 수 있겠다라는 자신감이 생겼습니다.

• 이호상 (SK텔레콤 매니저)

  딥러닝의 기본 내용을 알고 있는 초중급자가 더 높은 수준의 개념을 파이토치로 구현하며 이해하고 싶을 때 유용합니다. CNN에서 GAN까지 다양한 신경망을 다루면서 핵심 요약과 정리, 실습을 동시에 제공하고 있어서 실무자와 학생 모두에게 도움되는 책입니다.

• 정현준 (매드업 CTO)

  파이토치는 딥러닝 프레임워크의 양대 산맥이지만, 국내에서는 텐서플로에 비해 인기가 덜합니다. 하지만 이 책 덕분에 파이토치를 배우는 사람이 국내에서도 늘어날 것 같습니다. 입문자도 알기 쉽게 코드와 설명을 잘 구성했으며, 현업자에게도 유용한 이미지 분류부터 텍스트 생성과 번역, GAN을 활용한 이미지 생성까지 현재 각광받는 AI 기술도 알려줍니다.

• 홍승환 (스캐터랩 Machine Learning Engineer)

  다른 딥러닝 입문 서적을 읽어보았지만 어떻게 활용해야 하는지 감이 잡히지 않은 분께 전체적인 개요와 구체적인 활용 방법을 제공하는 책입니다. 이 책을 다 읽을 때 쯤이면 딥러닝이 사용되는 여러 분야에 대한 기본 지식을 두루 이해할 수 있을 거예요.

• 황후순 (아일리스프런티어(주) 프로그래머)

  이 책을 베타리딩하면서 파이토치를 처음 사용해보았습니다. 몇 년 전 OCR 프로젝트를 수행할 당시에는 텐서플로를 사용했는데 그때 이 책을 만났다면 파이토치를 활용해 더 직관적으로 딥러닝 문제를 해결할 수 있었을 텐데 하는 생각이 들었습니다. 무엇보다 파이토치를 활용해서 다양한 문제를 해결하는 과정을 접할 수 있어 좋습니다. 인공지능을 처음 접하는 분이 보기엔 쉽지 않을 수 있지만, 관련 내용을 찾아가며 같이 공부한다면 소중한 경험을 가져갈 수 있을 거라고 생각합니다.

• 김수정 (웹 프로그래머)

  수많은 개발자, 통계학자, 전문가가 만든 라이브러리로 쉽게 딥러닝을 맛볼 수 있다는 것은 엄청난 혜택입니다. 그중에서도 파이토치는 사용 편의성과 강력한 기능으로 전 세계에서 가장 사랑받는 딥러닝 프레임워크입니다. 이 책에서 다루는 16가지 파이토치를 활용한 예제를 따라 하면 딥러닝에 대한 흥미와 이해를 확실히 높일 수 있을 겁니다.

출판사 서평

★ 이 책으로 파이토치 딥러닝을 익혀야 하는 이유
이 책은 독자 여러분이 파이토치 딥러닝을 효과적으로 배울 수 있게 파이토치 딥러닝 개념, 파이 토치 코딩, 실전 노하우에 집중합니다. 또한 학습 마무리 단계에 자연스럽게 복습되게 만들었습니다.

딥러닝 개념은 수학과 떼려야 뗄 수 없습니다. 하지만 너무 어려운 수식을 사용하면 이해하는 데 오히려 방해됩니다. 그래서 고등학교 수학 지식만 있다면 누구나 쉽게 이해할 수 있는 수식에 그림을 곁들여 단계적으로 개념을 설명했습니다.

파이토치는 클래스 기반으로 신경망, 학습 순서를 정의하고 학습합니다. 그래서 파이토치에서 권고하는 코딩 구조를 먼저 알려드리고 나서 본격적인 학습에 들어갑니다. 기초 신경망인 CNN부터 스스로 창작하는 GAN까지 총 16가지 신경망을 만들 때는 먼저 신경망의 〈기본 블록〉과 〈학습 루프〉를 그림으로 제시합니다. 제시된 〈기본 블록〉과 〈학습 루프〉를 눈으로 보고 코드로 구현하면 되기 때문에 이해하기가 훨씬 쉽니다.

신경망을 만들 때는 〈기본 블록〉을 적당한 반복을 하는데 ‘적당한’은 주로 협업을 진행해본 사람만 아는 노하우입니다. 적당한 손실 함수를 선택하거나, 적당한 평가 방법을 고를 때도 마찬가지입니다. 이 책은 그저 코드를 따라 치는 게 아니라 어떤 관점에서 문제를 풀어나가야 하는지 실전 경험을 바탕으로 설명해 여러분이 실전에서 ‘적당한’을 알맞게 선택할 수 있게 돕습니다. 참고로 독자의 시간을 아낄 수 있도록 소스 코드뿐만 아니라 학습이 끝난 모델 파일 또한 코랩으로 제공합니다. 따라서 고성능 컴퓨터가 없어도 예제를 체험할 수 있습니다.

학습 마무리에서는 전체 과정을 되짚어 보여주고, 스스로 익힌 바를 확인할 수 있게 연습 문제를 제공합니다. 이런 식으로 16가지 신경망을 모두 학습하고 나면, 딥러닝 알고리즘에 대한 이해뿐만 아니라, 파이토치 코딩에 대한 지식과 실무 노하우도 얻을 수 있게 될 겁니다. 학습에 도움이 되길 빕니다.

★ 왜 파이토치 프레임워크를 사용해야 할까요?
paperswithcode.com에 따르면 2022년 3월 현재 파이토치는 전 세계 논문에서 가장 많이 사용하는 딥러닝 프레임워크입니다. 파이토치는 페이스북, 마이크로소프트 같은 대형 회사부터 대학 연구실까지 많은 사람이 이용합니다. 파이토치 코드는 파이썬 본래의 코드와 유사해 직관적이라는 장점이 있습니다.

★ 타깃 독자
__파이썬을 아는 딥러닝 입문자
__딥러닝을 더 잘 활용하고 싶은 현업 데이터 엔지니어
__딥러닝 전공 학과 학생

★ 이 책의 구성
이 책은 학습 흐름을 끊지 않기 위해 개발 환경부터 설명한 후, 다음과 같이 총 5단계에 걸쳐 딥러닝 알고리즘을 개발하는 방법을 공략해나갑니다.

_1단계 : 딥러닝 입문하기
인공지능의 배경지식과 신경망을 알아보고 나서 간단한 신경망을 만듭니다. 이미 배경지식을 아는 분은 1장과 2장을 건너뛰어도 되지만, 가능하면 다시 돌아보는 기회로 삼기 바랍니다.

_2단계 : 입문용 신경망 3총사 CNN, ResNet, RNN
딥러닝에서 가장 흔하게 사용되는 알고리즘 세 가지를 소개합니다. 먼저 이미지를 처리하는 가장 기본적인 신경망인 VGG(CNN 모델)를 다룹니다. 거기서 조금 더 발전된 형태인 ResNet은 최근에도 사용될 정도로 성능이 좋습니다. 시간의 흐름에 따라 순서가 있는 데이터를 시계열 데이터라고 부르는데, 시계열 데이터를 다루는 기본 알고리즘인 RNN을 마지막으로 알아보겠습니다.

_3단계 : 딥러닝으로 이미지 처리하기
분류보다 더 복잡한 이미지 처리 기술인 이미지 세그멘테이션, 이미지 디노이징, 자동 채색을 알아보겠습니다. U-Net, 오토인코더, Let there be color를 이용합니다. 딥러닝을 이용한 이미지 처리는 이미지로부터 얻은 특징을 어떻게 사용하느냐가 매우 중요합니다. 이미지의 특징을 처리하는 방법도 배워봅시다.

_4단계 : 딥러닝으로 텍스트 처리하기
실전에서 등장하는 시계열 알고리즘을 사용해 조금 더 복잡한 텍스트 처리를 배워보겠습니다. 10장에서는 RNN의 발전형인 LSTM을 이용해 ‘글을 쓰는 인공지능’을, 11장에서는 어텐션 기법을 이용해 기계 번역기를 만듭니다. 12장에서는 이미지로부터 텍스트를 추출하는 알고리즘을 알아봅니다. LSTM과 어텐션은 텍스트 처리에서 빠지지 않고 등장하는 개념입니다.

_5단계 : GAN으로 생성 모델 만들기
그림이나 음악을 만드는 등을 입력으로 주고 새로운 결과물을 출력하는 모델을 생성 모델이라고 부르는데, 가장 기본은 적대적 생성 신경망(GAN)입니다. 사람 얼굴을 생성하는 GAN, 화질을 개선하는 GAN, 데이터 없이 학습하는 GAN을 만들겠습니다.

_부록
본문에서 다루지 못한 GPT, BERT, ViT
를 알아보고, 오차 역전파를 이용해 실제로 가중치가 업데이트되는 과정을 알아봅니다. 끝으로 로컬에 실습 환경을 구축하는 방법을 알아봅니다.

기본정보

ISBN	9791191905212
발행(출시)일자	2022년 08월 12일
쪽수	424쪽
크기	182 * 235 * 28 mm / 872 g
총권수	1권