AI Lab 3기 - 12주~14주-Deep Learning, PyTorch

24.06.18 (화) ~ 24.06.24 (월) :Deep Learning

강사 : 이활석 강사님

 

딥러닝의 발전 5단계 

• 규칙 기반 프로그래밍
• 전통 머신 러닝 기법
• 딥러닝
• 사전 학습과 미세 조정
• 초거대 모델과 제로샷/퓨

딥러닝 기술 종류들 1 : 학습 방식에 의한 구분

• 교사학습, 비교사 학습, 강화학습

딥러닝기술 종류들 2 : 데이터 형식, 태스크 종류에 의한 구분

• 데이터 형식에 의한 구분
  • 정형데이터, 컴퓨터 비전, 자연어 처리, 음성 인식/생성
• 태스크 종류에 의한 구분
  • 인식 및 생성, 생성 모델의 역

딥러닝 개요

• 인공지능, 머신러닝, 딥러닝
• 딥러닝의 구성 요소
• 딥러닝 파이프라

모델학습법

1. 다층 퍼셉트론
   • 뉴럴넷 개요 : 사람과 기계, 뉴런과 인공뉴런
   • 퍼셉트론 :퍼셉트론의 구조, 퍼셉트론의 원리
   • 다층 퍼셉트론: 모델 개요, 활성화 함수, 다층 퍼셉트론(MLP)
2. 경사 하강법
   • 미분과 기울기, 경사 하강법(GD), 확률적 경사 하강법(SGD)
3. 역전파(기초)
   • 역전파의 등장, 계산 그래프, 연쇄 법칙, 역전파의 이
4. 역전파(심화)
   • 손실 함수의 기본 가정
   • 역전파의 기본 방정식
   • 역전파 알고리
5. 손실함수
   • 손실 함수의 중요성
   • 대표적인 손실 함수

성능고도화 방법

1. 과적합, 편향과 분산, 지역/전역 최소값, 네트워크 안정화
   • 좋은 모델 학습을 위한 기초
     • 과적합, 편향과 분산
   • 네트워크 안정화 기법
     • 드롭아웃, 정규
2. 가중치 초기화, 규제화, 학습률
   • 가중치 초기화
   • 과적합 방지를 위한 규제화 및 학습률 조정
     • 가중치 감쇠
     • 학습 조기 종료, 학습 스케쥴
3. 다양한 최적화 알고리즘
   • 기본적인 옵티마이저
   • 스텝 방향을 개선한 옵티마이저
   • 스텝 사이즈를 개선한 옵티마이저
   • 스텝 방향과 사이즈 모두 개선한 옵티마이저
   • 요약 및 정
4. 데이터 증강 및 그 외 방법들
   • 데이터 증강 기법, 전이 학습, 자기 기도 학

CNN (합성곱 신경망)

• 합성곱 신경망의 등장, 구성 요소, 요약 및 정

RNN (순환 신경망)

• 순환 신경망의 등장, 구성 요소, 요약 및 정

From AlexNet to ChatGPT

• 딥러닝의 도래 : LeNet-5, AlexNet
• 딥러닝의 발전 : VGGNet, GoogLeNet, GAN, ResNet, Seq2Seq, Transformer
• 최신 딥러닝 동향 : BERT, GPT, EfficientNet, ViT, ChatGPT, LLMs, Open LLM Leaderboard, Paperswithcod

실습 : 모델 학습법, 성능 고도화 방

 

 

---

 

24.06.24 (화) ~ 24.07.01 (월) : Pytorch

강사 :  김윤기 강사님

 

파이토치 소개

• 딥러닝 프레임워크
• 딥러닝 프레임워크 트렌드

환경설정

• Anaconda
• Pytorch
  • NVIDIA GPU 유무에 따른 Pytorch 설치 방

텐서 조작의 개념

• 텐서란?
• 수학적 연산
  • 텐서의 사칙연산
  • 내적(Inner Product)
  • 행렬곱 연산
• Broadcasting
• Sparse Tensor
  • Dense Tensor 와 Sparse Tensor
  • Dense Tensor의 문제점 및 Sparse Tesnsor의 장점
  • Sparse COO Tensor
  • Sparse CSR/CSC Tensor

딥러닝을 위한 파이토치가 어떻게 동작하는가

• 파이토치 작동구조
  • Deep Learning Key Components
  • Pytorch 클래스 간 관계
• 데이터
  • Dataset & DataLoader의 결과
  • Dataset
  • Custom Dataset
  • DataLoader
• 모델
  • PyTorch에서 제공하는 모델
  • Custom Model의 필요성
  • Custom Model
• 역전파와 최적화
  • 학습의 기본 구조, AutoGrad
• 추론과 평가
  • Inference
  • Evaluation

전이 학습이란

• 전이 학습
  • Pretrained Model이란?
  • 전이 학습이란?
  • Fine-Tuning이란?
  • Domain Adaptation이란?
  • 유사한 다른 학습 방법들
  • 전이 학습 전략
• Pretrained Model Community
  • Pretrained Model Community의 필요성
  • Timm for CV
  • GuggingFace for NLP, CV,...

파이토치 라이트닝 소개

• PyTorch Lightning 소개
  • PyTorch Lightning, 주요 특징
• LightningModule
  • LightningModule소개
• Trainer
  • Trainer소개, 메서드

파이토치 코드를 파이토치 라이트닝 코드로 변환하기

• LightningModule 실
• Trainer 실습

하이드라 소개

• Hydra를 위한 yaml 작성
  • yaml 문법, Config group, Default list
• Hydra 작동 구조
  • 작동 구조, 결과
• Hydra 기능
  • Instantiate, Multi-run

파이토치 라이트닝과 하이드라

• Hydra 실습
• Multi-run 실

 

실습

1. 텐서 조작 1
2. 텐서 조작 2
3. DNN 구현 1
4. DNN 구현 2
5. DNN 구현 3
6. timm과 Hugging Face를 통한 전이 학습
7. 모니터링을 위한 TensorBoard와 WandB
8. 디버깅

 

 

부트캠프도 거의 반이 흘러서 드디어 업스테이지 과정이 도래했도다! 이제부터는 실시간 강의가 아닌, 온라인 강의로 학습을 진행하게 된다. 이번 2주간은 딥러닝에 대한 기본적인 이론과 딥러닝 프레임워크 기초를 진행하였다. 이전에 딥러닝을 잠시 배운적이 있었는데, 그때는 진짜 외국어 듣는 느낌이라 한번 놓쳐서 끝까지 따라지 못했는데, 이번에는 이해 될 때까지 반복 할 수 있어서 좋았다. 이 과정의 장점은 온라인으로 이루어져서 못듣거나, 익숙하지 않은 용어들이라 뇌가 받아들이기를 거부할 때 이해될 때까지 무한 반복할 수 있다는게 장점인 것 같다. 게다가 옵티마이저나 파라미터들이 어떻게 구성되어있는지 왜 사용하는지 등등 진짜 세세하게 설명해주셔서 평소에 '그래서 그건 왜쓰는건데?'  라고 생각만하고 그냥 넘어갔던 부분들에 대해서 알 수 있었다. 

 

그리고 인터넷으로 혼자 공부하다보면 사회성도 떨어지고 의욕도 떨어지고 하는데, 스터디 조를 구성해서 한달정도의 시간동안 그룹별 스터디를 진행하도록 해주셨다. 플러스 미션과 주차별 담당 멘토님의 업계 관련 도움이 되는 자료들까지. 진짜 학습에 필요한 건 바리바리 싸다주시는데, 받아들이는게 바늘구멍만큼이다. 왜 따라가질 못하니....ㅜㅜ

변명이지만, 첫주는 빅데이터분석기사 실기 시험과 겹쳐서 제대로 집중을 못한 느낌도 있었다. 시험 준비를 제대로 안해서 막판 일주일동안 2~3시간 자면서 자격증공부하면서 인강듣고 하다보니 머리속에 남은게 없어서 시험 끝나고 부랴부랴 강의 다시 듣기를 했다.  (반성...)

 

강의 내용은 진짜 세세하게 알려주시는데, 파이토치 프레임워크 자체가 자율성이 높다보니 기본적인 코딩 실력과 이해가 많이 필요할 것 같다는 쎄함이 느껴졌다. 그동안 제대로 집중하지 않았더니 공부할 게 눈덩이처럼 불어나 버린.....ㅜㅜ

좌절 중이긴하지만 아직 부트캠프는 반 조금 넘게 남았으니 남은 시간 동안이라도 열심히해서 실력을 키워야 겠다고 생각한다. 

 

다음 과정은 다시 머신러닝으로 돌아가니까 지금부터라도 열심히 해보자! 아자!