cs230_lec2_C1W1

(From : deeplearningai https://www.youtube.com/watch?time_continue=386&v=AwQHqWyHRpU)

딥러닝

• 많은 분야에 현재 이용되고 있다
• 사회에 큰 변혁을 이루어낼 것으로 예상됨

강의 순서

1. Neural Networks and Deep learning
2. Improving Deep Neural Networks: Hyperparameter tuning, Regularization and Optimization
3. Structuring your machine learning project

4. Convolutional Neural Networks

5. Natural Language Processing : Building sequence models
   • RNN, LSTM

신경망이란?

• 데이터를 Mapping하는 함수의 기능을 하는 뉴런들이 레고처럼 쌓인 것
• 입력(x) -> 뉴런층-> 출력(y)의 구조

지도학습

• Y 레이블이 정해진 데이터의 학습
• 이미지 : CNN
• 언어, 음성, 시계열 데이터-> 시퀀스 데이터 : RNN
• 지도 학습
• 구조적 데이터 (Structured Data) : Y 레이블이 있는 것
• 비구조적 데이터 (Unstructured Data) : Y 레이블이 없는 데이터 ( 음향, 이미지, 텍스트)
• 컴퓨터는 비구조적 데이터를 이해하기 어렵지만 사람들은 이러한 비구조적 데이터를 잘 이해하도록 훈련되어 있다.

딥러닝이 최근에 왜 잘 되고 있는가?

(cs230 lec1과 겹침! 참고하기)

• 데이터양과 성능 그래프에서 신경망의 크기가 커지면 데이터가 많을 수록 성능이 엄청나게 증가함
• (1) 데이터의 양증가
• (2) 계산 속도의 발전
• (3) 더 좋은 알고리즘의 발견(sigmoid-> relu : gradient descent를 더 빠르고 쉽게 하게 해주었다)
• 빠른 계산이 중요한 이유는 신경망 학습이 반복적이기 때문이다
  • 아이디어-> 코드->실험->수정 과정이 계속 반복된다.