Introduction to Deep Learning

Coursera Deep Learning 특화 과정의 강의를 듣고 정리하였습니다.

---

Introduction to Deep Learning

What is a Neural Network?

집값 예측 예시.

선형회귀를 하면, 일직선과 비슷하다. 음수가 될 수 없으므로 대신 0을 넣는다.

신경망의 단일 뉴런인 작은 원이 함수를 구현한다.

이러한 함수는 ReLu 함수로 부르며, 정류된 함수 단위이다.

더 큰 신경망은 많은 단일 뉴런을 쌓음으로써 발생한다.

단순 크기로 집의 가격을 예측하는 것 대신에, 다른 특성이 있다고 가정해보자.

"#침실", "주소", "자산" 

각각의 작은 원은 ReLu 또는 정류된 선형 단위 또는 다른 약간 비선형 함수들 중 하나가 될 수 있다.

x는 입력값, y는 예측하려는 값이다.

x,y를 훈련 세트에 도입하는 것이 신경망을 관리하는 것이다.

신경망의 역할은 y를 예측하는 것이다.

신경망은 4가지 특성을 모두 가지고 있다.

각 원이 무엇이든 원하는 것을 결정한다고 말하기보다는, 가족 규모는 특성 x1과 x2에만 의존한다. 대신, 우리는 모든 입력 기능이 중간에 있는 So에서 숨겨진 단위라고 불린다는 것을 주목해야 한다. 원하는 무엇이든 계산할 수 있는 4가지 함수를 모두 제공할 것이다.

시작하는 레이어를 입력층이라고 하고, 중간에 있는 레이어는 모든 원에 연결되어 있어 밀도가 높다고 한다.

신경망은 x와 y 모두에 대한 충분한 훈련 예제가 주어지면 x에서 y까지 정확하게 매핑하는 함수를 알아내는 데 놀라울 정도로 뛰어나다.

 

즉, 신경망은 입력 x를 가져와서 일부 출력 y에 매핑하려고 한다는 것을 의미한다.

 

Supervised Learning with Neural Networks

지도학습에서는 일부 입력값 x와 일부 출력값 y에 대한 함수 매핑을 배운다.

가장 수익성이 높은 단일 애플리케이션은 온라인 광고이다. 사람에게 가장 클릭할 가능성이 높은 광고를 보여준다. => Standard NN

이미지 태깅에서는 이미지를 입력하고 인덱스를 원하는 값으로 입력하면 1000개의 다른 이미지 중 하나일 수 있다고 알려준다. => CNN

음성 임식에서는 오디오를 입력하고 텍스트 대본을 출력할 수 있다. => RNN

기계 번역 분야에서는 바로 영어 문장을 중국어로 번역할 수 있게 되었다. => RNN

자율주행에서는 이미지 인식을 통해 자동차 앞에 있는 사진이나 레이더에 확인되는 정보를 기반으로 도로 위 다른 차량의 위치를 파악할 수 있게 되었다. => Custom / Hybrid

 

정형 데이터(데이터베이스)와 비정형 데이터(오디오, 이미지, 텍스트) 모두에 머신러닝을 적용하는 애플리케이션도 있다. 

딥러닝 덕분에 컴퓨터가 비정형 데이터를 해석하는 데 능숙해졌다.

 

 

What is Deep Learning taking off?

딥러닝이 부상하게 된 이유.

디지털 데이터가 많이 수집되면서 성능을 높일 수 있는 기회를 잡았다.

sigmoid function에서 ReLu funciton으로 바뀌어 gradient descent(기울기 강하)라는 알고리즘을 생성했다.

이를 통해 알고리즘을 혁신하고 계산을 더 빠르게 할 수 있게 되었다. 또한, 큰 신경망 계산이 가능해졌다.