텐서플로로 배우는 딥러닝 1

텐서플로로 배우는 딥러닝 1

 

AI

• 인공지능

딥러닝 

• 빅데이터 + GPU + Better Algorithm 
• 1980년대부터 고안된 내용, CNN, RNN

머신러닝 

• 지도 학습(supervised Learning) : (x , y) 정답에 대한 쌍으로 학습화 ex) 분류, 회귀 문제
• 비지도 학습(unsupervised Learning) : 정답 레이블이 아닌 데이터만으로 학습, 숨겨진 특징을 찾는 것 ex) pca기법, 오토인코더
• 강화 학습(reinforcement Learning) : Agent 가 데이터를 수집, 이것에 대한 보상을 얻으며 학습 ex) 알파고, Q-러닝, DQN기법

 

활용

• 컴퓨터 비전 ex) 물체 검출 Object Detection
• 자연어 처리 ex) 기계 번역, 챗봇
• 음성 인식 ex) 애플 siri, 구글 Now, MS Cortana 서비스
• 게임 ex) 체스, 스타크래프트
• 생성 모델 ex) 딥 페이크

 

TensionFlow 2.0

• 구글 개발 open source library
• 2015년 11.09 파이썬
• Python API로 제공
• 케리스 kerns
• 함수용 프로그래밍
• 파이썬 설치하고 pip 이용하여 Tensorflow 설치하기
• GitHub 

https://github.com/solaris33/deep-learning-tensorflow-book-code

• Beginner Style :  자유도가 떨어지나 쉽게 딥러닝을 구현가능
• Expert Style : 모델링, low 레벨식으로 구현, 알고리즘 개발 가능. Keras SubClassing

 

머신러닝 기본 프로세스

• 가설 정의, 손실 함수 정의, 최적화 정의
• 가설 -> 수학적 표현식
• 가설의 성능-> 손실함수로 표현. 평균제곱오차. 비용함수
• 손실을 최소화 할 수 있도록 알고리즘을 정의
• Loss function 최적화 기법 ex) 경사하강법

 

• 예제) 선형 회귀 Linear Regression

 

인공 신경망(ANN)

• 1940년대 논문에 최초 제안, 생물학적 신경망 10의 14승의 전기적인 신호 교환방법에 착안
• 퍼셉트론 y = a(wx+b) : 0 또는 1로 출력하는 선형 이진분류기
• XOR 문제 혹은 선형 분리가 불가능한 문제에 대해 해결이 불가
• 최초 인공신경망 개념을 공학적 구조로 구조화한 모델

다층 퍼셉트론(MLP) 

• 1980년대 hidden layer 추가 되면서 선형 분리가 불가능한 문제도 해결
• Deep Neural Newrok (DNN) 딥러닝

 

Batch Gradient Descent, Stochastic Gradient Descent, Mini-Batch Gradient Descent

One-hot Encoding : 범주형 값을 이진화된 값으로 표현, 잘못된 경향성을 제거하는 인코딩 기법

MNIST 데이터셋

 

오토인코더

• Training Data, Validation Data, Test Data
• Overfitting, Underfitting
• 데이터의 숨겨진 구조를 발견하는 것
• 출력물은 원본 데이타와 재구축, 잉여특징 제거