[Tensorflow] 텐서플로우 기본 개념과 단순 용어 정리

▶ 일반 알고리즘과 딥러닝 알고리즘의 용도 및 차이점 

일반 알고리즘은 정해저 있는 과정을 통해 정확한 결과를 도출하지만,

딥러닝은 인공 신경망을 통해 스스로 학습해며며 근사값을 도출한다.

  

▶ 선형회귀법

하나의 독립변수를 가지고 종속 변수를 예측하기 위한 회귀 모형

 

▶ 경사하강법 

함수의 기울기를 구하여 기울기가 낮은 쪽으로 계속 이동시켜 최적값에 이를 때까지 반복

 

▶ 학습률

모델이 얼마나 세세하게 학습하는 지를 정해주는 값

 

▶ 다중선형회귀

여러 개의 독립변수를 가지고 종속 변수를 예측하기 위한 회귀 모형

 

▶ 로지스틱회귀 

회귀를 사용하여 데이터가 어떤 범주에 속할지 확률을 통해 분류

 

▶ 평균제곱오차(MSE)

오차의 제곱에 대해 평균을 취한 것. 작을 수록 원본과의 오차가 적음

 

▶ 시그모이드 함수

0부터 1까지의 반환 값을 가지는 s자 형 함수

 

▶ 퍼셉트론 

다수의 입력으로부터 하나의 결과를 내보내는 인공 신경망 알고리즘

 

▶ XOR 문제

하나의 레이어로는 해결하지 못한다.

 

▶ 다층 퍼셉트론 - XOR 문제 해결

여러 개의 층을 쌓아 복잡한 문제도 해결이 가능하다.

xor은 2개의 레이어로 해결가능

 

▶ 오차역전파

결과 값을 input 방향으로 오차를 보내 가중치를 재업데이트 하는 것

 

▶ 기울기 소실 문제

역전파 과정에서 초기 부분의 입력층으로 갈수록 기울기가 점차 작아지는 현상

 

▶ 활성화 함수(RELU)

양수면 자기 자신을 반환하고 음수면 0을 반환하는 함수.

시그모이드 함수의 기울기 소실 문제를 해결

 

▶ 다중 분류 문제

클래스의 개수만큼 결과 값을 산출하는 문제

 

▶ 원-핫 인코딩

표현하고 싶은 단어의 인덱스에만 1 값 부여, 나머지 인덱스에는 0을 부여

 

▶ 소프트맥스

입력받은 값을 출력으로 0~1사이 값으로 정규화, 이들의 총합은 항상 1

 

▶ 과적합문제

학습 데이터에 대해 과도하게 학습해 실제 데이터에 대한 오차가 증가하는 현상

 

▶ K겹 교차 검증

데이터셋을 여래 개로 나누어 하나씩 테스트셋으로 사용하고

나머지를 모두 합해서 학습셋으로 사용하는 방법

 

▶ CNN 알고리즘 - 용도 (영상처리)

Convolution layer와 pooling layer를 복합적으로 구성하여 이미지를 분석하는 알고리즘

 

▶ Convolution

이미지의 특징들을 추출해서 Feature Map으로 만드는 레이어

 

▶ 맥스풀링

범위 내의 픽셀 중 대푯값을 추출하는 레이어

 

▶ 드롭아웃

노드 중 일부를 끔으로써 과적합을 방지

 

▶ 플래튼

2차원 배열의 이미지를 1차원으로 바꿈

 

▶ RNN 알고리즘(LSTM) - 용도 (음성처리)

시간의 흐름에 따라 변화하는 데이터를 학습하기 위한 알고리즘이다.

과거의 출력을 재귀적으로 참조한다.