딥러닝_전이학습(Transfer Learning)

전이학습(Transfer Learning)이란

- 다른 데이터 셋을 사용하며 이미 학습한 모델을 유사한 다른 데이터를 인식하는데 사용하는 기법이다

- 이 방법은 특히 새로 훈련시킬 데이터가 충분히 확보되지 못한 경우에 합습 효율을 높여준다

- 사전학습모델을 이용하는 방법은 특성 추출(fearure extraction)방식과 미세조정(fine-tuning) 방식이 있다

 

전이학습 특성 추출 방식

- 컨볼류션 베이스 부분만 재사용하는 이유는 이 부분은 상당히 일반적인 학습정보를 포함하고 있기 때문이다

- 컨볼류션 계층에서도 재사용할 수 있는 정보의 수준은  몇 번째 계층인지에 따라 다르다. 모델의 앞 단의 계층일수록 에지, 색상, 텍스처 등 일반적인 정보를 담는다

- 반면에 뒷 부분의 깊은 계층일수록 추상적인 정보를 담는다(예를 들어 고양이 귀, 강아지 귀 등)

- 개롭게 분류할 클래스의 종류가 사전 학습에 사용된 데이터와 특성이 매우 다르면, 컨볼류션 베이스 전체를 재사용해서는 안된고 앞단의 일부 계층만을 재사용해야 한다