[ML] Multi-Task Learning이란?

Multi-Task Learning

• Multi-Task Learning이란, 하나의 신경망이 여러 작업을 동시에 할 수 있도록 학습하는 것입니다.
• 신경망 초기 특성들이, 서로 공유(shared low-level features)될 수 있다고 하면, 하나의 신경망을 학습시키는 것이 여러 신경망을 개별 학습시키는 것 보다 효율적입니다.
  • 예를 들어, 사진이 주어졌을 때, 신호등, 보행자, 차량, 표지판을 감지하는 문제가 있다면
  • 이 특성들은 모두 도로의 특성을 가지고 있기 때문에, 서로 공유 될 수 있습니다.
• Multi-Task Learning은 아래의 상황에서 많이 쓰입니다.
  • 여러 문제들의 하나의 저레벨 특성을 공유할 때
    • ex) Computer Vision의 물체 감지
  • 데이터가 비슷할때 (항상 만족하는 것은 아닙니다.)
  • 거대한 작업 세트들을 하나의 큰 신경망으로 한번에 학습 시키려고 할 때
• 하지만, Multi-Task Learning 보다는 Transfer Learning이 더 많이 쓰이고 있습니다.