1주차(2) Meta Learning 기본 이해 - 최용석 박사

# Meta Learning

Meta Learning은 간단히 Learning to learn(학습하는 법을 학습)으로 요약할 수 있다. 현재 머신러닝들이 각 분야 전문가들이 하던 알고리즘 설계 등을 데이터 기반으로 자동화했다면, Meta Learning은 한 발 더 나아가서 머신 러닝 전문가들이 해오고 있는 학습 관련된 일들(하이퍼파라미터를 어떻게 찾을 것인지, 뉴럴넷의 아키텍쳐를 어떻게 만들 것인지 등)과 같이 전문가들이 직관과 경험에 기반해서 수행해왔던 학습방법 자체를 데이터 기반으로 배워 자동화하겠다는 것이다. 그렇기 때문에 학습 방법 자체를 학습하기 위해서 학습 데이터로써 다양한 학습 사례를 사용한다. 어떤 Task에서 학습해보고 거기서 나온 결과 Model의 performance를 보고, 개선한 뒤 또 다른 Task에서도 이런 과정을 반복하면서 소위 Inductive bias라고 하는 학습에 도움이 되는 여러가지 유용한 데이터 테크닉들을 데이터기반으로 배워 새로운 Task에서도 잘 학습할 수 있는 알고리즘을 만드려고 하는 것이 Meta Learning의 목적이다. 궁극적으로 현재의 머신러닝 전문가들이 일일히 하던 일을 자동화하여 좀 더 빠르고 저렴한 비용으로, 그리고 인간이 가진 직관의 한계를 넘어 높은 성능을 얻고자하는 것이다.