제로샷 러닝이란 무엇인가?
제로샷 러닝(Zero-shot learning, ZSL)은 AI 모델이 이전에 본 적 없는 객체나 개념을 인식하고 분류하는 능력을 의미합니다. 이는 사전 학습 없이도 새로운 정보를 처리할 수 있는 능력을 갖추는 것을 목표로 합니다.
- 최근 연구에서는 제로샷 러닝이 수십만 개의 이미지 클래스 중에서 새로운 이미지를 80% 이상의 정확도로 분류할 수 있는 결과를 보여주기도 했습니다.
- 제로샷 러닝은 자율주행차나 의료 영상 분석 등에서 인간의 개입 없이 새로운 물체를 식별하는 데 사용될 수 있습니다.
전통적 지도학습의 한계
대부분의 최신 딥러닝 모델은 지도학습을 통해 훈련되며, 이는 많은 레이블된 데이터를 필요로 합니다. 그러나 이러한 방식은 데이터 레이블링에 드는 비용과 시간 때문에 실용성이 떨어질 수 있습니다.
- 데이터 레이블링의 비용은 드러난 인건비와 시간 소모 외에도 레이블링의 일관성을 유지하는 데 드는 추가 노력까지 포함하면 상당히 큽니다.
- 한 연구 보고서에 따르면, 대량의 이미지 데이터셋을 레이블링 하는 데에만 몇 년이 필요하고 비용은 수억 달러에 이를 수 있습니다.
새로운 학습 접근법, N-샷 러닝
N-샷 러닝은 적은 양의 레이블된 데이터로도 모델이 빠르게 일반화할 수 있는 방법을 연구합니다. 제로샷 러닝은 이러한 N-샷 러닝의 일환으로, 새로운 클래스에 대한 레이블이 없는 상태에서 모델이 학습하는 문제에 중점을 둡니다.
- 최근 기술들은 1-샷 또는 제로샷 학습 설정에서 학습한 후, 새로운 클래스에 대해 90% 이상의 정확도로 예측할 수 있는 수준까지 발전했습니다.
- 이는 특히 새로운 종류의 제품이나 서비스가 빈번히 나타나는 동적 시장에서 빠른 적응력을 제공합니다.
제로샷 러닝의 작동 원리
제로샷 러닝은 텍스트 설명, 속성, 임베딩과 같은 보조 정보를 활용하여 예측을 수행합니다. 이는 클래스 간의 결정 경계를 직접 모델링하지 않고 입력이 특정 클래스에 속할 확률을 나타내는 벡터를 출력합니다.
- 최근의 연구에서는 OpenAI의 CLIP 모델이 이미지와 텍스트의 관계를 이해하여 제로샷 태스크에서도 높은 성능을 보여주고 있습니다.
- 이러한 접근법은 입력 데이터와 설명 텍스트 간의 의미론적 유사성을 포착하여 다양한 상황에서 적용 가능합니다.
제로샷 러닝의 실용성과 활용
제로샷 러닝은 컴퓨터 비전 및 자연어 처리(NLP) 분야에서 특히 주목받고 있습니다. 이 방법은 인간이 직접 데이터를 레이블링하지 않아도 많은 클래스를 빠르게 처리할 수 있게 합니다.
- 제로샷 러닝은 자율주행 시스템의 객체 인식, 고객 서비스 운영에서의 챗봇 개선 등 다방면에서 응용되고 있습니다.
- 예를 들어, 구글은 텍스트-이미지 매치를 위한 제로샷 러닝 모델을 통해 웹 검색 결과의 질을 높였습니다.
제로샷 러닝의 도전과 과제
일반화된 제로샷 러닝(GSZL)은 모델이 본 클래스와 보지 않은 클래스 모두를 처리할 수 있게 하며, 이는 모델의 편향 문제를 해결하는 추가 기술을 요구합니다.
- 최신 GSZL 연구에서는 모델의 편향을 줄이기 위해 데이터 증강 기법을 활용하고 있습니다. 이는 다양한 데이터 샘플링 기술을 통해 클래스의 균형을 맞추는 방법입니다.
- 모델의 일반화 성능을 평가하기 위한 벤치마크가 마련되어, 연구자들이 다양한 ZSL 문제에 대한 솔루션을 비교하고 있습니다.
보조 정보와 임베딩의 역할
임베딩은 데이터 포인트와 클래스의 의미나 관계를 반영하는 벡터 표현입니다. 이 임베딩을 통해 제로샷 러닝은 다양한 데이터 유형의 비교를 가능하게 합니다.
- Word2Vec와 같은 임베딩 기술은 제로샷 러닝에서 텍스트 데이터의 의미를 반영하는 데 중요한 역할을 합니다.
- 임베딩 공간에서 유사한 객체가 가까이 위치하므로, 새로운 클래스가 기존의 클래스와 얼마나 유사한지를 수치적으로 판단할 수 있습니다.
생성 AI와 제로샷 러닝
생성 AI는 보조 정보를 이용해 샘플 데이터를 생성하여 제로샷 학습 문제를 해결할 수 있습니다. 이는 레이블링된 데이터 없이도 유의미한 예측을 가능하게 합니다.
- GAN(생성적 적대 신경망) 기술을 활용하여 제로샷 러닝 모델이 없는 데이터에서도 신뢰할 수 있는 생성을 이뤄내고 있습니다.
- Google의 Imagen 모델은 생성 AI를 활용하여 고해상도 이미지 생성에 성공하였으며, 이는 제로샷 러닝의 발전 방향을 제시합니다.
출처 : 원문 보러가기
