메타, 차세대 AI 모델 라마 4 출시
메타가 AI 모델 분야에서 새로운 혁신을 이루며 라마 4를 선보였습니다. 라마 4는 멀티모달 AI 모델로, 텍스트와 이미지 이해에 최적화된 성능을 제공합니다. 이는 새로운 혼합 전문가 아키텍처(Mixture-of-Experts)를 활용하여 이전보다 더 뛰어난 성능을 보장합니다.
- 2022년 기준, 전 세계적으로 약 33억 명에 달하는 사람들은 이미 AI를 일상에서 사용하고 있습니다. 라마 4의 출시는 개인화 및 자동화를 더욱 촉진하여 이러한 수치를 더 높일 가능성이 있습니다.
- 최근 Gartner 보고서에 따르면, 2024년까지 AI 기반 시스템의 사용이 두 배로 증가하여 70%에 이를 것으로 예상됩니다. 이는 라마 4와 같은 첨단 AI 모델이 기술 발전을 주도할 것임을 시사합니다.
Scout와 Maverick: 두 가지 새로운 모델
메타는 라마 4의 두 가지 모델, Scout와 Maverick을 공개했습니다. Scout는 16명의 전문가로 구성된 모델로, 10백만 토큰의 컨텍스트 윈도우를 제공하여 대규모 코드베이스 요약 등 장문 작업에 뛰어납니다. 반면 Maverick은 128명의 전문가로 구성되어 있으며, GPT-4o보다 뛰어난 추론 및 코딩 성능을 보여줍니다.
- 전문가 아키텍처는 최근 AI 연구에서 주목받고 있는 분야로, 특히 효율성 측면에서 큰 장점을 제공합니다. DiBiase(2023)에 따르면, 이 방법은 기존 모델 대비 30% 이상의 처리 속도 향상을 구현할 수 있습니다.
- Maverick은 Meta의 인프라에서 매일 수십억 건의 요청을 처리하도록 설계되었습니다. 이는 실제 적용 시 높은 업무 처리량을 요구하는 환경에서 유용할 수 있습니다.
라마 4 Behemoth: 대규모 모델의 등장 예고
이번 발표에서는 아직 훈련 중인 대규모 모델인 라마 4 Behemoth도 언급되었습니다. 이 모델은 2880억 개의 파라미터를 가지고 있으며, 내부 벤치마크에 따르면 이미 GPT-4.5와 같은 모델을 능가하는 성능을 보여주고 있습니다.
- 현재 가장 큰 AI 모델 중 하나인 GPT-4는 약 1700억 개의 파라미터를 보유하고 있습니다. Behemoth의 2880억 개 파라미터는 특히 복잡한 작업을 처리하는 데 있어 더 높은 정확도를 제공할 수 있습니다.
- NVIDIA의 연구에 따르면, 1일당 AI 모델 훈련에 소모되는 전력은 약 2.8메가와트시입니다. Behemoth와 같은 대규모 모델은 환경적 영향을 줄이기 위한 효율적인 에너지 사용 전략이 필요함을 강조합니다.
오픈소스 AI 모델의 진보
메타는 라마 4를 통해 오픈소스 AI 모델의 가능성을 확장하고 있습니다. 라마 4 Scout와 Maverick은 오늘날 다운로드 가능하며, 메타의 다양한 플랫폼에서 사용될 예정입니다. 이는 메타가 오픈소스 AI 모델을 통해 지속적으로 발전하고 있음을 보여줍니다.
- OpenAI가 발표한 연구 결과에 따르면, 오픈소스 모델의 확산은 AI 개발 커뮤니티의 약 70%가 AI 기술 트렌드에 더 쉽게 접근할 수 있도록 돕는 역할을 하고 있습니다.
- 오픈소스 프로젝트인 TensorFlow와 PyTorch의 성공은 오픈소스 접근 방식이 AI 기술의 민주화에 어떻게 기여할 수 있는지를 보여주는 좋은 사례입니다. 라마 4 또한 이러한 흐름에 기여할 것입니다.
AI 개발 접근 방식의 차별화
메타는 라마 4 출시로 AI 개발 접근 방식에서 흥미로운 대조를 이루고 있습니다. OpenAI와 같은 회사들이 주로 폐쇄형 모델을 유지하는 반면, 메타는 오픈소스 AI 모델을 통해 더 많은 가능성을 열어가고 있습니다. 이 접근 방식이 향후 얼마나 발전할 수 있을지는 지켜볼 필요가 있습니다.
- Forrester의 분석에 따르면, 오픈소스 모델을 사용하는 기업은 평균 20% 더 빠른 혁신 속도를 구현할 수 있었습니다. 이는 생태계 전반의 협력이 촉진되기 때문입니다.
- 2023년 기준, AI 스타트업 투자 중 약 60%가 오픈소스 기반 기술에 집중되고 있습니다. 이렇게 시장에서 오픈소스가 부각되는 상황에서 메타의 전략적 선택은 특히 주목할 만합니다.
출처 : 원문 보러가기
