ChatBIT, 군사 작전에 활용되는 AI 모델
최근 중국 연구진이 메타의 라마(Llama) 모델을 기반으로 군사 작전에 특화된 인공지능 모델 'ChatBIT'을 개발했다고 보고되고 있다. 이는 군사적 대화와 작전적 의사결정을 지원하는 데 중점을 두고 있다.
- ChatBIT는 실시간으로 작전 데이터를 분석하고, 적절한 방어 및 공격 전략을 제안할 수 있다.
- 이러한 AI 기술은 전술 환경에서 인류의 의사 결정 속도를 높이며, 효율성을 극대화할 가능성이 있다.
메타, 비군사적 용도로 의도했던 라마 모델
메타의 라마 모델은 공개 소스로 누구나 사용할 수 있지만, 메타는 명확하게 비군사적 용도로만 사용하도록 라이센스를 명시하고 있다. 그럼에도 불구하고, 이번 사례는 공개 소스 기술이 잘못된 목적으로 사용될 가능성을 보여준다.
- 메타는 라마 모델의 군사 활용을 막기 위해 엄격한 사용 가이드라인을 제공하고, 지속적인 모니터링을 기획 중이다.
- 공개 소스 모델을 통해 새로운 기능을 개발하고자 하는 기업과 학계도 이 문제에 대해 깊이 있는 논의를 하고 있다.
공개 소스 AI 기술, 신뢰성 문제 대두
ChatBIT의 등장은 공개 소스 기술이 어떻게 오용될 수 있는지를 나타내며, 이러한 기술이 국가 안보 문제로 부상할 수 있는 가능성을 부각시킨다. 각국이 첨단 AI의 접근성을 National Security issue로 인식하는 상황에서 이러한 문제는 더욱 중요해지고 있다.
- AI 기술의 투명성과 사용 추적 능력 또한 중요한 이슈로 대두되고 있다.
- 특히 정부 기관들은 공개 소스 AI의 사용이 가져올 수 있는 신뢰성 문제의 해결을 위해 새로운 규제를 마련 중이다.
메타의 입장, 비인가 군사적 응용과 거리 유지
메타는 자신들의 AI 모델이 비인가된 군사적 활용에 쓰이는 것에 대한 우려를 표명하며, 이러한 용도로의 사용과는 확실한 거리를 두고 있다. 회사의 라이센스 조건이 이를 방지하려고 했으나, 이번 사건은 베일에 가려진 사용의 확인 문제를 제기한다.
- 메타는 사용 목적을 확인하기 위한 사용자 인증 절차 강화 및 협력을 강조하고 있다.
- 이러한 문제는 AI 기술의 사용처에 대한 규제 및 검열의 필요성을 재조명하게 한다.
출처 : 원문 보러가기
