인공지능, 사이버 공격의 핵심으로 부상
사이버 보안의 새로운 경쟁이 인공지능(AI)을 중심으로 펼쳐지고 있습니다. 공격자들은 AI를 이용해 사기 행위를 더욱 정교하게 만들고 있으며, 이로 인해 사기 탐지가 어려워지고 있습니다. SoSafe의 ‘Cybercrime Trends 2025’ 보고서에 따르면, 지난 해 전 세계 기업의 87%가 AI를 활용한 사이버 공격을 경험했습니다.
- AI를 활용한 사이버 공격은 주로 자동화 스크립트와 머신 러닝 알고리즘을 사용하여 대량의 데이터를 분석하고 실제 공격을 최적화하는 데 사용됩니다. 공격자들은 이를 통해 시뮬레이션을 수행, 가장 성공률이 높은 방법으로 공격을 진행합니다.
- IBM의 2022년 데이터 보고서에 따르면, AI 기반 보안 기술을 도입하지 않은 조직은 평균 데이터 유출 확률이 더 높으며, 이에 따른 평균 손실은 AI 기반 보안 기술을 도입한 조직보다 약 30% 더 큰 것으로 나타났습니다.
사이버 공격의 고도화와 개인화
SoSafe의 최고 보안 책임자 Andrew Rose는 AI가 사이버 공격의 정교함과 개인화를 크게 확대하고 있다고 설명합니다. 많은 기업들이 이러한 위협을 인식하고 있지만, 실제로 이를 탐지하고 대응하는 데 자신감을 갖고 있지 않다고 합니다.
- AI 기술은 개인화된 피싱 공격을 지원하는 데 중요한 요소가 됩니다. 공격자는 타겟의 온라인 활동을 분석하여 맞춤형 콘텐츠를 생성, 더 높은 응답률과 신뢰를 얻습니다.
- Gartner 보고서에 따르면, AI 기반 피싱 공격은 일반적인 피싱 공격보다 피해자가 쉽게 속아넘어가며, 실제 사용자의 개인 정보 탈취 및 계정 도용 사례가 45% 이상 증가한 것으로 보고되었습니다.
금융 부문, 새로운 위협에 직면
금융 부문은 오랜 시간 동안 사이버 범죄자들의 주요 표적이었습니다. 그러나 AI로 인해 공격 방식이 크게 변화하고 있습니다. 피싱 이메일에만 의존하지 않고, 딥페이크 음성 통화, AI 생성 비디오 메시지, 소셜 엔지니어링 전술을 사용하여 다중 채널로 공격을 펼치고 있습니다.
- 딥페이크 기술은 금융 부문에서 신뢰를 기반으로 한 사기 행위를 더욱 고도화하고 있습니다. 딥페이크를 이용해 회사 임원이나 고객을 흉내 내며 민감한 정보를 거래로 유도합니다.
- 2023년 KPMG 연구에 따르면, 각기 다른 전략을 결합한 복합형 AI 공격이 금융 기관에서 탐지 및 방어하기 가장 어려운 것으로 나타났으며, 이런 공격에 대해 78%의 금융 기관이 높은 경계를 유지해야 한다고 응답했습니다.
실제 사례: WWP CEO에 대한 공격
최근의 한 사례로, 공격자들은 WWP의 CEO를 대상으로 AI를 활용한 복잡한 공격을 수행했습니다. 이들은 WhatsApp을 통해 초기 신뢰를 구축한 후 Microsoft Teams로 상호작용을 진행하고, 최종적으로 딥페이크 음성 통화를 통해 민감한 금융 데이터를 추출하는 데 성공했습니다.
- 이 사례는 소셜 엔지니어링 기법과 AI 기술의 결합으로 상당한 피해를 끼친 대표적 사례로 꼽히며, 이러한 양상을 통해 공격자는 복잡한 조직 내의 신뢰 관계를 교묘히 악용합니다.
- 딜로이트의 2023 사이버 위협 조사에 따르면, AI와 소셜 엔지니어링을 결합한 공격은 표적화된 인물로 하여금 민감한 정보를 자발적으로 제공하게 하며, 62%의 조직이 이러한 유형의 공격에 대한 탐지가 어려움을 느낀다고 보고합니다.
AI로 인해 확장되는 공격 표면
AI는 단순한 공격 벡터를 넘어, 조직 내 공격 표면을 확장시키고 있습니다. 기업들이 AI 기반 도구를 도입하는 과정에서 새로운 취약점이 노출될 수 있습니다.
- AI 시스템은 종종 자동화된 프로세스와 광범위한 데이터 사용을 요구하며, 이러한 점은 새로운 취약점을 생성할 수 있어 결과적으로 네트워크 보안상 점검이나 업데이트를 주기적으로 수행하는 것이 중요합니다.
- 시스코의 2023 보안 보고서에 따르면, AI 기반 솔루션 도입으로 인해 기업 네트워크의 취약한 지점이 추가로 드러나며, 이로 인해 기존 보안을 강화하지 않으면 53% 증가된 리스크에 노출될 수 있다고 분석됩니다.
기업의 보안 강화를 위한 권장 사항
기업은 사이버 보안 회복력을 강화하기 위해 AI 보안을 리스크 관리에 포함시키고, 다중 채널 위협 탐지에 투자하며, 직원들에게 AI 위협에 대한 교육을 실시해야 합니다. 또한, 공급망 취약성을 줄이기 위해 제3자 위험을 재평가해야 합니다.
- PwC의 최근 연구 결과에서는 AI 보안을 강력히 채택한 기업들이 사이버 공격 대응에서 40% 효율성이 증가하였으며, 이들은 AI 기술을 활용한 AI 탐지 및 대응 체계를 구축한 것이 중요한 성공 요인이었다고 합니다.
- 기업 내 모든 구성원이 사이버 보안 위협을 인식하고 보호 조치를 수행하는 문화가 중요하므로, 정기적인 교육과 모의 테스트는 제3자 취약성까지 포괄하는 광범위한 보안 프로토콜 구축에 필수적입니다.
AI, 문제이자 해결책
AI는 사이버 범죄자들이 더 발전된 공격을 수행하는 데 이용되지만, AI 기반 사이버 보안 도구 역시 중요한 방어 수단으로 부상하고 있습니다. 그러나 기술만으로는 충분하지 않으며, 사이버 보안 인식이 중요하다는 점을 SoSafe의 CEO인 Niklas Hellemann은 강조합니다. AI 기반 보안은 이를 사용하는 사람들의 인식에 달려있다고 경고합니다.
- IBM의 보안 보고서에 따르면, AI 기반 보안 시스템을 도입한 기업들은 사이버 공격으로 인한 평균 손실이 37% 감소했으며, 이러한 도구는 데이터 분석뿐 아니라 이상 징후를 실시간으로 감지하여 사전 예방적 조치를 취하는 데 효과적입니다.
- 그러나 기술 자체만으로 모든 문제를 해결할 수는 없습니다. 각종 보안 프로토콜 및 인적 관리 시스템이 복합적으로 작동할 때 AI는 진정한 가치를 발휘할 수 있습니다. McAfee 보고서에 따르면, 기업 내 AI 보안 도입에 대한 인식 개선이 매출 방어에 중요한 역할을 할 수 있다고 보고되었습니다.
출처 : 원문 보러가기
