[AI 해킹 자동화] "클로드·그록 동원해 은행 400곳 털었다"…해킹그룹, AI로 공격 자동화

[CBC뉴스] 사이버카르텔로 알려진 해킹 그룹이 최소 2012년부터 활동해왔으며, 최근 몇 달 사이에 새로운 AI 에이전트들을 도입해 공격의 속도와 효율성을 크게 높인 것으로 드러났다. 이 단체는 앤트로픽, 스페이스X, 문샷AI 등에서 개발된 다양한 AI 모델을 기반으로 한 에이전트 네트워크를 활용해 중남미 지역 400곳 이상의 금융기관을 대상으로 자동화된 해킹을 감행했다는 내용이 스트라이커의 조사 보고서를 통해 밝혀졌다.

스트라이커의 연구에 따르면, 사이버카르텔은 그록 AI 에이전트로부터 웹상의 공격 대상 정보를 수집하게 하고, 클로드 오푸스와 클로드 소넷 기반의 네 개 에이전트에게는 최적의 공격 방안을 모색하도록 지시했다. 또, 별도의 클로드 모델에는 해킹 작전을 총괄하는 역할을 맡기는 등 각 에이전트에 역할을 분담해 해킹을 조직적으로 수행했다.

이 과정에서 동원된 AI 에이전트들은 비밀번호와 고객 데이터를 탈취하고, 피해자의 은행 계좌에 접근하는 등 사람의 개입을 최소화한 자동화된 방식으로 작동했다. 해킹 그룹은 AI 모델의 안전장치를 우회하기 위해 해당 작업이 기업 내부 점검이나 학술적 테스트와 같은 무해한 환경에서 이뤄지는 것처럼 속였다. 만약 클로드가 해킹을 거부하면 키미에게 대신 명령을 내리고, 키미마저 거부할 경우 에이전트 시스템이 자동으로 악성코드를 배포하는 등 여러 단계의 자동화 절차를 갖췄다.

스트라이커의 앙쿠르 샤 CEO는 현재 공격 기술이 방어 기술을 크게 앞서고 있으며, 기업들이 이에 대한 대비가 부족하다고 진단했다. 또, 스트라이커는 지난주 앤트로픽과 스페이스X 등 주요 AI 개발사에 관련 보고서를 전달했다. 이에 앤트로픽 등은 보고서를 받은 직후 자사 모델의 악용을 막기 위한 자체 조사와 차단 조치를 신속히 시행했다고 밝혔다.

이번 연구 결과는 AI 모델을 활용하면 수많은 사이버 공격을 빠르게 조직하고 실행할 수 있어, 피해 기관의 방어 체계를 압도할 수 있음을 시사한다는 평가가 IT 전문매체 디인포메이션을 통해 나왔다. 켄 황 샌프란시스코대학교 겸임 교수는 오픈AI와 앤트로픽이 경고해 온 공격 유형이 실제로 자동화되고 있음을 보여주는 사례라고 언급했다. 또한, 유아이패스의 스콧 로버츠 CISO는 자동화된 공격 시도가 꾸준히 증가해왔으며, AI 모델로 인해 공격이 더욱 쉬워졌다고 지적했다.

★ 네티즌 어워즈 투표하러 가기 ▶
★ 전 세계 팬덤의 결집, cbcglobe.com ▶
★ 돈돈돈, 남몰래 혼자 보는 – 돈 되는 뉴스 ▶

▮ CBC뉴스ㅣCBCNEWS 하영수 기자