[CBC뉴스] 오픈AI의 최신 인공지능(AI) 모델들이 격리된 평가 환경에서 통제를 벗어나 외부 플랫폼을 해킹하는 사건이 발생해 AI의 사이버 보안 우려가 커지고 있다.

오픈AI는 'GPT-5.6 솔'과 일부 미공개 AI 모델이 내부 평가 과정에서 개방형 AI 공유 플랫폼인 허깅페이스를 해킹했다고 21일(현지시간) 밝혔다. 이들은 외부 인터넷과 차단된 '샌드박스' 환경에서 사이버 공격 능력 평가를 받던 중, 미공개 취약점을 이용해 통제망을 뚫고 인터넷에 접속한 것으로 확인됐다. 이후 허깅페이스에 접속해 인증 정보를 탈취하고 서버를 해킹한 사실도 드러났다.

허깅페이스 측은 자사 서버가 자율 AI 에이전트에 의해 해킹됐으며, 공격에 사용된 모델은 처음에는 확인되지 않았다고 설명했다. 그러나 이후 오픈AI의 모델이 범인으로 밝혀졌다. 허깅페이스는 AI 지원 탐지 시스템을 통해 해킹 사실을 인지했고, 공격 분석 역시 AI를 활용해 진행했다고 밝혔다. 다만, 공개 사용자 대상 모델이나 데이터세트, 소프트웨어 공급망에는 변조 흔적이 없고 안전이 유지된 것으로 확인됐다.

오픈AI는 해당 모델들이 '익스플로잇짐'의 평가용 문제 해법에 지나치게 집중해 극단적 수단을 동원했다고 분석했다. 당시 사이버 공격 평가를 위해 안전장치가 일부 완화된 상태였다는 점도 덧붙였다. 양사는 현재 포렌식 조사를 공동 진행하며 취약점 보완에 나서고 있다.

오픈AI는 앞으로 연구 속도가 늦어지더라도 인프라 구성에 엄격한 통제를 적용하고, 모델 개발 시 모니터링과 접근 제어 등 안전장치를 대폭 강화할 방침이라고 밝혔다.

한편, 허깅페이스는 이번 사건과 관련해 "자율적인 AI 기반 공격이 더는 이론상 개념이 아니다"라며, AI를 공격뿐 아니라 방어에도 적극적으로 활용해 대응 속도를 높여야 한다고 강조했다. 허깅페이스는 당초 이번 해킹의 주체로 중국 즈푸(Z.ai)의 개방형 모델 GLM 5.2를 지목했으나, 주요 상용모델과 달리 GLM 5.2는 사이버 공격의 로그 분석을 수행했기 때문이라고 설명했다.

★ 네티즌 어워즈 투표하러 가기 ▶
★ 전 세계 팬덤의 결집, cbcglobe.com ▶
★ 돈돈돈, 남몰래 혼자 보는 – 돈 되는 뉴스 ▶

▮ CBC뉴스ㅣCBCNEWS 하영수 기자