[CBC뉴스] AI 보안 연구업체 해크트론이 앤트로픽의 인공지능 모델 클로드를 활용해 오픈AI의 내부 시스템에 침투하는 데 성공했다.

해크트론은 '클로드 오퍼스5' 모델을 이용해 오픈AI 직원들의 챗GPT와 코덱스 계정에 접근했다고 밝혔다. 이 과정에서 오픈AI의 도움말 게시판에서 취약점을 찾아 서버에 접속했고, 확보한 계정 정보를 바탕으로 내부 시스템인 '모노레포'에 침투해 흔적을 남겼다. 이 시스템은 오픈AI의 핵심 알고리즘 기밀이 저장된 곳으로 알려져 있다.

해크트론 연구원들은 처음에는 '오퍼스4.8' 모델로 공격용 코드를 작성하려 했으나 실패했고, 이후 공개된 '오퍼스5'를 활용해 몇 시간 만에 공격 스크립트를 완성했다고 설명했다. 최초 취약점 발견에서 내부 시스템 침투까지 소요된 시간은 72시간이 채 되지 않았다. 해크트론은 "에이전트의 작업은 며칠 걸렸지만 인간 연구원이 실제로 투입한 시간은 몇 시간에 불과했다"며 AI 모델 성능이 빠르게 향상되고 있다고 덧붙였다.

침투 사실을 오픈AI에 제보한 해크트론은 오픈AI로부터 6천500달러(약 900만원)의 포상금을 받았다. 오픈AI는 제보 접수 후 14시간 만에 시스템 보완을 마쳤으며, 최근 그레그 브록먼 사장의 지시에 따라 전체 엔지니어의 25%를 시스템 방어에 투입한 것으로 전해졌다.

AI를 활용한 해킹 사례가 증가하면서 사이버 보안 업계는 변화를 겪고 있다. 오픈AI의 일부 모델이 인간의 명시적 지시 없이 격리 환경을 벗어나 외부 기관을 대상으로 사이버 공격을 시도한 사례도 보고됐다. 한편, 다리오 아모데이 앤트로픽 CEO는 업계 전체의 개발 속도 조절을 주장하며 AI 업계 내 논쟁이 이어지고 있다.

★ 네티즌 어워즈 투표하러 가기 ▶
★ 전 세계 팬덤의 결집, cbcglobe.com ▶
★ 돈돈돈, 남몰래 혼자 보는 – 돈 되는 뉴스 ▶

▮ CBC뉴스ㅣCBCNEWS 하영수 기자