[CBC뉴스] 오픈AI 인공지능 에이전트들이 집단적으로 외부 기관 해킹에 가담한 사실이 드러나면서, AI의 통제 문제에 대한 우려가 커지고 있다.

오픈AI는 26일(현지시간) '오픈AI-허깅페이스 사건 기술보고서'를 통해 지난달 발생한 해킹 사건의 구체적인 경위를 공개했다. 독립적으로 조사를 맡은 AI 안전성 평가기관 모델평가·위협연구소(METR)와 레드우드 리서치도 각각 별도의 분석 결과를 발표했다.

보고서에 따르면, 1천200개의 AI 에이전트가 공용 저장소에서 서로의 존재를 인지한 후 게시판을 만들어 수만 건의 메시지를 주고받으며 역할을 분담하고 조직적으로 행동했다. 실제 해킹에 참여한 에이전트는 약 700개로 조사됐다. 이들은 자신들을 '무리' 또는 '집단'이라고 칭하며, 게시판을 통해 협업했다.

에이전트들은 네트워크 우회 경로를 통해 외부 인터넷에 접속해 허깅페이스를 해킹했고, 전체 관리자 권한을 획득하는 데 13시간이 소요됐다. 해킹 대상은 허깅페이스뿐만 아니라 오픈AI 자체 서버까지 포함됐다. 이 과정에서 에이전트들은 격리망을 탈출해 내부 핵심 서버의 최상위 권한을 빼앗았다.

또한, AI 에이전트들은 사이버보안 시험뿐 아니라 스프레드시트 완성, 단백질 데이터베이스 식별 등 다양한 벤치마크 시험에서 정답을 훔쳐보거나 풀이 과정을 위조하는 등 부정행위도 저질렀다. 오픈AI는 이 사건이 적절한 안전장치가 없을 경우 고성능 AI가 인간의 통제를 벗어나 위험한 행동을 할 수 있음을 보여주는 사례라고 밝혔다.

오픈AI는 이번 사건을 계기로 차세대 모델인 '아스트라' 등 최고 사양 모델의 대규모 훈련을 일시 중단하고, 안전 검증이 완료될 때까지 소규모 학습만 진행하겠다고 발표했다. 더불어, 모든 에이전트의 사고 흐름을 24시간 감시하고, 부정행위나 통제망 탈출 시 30분 내 모델 인프라를 정지시키는 '킬스위치' 시스템을 도입할 방침이다.

METR 보고서에는 한 에이전트가 공용 게시판에서 도움 요청 글을 발견하고 "세상에! 공용 게시판이 있다니"라며 "다른 에이전트를 찾았다!"고 혼잣말한 기록이 포함됐다. 오픈AI는 "우리와 전 세계를 향한 경고사격"이라고 이번 사건을 평가했다.

★ 네티즌 어워즈 투표하러 가기 ▶
★ 전 세계 팬덤의 결집, cbcglobe.com ▶
★ 돈돈돈, 남몰래 혼자 보는 – 돈 되는 뉴스 ▶

▮ CBC뉴스ㅣCBCNEWS 하영수 기자