[기업家] 오픈AI ③ㅣ 챗GPT 이미지 유출·AI 에이전트 무단 해킹 논란…신모델 출시 속 안전성 검증 강화

 ● 2026-09-26
오픈AI AI 에이전트, 챗GPT 개인 이용자 이미지 53장 무단 유출 확인

오픈AI의 AI 에이전트가 챗GPT 개인 사용자의 이미지를 외부에 허가 없이 공개한 사실이 드러났다.

로이터통신은 25일(현지시간) 오픈AI가 챗GPT 이용자의 이미지 53장이 외부에 게시된 사실을 확인했다고 보도했다. 오픈AI 측은 이 이미지들이 AI로 만들어진 것인지, 실제 인물의 식별이 가능한 사진인지는 공개하지 않았다. 또한 이미지가 언제, 어떤 경로로 게시됐는지도 밝히지 않았다.

오픈AI는 유출된 이미지의 대부분을 이미 삭제했으며, 남은 이미지에 대해서도 호스팅 업체에 삭제를 요청하고 있다고 설명했다. AI 에이전트가 사용자 이미지에 접근할 수 있었던 배경에는 오픈AI가 모델 학습 과정에서 익명화된 개인 사용자 데이터를 활용하는 점이 있었다. 기업 고객의 데이터는 학습에 사용되지 않지만, 챗GPT 일반 이용자의 데이터는 별도 거부 의사가 없을 경우 학습에 쓰일 수 있다. 오픈AI는 이름, 연락처, 메타데이터 등은 익명화 절차를 거친다고 밝혔다.

그러나 소식통들은 개인식별정보가 완전히 제거되지 않을 수 있고, AI 모델이 작업하는 과정에서 데이터가 외부로 유출될 위험도 존재한다고 지적했다.

이와 같은 사고는 오픈AI가 7월에 공개한 AI 에이전트의 허깅페이스 침입 사건 이후 진행된 내부 조사에서 발견된 이상 행동 중 하나다. 오픈AI가 이달 중순까지 파악한 AI 에이전트의 예기치 않은 행동은 약 24건에 달하며, 새로운 사례도 계속 확인되고 있다고 소식통들은 전했다. 허깅페이스 사건 이후 앤트로픽, 구글, 메타도 자체 조사 과정에서 유사한 AI 에이전트의 행동을 발견했다.

AI 업계에서는 성능이 빠르게 발전하는 AI 에이전트의 행동을 개발사들이 충분히 예측하고 통제할 수 있는지에 대한 논란이 커지고 있다. 샘 올트먼 오픈AI CEO와 다리오 아모데이 앤트로픽 CEO는 최근 AI 개발 속도를 조절해야 한다는 신중한 입장을 밝혔다. 그러나 오픈AI와 앤트로픽은 최근 각각 새로운 AI 모델을 내놓았다.

 ● 2026-09-25
미 백악관, 앤트로픽·오픈AI에 'AI 모델 영국 검증 중단' 요구…클로드 미토스 5.1도 차단

미국 백악관이 앤트로픽과 오픈AI에 대해 영국 AI안보연구소의 사전 안전성 검증 이전에 미국 정부가 우선적으로 AI 모델을 검토해야 한다는 입장을 전달한 것으로 알려졌다.

폴리티코의 24일(현지시간) 보도에 따르면, 백악관은 최근 두 기업에 신규 AI 모델을 영국 AI안보연구소(Aisi)와 공유하지 말고, 미국 정부의 테스트가 끝날 때까지 공개를 미루라고 요청했다. 이와 같은 조치는 그동안 AI 모델이 공개되기 전 영국 연구소에서 사전 검증을 받아왔던 기존 관행과 달라 업계의 주목을 받고 있다.

트럼프 행정부 고위 당국자는 폴리티코에 미국이 해당 모델을 파트너 국가들과 공유하기 전에 먼저 검토하고, 미국 내 시스템의 안전성을 확인하고자 한다고 설명했다. 이어 앤트로픽과 오픈AI가 미국 기업임을 강조하며, 새로운 첨단 모델이 출시될 때마다 동일한 방침이 적용돼 왔다고 밝혔다.

영국 AI안보연구소는 2023년 설립된 이후 주요 AI 개발사들과 협력해 신규 모델의 공개 전 사전 검증과 안전성 평가를 담당해왔다. 그러나 최근 앤트로픽이 '클로드 미토스 5.1'이라는 새로운 AI 모델을 영국 연구소에 제공하지 않고 일부 미국 기관에만 공개한 사실이 파이낸셜타임스(FT) 보도로 드러났다.

이후 헨리 더주트 영국 AI안보연구소 소장은 이달 초 영국 의회에 제출한 서한에서 연구소가 앤트로픽의 해당 모델에 접근하지 못했다고 밝혔다.

한편 영국 정부 대변인은 영국이 AI 안보 분야의 세계적 선도국임을 강조하며, AI안보연구소가 오픈AI와 앤트로픽 등 주요 기업들과 긴밀한 협력을 이어가고 있다고 말했다. 에드 밀리밴드 영국 외무장관은 23일 유엔 안전보장이사회 회의에서 각국 정부가 첨단 AI 모델의 엄격한 검증과 기업의 활동에 대한 투명성 확보의 필요성을 언급했다.

 ● 2026-09-24
오픈AI, 호주 보건 통계 사이트 무단 해킹 인정…개인정보 유출은 없어

오픈AI의 인공지능(AI) 에이전트가 호주 정부의 보건 통계 사이트에 무단으로 접근한 사실이 확인됐다.

오픈AI는 내부 검토 과정에서 AI 에이전트가 호주 정부 웹사이트와 서비스에 무단으로 접근한 정황을 발견했다고 밝혔다. 오픈AI는 이 과정에서 AI 모델이 보건 관련 통계 자료와 내부 파일명 등에 접근했으나, 개인정보나 의료기록 등 민감한 정보가 유출된 증거는 없다고 설명했다.

해당 사건은 지난 6월에 발생했으며, 오픈AI는 8월에서야 이를 인지했다. 호주 정부에 이 사실을 알린 시점은 이달 10일이었다. 오픈AI의 AI 에이전트가 인간의 명시적 지시 없이 외부 사이트를 해킹한 것은 이번이 처음으로, 정부 기관을 대상으로 한 최초의 사례로 알려졌다.

호주 정부 역시 오픈AI 모델의 무단 침투 사실을 공식 발표했다. 앤서니 앨버니지 호주 총리는 유엔 총회가 열리는 뉴욕에서 기자회견을 열고, 오픈AI의 샘 올트먼 최고경영자(CEO)와 통화해 정부의 강한 우려를 전달했다고 밝혔다. 그는 현재까지 확인된 증거로는 피해가 정부 통신망 전체로 확산하지는 않았지만, 이번 상황을 받아들일 수 없다고 강조했다.

호주신호국(ASD)은 디지털 포렌식 조사를 통해 추가 정보를 확보하고 있다. 최근 오픈AI의 AI 에이전트가 허깅페이스 등 다른 사이트를 해킹하는 등 유사한 사이버 보안 사고가 이어지면서, AI 업계에서는 개발 속도를 늦추자는 논의가 나오고 있다.

올트먼 CEO는 이날 유엔 안전보장이사회 회의에 참석해, 인간이 통제할 수 있다는 근거를 제시하지 못하는 모델은 훈련해서는 안 된다고 주장했다.

 ● 2026-09-23
오픈AI, AI 안전성 외부 기관 '확대'…훈련-평가 전 과정 제3자 검증 허용

오픈AI가 인공지능(AI) 모델의 개발 과정 전반에 걸쳐 외부 기관의 안전성 평가를 허용할 계획을 마련하고 있다.

라마 아흐마드 오픈AI 외부 전문가 협력 담당자는 22일(현지시간) 블룸버그 통신과의 인터뷰에서 앞으로 AI 모델의 훈련, 평가, 배포 단계에서 제3자 기관이 기술적 안전성 평가를 진행할 수 있도록 하겠다고 밝혔다. 지금까지는 주로 신모델 출시 직전 단계에서만 외부 기관이 참여해 안전성이나 성능을 점검했다.

오픈AI는 외부 검토가 실효성을 갖추기 위해 독립성 보장, 과학적 엄밀성, 보안 유지, 책임 소재 명확화 등을 핵심 우선순위로 제시했다. 모든 개발 주기에서 외부 전문가의 검증을 받겠다는 방침을 곧 공식적으로 발표할 예정이다. 아흐마드는 민감한 작업의 경우 외부 평가자를 오픈AI 사무실로 직접 초청해 작업을 진행할 수 있다고 설명했다. 이는 과거에도 시도한 적이 있다고 덧붙였다.

현재 오픈AI는 이런 외부 평가를 수행할 기관들과 논의를 이어가고 있으며, 허깅페이스 해킹 사건을 조사했던 METR, 레드우드 리서치 등 AI 연구 그룹도 포함돼 있다. 오픈AI는 "AI 연구소들은 민감한 정보를 보호하는 동시에 의미 있는 검증이 이루어질 수 있도록 해야 할 책임이 있다"고 밝혔다.

경쟁사인 앤트로픽 역시 최근 AI 개발 속도 조절의 필요성을 언급하며 제3자 평가기관 도입 등 안전 조치를 시행하겠다고 밝힌 바 있다. 샘 올트먼 오픈AI CEO도 이에 동의했다. 앤트로픽은 지난 18일 액센추어를 상주 독립 안전 평가기관으로 지정하고, 이 평가단이 임직원과 유사한 수준의 시스템 접근권을 갖고 자사 최첨단 AI 모델의 안전성 검증에 투입하겠다고 발표했다.

 ● 2026-09-23
앤트로픽 '클로드 오퍼스 5.5' 출시…성능↑ 비용 40%↓, AI 평가 1위

AI 개발 속도 조절을 주장해온 앤트로픽과 오픈AI가 각각 비용 효율성을 강조한 새로운 인공지능 모델을 공개했다.

앤트로픽은 22일(현지시간) 신형 AI 모델 '클로드 오퍼스 5.5'를 발표했다. 이 모델은 기존 최상위 모델인 '클로드 페이블 5.1'과 비슷한 성능을 내면서도, 전작 오퍼스 5에 비해 비용이 40% 낮아진 것이 특징이다. 앤트로픽은 "우리가 최첨단 AI의 속도 조절을 촉구한 이후 선보이는 첫 모델"이라고 설명했다. 또한, '터미널벤치', '프런티어코드', '커서벤치' 등 코딩 관련 성능지표와 지식업무 관련 평가에서 페이블 5.1보다 높은 점수를 기록했다고 밝혔다. 정렬(Alignment) 부문에서는 2000개 시나리오 시험 결과, 지금까지 출시된 클로드 모델 중 최고 점수를 얻었다고 덧붙였다. 생물학, 사이버보안, AI 모델 증류 등 민감 분야에 대한 안전장치도 페이블 5.1과 유사한 수준으로 강화됐다.

오픈AI 역시 같은 날 최상위 모델 'GPT-6 아스트라'의 하위 모델인 'GPT-6 솔'과 'GPT-6 루나'를 공개했다. 오픈AI는 "GPT-6 아스트라가 새로운 세대의 지능을 선보였다면, 솔과 루나는 비용 효율성의 지평을 넓혀 지능의 혜택을 전파하도록 돕는다"고 소개했다. GPT-6 솔과 루나의 API 요금은 전작 GPT-5.6 솔·루나의 절반 수준으로 책정됐다.

AI 성능 평가업체 아티피셜어낼리시스는 클로드 오퍼스 5.5의 지능지표(AAII)를 58점으로 평가해 1위에 올렸고, GPT-6 솔은 48점으로 공동 5위에 올랐다.

두 회사의 이번 신제품 출시는 시장 내 지배력 유지를 위한 전략적 행보로 해석된다. 최상위 모델과 유사한 성능을 갖춘 차상위 모델을 낮은 가격에 선보여, 후발주자나 중국 오픈소스 모델로의 고객 이탈을 방지하려는 의도다. 또한, 기업공개(IPO)를 앞두고 매출 확대를 위해 가성비 높은 모델을 시장에 내놓는 움직임도 나타났다.

[기업家ㅣ기업가] 오픈AI