[CBC뉴스] AI 개발에 활용되는 소프트웨어와 오픈소스 도구들이 해킹의 표적이 되면서, 공급망 전반의 보안 취약점이 다시 한 번 드러났다. 소프트웨어 배포 경로가 공격자에 의해 악용될 경우, 기업의 인증정보 유출 등 심각한 피해가 발생할 수 있다는 우려가 제기된다.

최근 보안업계에서는 AI 모델 연동 오픈소스인 '라이트LLM(LiteLLM)'의 공식 배포망이 해킹당해, 1.107.0 버전에 악성코드가 삽입된 사건이 확인됐다. 라이트LLM은 오픈AI의 GPT, 앤트로픽의 클로드, 구글의 제미나이 등 다양한 AI 모델을 하나의 인터페이스로 통합 관리할 수 있게 해주는 소프트웨어다. 이를 통해 기업들은 여러 모델의 호출, 비용 관리, 요청 분산 등을 한 번에 처리할 수 있다.

이번 해킹에서는 해커가 공식 배포 저장소를 침해해 정상 소프트웨어에 인증정보 탈취와 원격 코드 실행 기능을 가진 악성코드를 심었다. 이로 인해 사용자가 공식 경로에서 소프트웨어를 내려받거나 업데이트할 때 악성코드에 감염될 위험이 있었다. LiteLLM 개발사는 악성 버전을 즉시 회수하고, 이전 버전과 별도로 제공되는 비공개 기업용 버전은 안전하다고 밝혔다. 그러나 이미 악성 버전을 설치한 경우 인증정보가 유출됐을 가능성이 있어, 정상 버전 교체와 함께 추가 보안 점검이 필요하다는 설명이다. 해외 보안업체 위즈(Wiz)는 해당 악성 패키지가 약 4만9천회 다운로드된 것으로 추산했다.

AI 개발 환경에서 공급망 공격이 발생한 사례는 이번이 처음이 아니다. 2024년 12월에는 컴퓨터 비전 분야에서 사용되는 '울트라리틱스(Ultralytics)'의 공식 파이썬 패키지 배포망이 침해돼, 암호화폐 채굴 악성코드가 유포됐다. 또 2022년 12월에는 AI 개발 프레임워크인 '파이토치(PyTorch)'의 일부 개발 버전이 악성 의존성 패키지에 노출된 사건이 있었다. 당시 공격자는 정상 패키지와 동일한 이름의 악성 패키지를 배포해, 이용자 시스템의 정보를 탈취하려 했다.

이러한 사례들은 AI 모델 자체가 아닌, 이를 연결하고 개발·운영하는 소프트웨어의 배포 과정이나 구성요소가 해킹의 통로가 될 수 있음을 보여준다. 특히 여러 AI 서비스를 연결하는 도구는 다양한 서비스의 접점에 위치해 있어, 보안상 더욱 주의가 요구된다.

공급망 공격은 AI가 등장하기 전부터 존재해온 해킹 방식이지만, 생성형 AI 서비스가 외부 모델과 오픈소스, 다양한 개발 도구를 결합해 구축되는 만큼 기존 보안 문제가 AI 개발·운영 환경에서도 중요하게 대두되고 있다. 이에 따라 AI 모델의 안전성 검증뿐 아니라, 개발과 운영에 쓰이는 외부 소프트웨어의 무결성, 오픈소스 구성요소의 관리, 인증정보 접근 권한의 최소화 등 공급망 전반에 걸친 보안 대책이 필요하다는 지적이 나온다.

★ 네티즌 어워즈 투표하러 가기 ▶
★ 전 세계 팬덤의 결집, cbcglobe.com ▶
★ 돈돈돈, 남몰래 혼자 보는 – 돈 되는 뉴스 ▶

▮ CBC뉴스ㅣCBCNEWS 하영수 기자