S2W, '프롬프트 인젝션' 등 8종 보안 위협과 대응책 소개

[CBC뉴스] 빅데이터 분석 인공지능(AI) 기업 S2W가 서울 서초 JW 메리어트 호텔에서 열린 '2025 국제사이버범죄대응 심포지엄(ISCR 2025)'에 초청되어 생성형 AI 시대의 신종 보안 위협에 관한 발표를 진행했다. 이번 심포지엄은 경찰청 수사국 주관으로 개최됐으며, '사이버세상 속 신뢰: 모두를 위한 안전'을 주제로 각계 전문가들이 모여 사이버 범죄 대응 방안을 논의했다.

S2W의 양종헌 오펜시브연구팀장은 행사 첫날, AI 에이전트 및 멀티 에이전트 시스템의 취약점과 보안 위협을 주제로 발표를 진행했다. 그는 '프롬프트 인젝션', '모델 포이즈닝', '악성도구를 이용한 권한 상승' 등을 포함한 8종의 보안 위협과 대응책을 소개했다. 양 팀장은 또한 '랭스미스 랭체인 허브 어뷰징', '레노버 '레나' 챗봇 XSS', '아마존 Q 개발자 플러그인 어뷰징' 등 주요 사례를 제시하며 데이터 보호 정책 수립과 정교한 접근 제어, 체계적인 모니터링 시스템 구축의 중요성을 강조했다.

S2W는 대규모 언어모델(LLM) 기반 AI 시스템의 안전성과 신뢰성을 확보하기 위한 '시큐리티 가드레일'을 구현하고, 이를 자사의 AI 플랫폼 'SAIP'에 탑재하여 생성형 AI 서비스 운용 과정에서 발생할 수 있는 사이버 위협에 효과적으로 대응하고 있다. 또한, 위협인텔리전스센터 '탈론'을 통해 악성코드와 취약점, 위협 행위자 간의 연관성을 정밀하게 파악하여 고객들에게 최적의 방어 전략을 제공하고 있다.

양 팀장은 이번 심포지엄 발표가 생성형 AI 시대의 보안 위협을 심층 조명하고, 이를 선제적으로 차단할 수 있는 방안을 공유하는 뜻깊은 기회였다고 밝혔다. S2W는 생성형 AI가 야기하는 새로운 위협 환경을 분석하고, 실제 현장에서 적용 가능한 고도화된 방어 체계를 구축하는 데 주력할 계획이다.

★ 네티즌 어워즈 투표하러 가기 ▶
★ 실시간 뉴스속보 - CBC뉴스 텔레그램 ▶
★ CBC뉴스 - gonewsi로 전 세계 타전 ▶

▮ CBC뉴스ㅣCBCNEWS 권오성 기자