[CBC뉴스] 엔비디아가 인공지능 연산의 무게중심을 클라우드에서 개인용 PC로 넓히는 전략에 속도를 내고 있다. 여러 대의 RTX 기반 PC를 하나의 로컬 AI 연산 환경처럼 활용할 수 있는 소프트웨어와 추론 성능 개선 기술을 공개하고, 오는 10월에는 차세대 RTX Spark 기반 윈도 PC까지 시장에 투입한다.

엔비디아는 독일에서 열린 IFA 2026에서 마이크로소프트 및 주요 파트너사들과 함께 로컬 AI 에이전트의 설치와 실행을 단순화하고 추론 처리 속도를 높이는 기술을 발표했다. 핵심은 사용자의 데이터를 외부 클라우드로 보내지 않고 PC 내부에서 AI 작업을 처리하는 '온디바이스 AI' 환경을 강화하는 데 있다.

엔비디아에 따르면 Hermes Agent와 OpenClaw, Perplexity Portable Computer 등 주요 AI 에이전트 애플리케이션에서 엔비디아 GPU를 활용한 로컬 AI 구성이 보다 간편해질 예정이다. 기존에는 사용자가 직접 AI 모델을 선택하고 추론 서버와 양자화 설정 등을 조정해야 했지만, 앞으로는 GPU를 자동으로 감지해 적절한 모델과 환경을 설정하는 방식으로 진입 장벽을 낮춘다는 구상이다.

특히 Hermes Agent는 윈도 환경에서 RTX 및 DGX 시스템을 대상으로 원클릭 로컬 모델 설정을 지원한다. 엔비디아 GPU를 자동 인식한 뒤 적합한 모델과 설정을 선택하고, llama.cpp 기반 추론 환경에 엔비디아의 최적화 기술을 적용해 수동 다운로드와 세부 튜닝 과정을 줄이는 방식이다. 로컬 GPU에서 모델을 구동하기 때문에 처리 속도를 확보하는 동시에 데이터를 해당 시스템 내부에 유지할 수 있다는 점도 강조됐다.

AI 추론 속도도 개선됐다. 엔비디아는 오픈소스 추론 프레임워크인 llama.cpp와 vLLM 커뮤니티와의 협력을 통해 로컬 환경의 AI 에이전트 처리 성능을 높이고 있다고 밝혔다.

GeForce RTX 5090에서는 커널 최적화와 추론 처리 방식 개선 등을 통해 llama.cpp 처리량이 최대 1.9배 높아졌으며, RTX PRO 6000 Blackwell Workstation Edition에서는 vLLM 성능이 1.2배, DGX Spark 2대 구성에서는 최대 1.4배 향상됐다고 설명했다. 관련 성능 개선은 LM Studio와 Ollama 등에서도 활용할 수 있다.

여러 대의 PC를 하나의 AI 연산 자원처럼 사용할 수 있도록 하는 'NVIDIA PAIR'도 이번 발표의 핵심이다.

PAIR는 같은 로컬 네트워크에 연결된 호환 PC를 자동으로 찾아 AI 추론 작업을 분산하는 무료 오픈소스 소프트웨어다. 한 대의 GPU에 모든 요청이 몰리지 않도록 사용 가능한 연산 자원이 있는 다른 PC로 독립적인 추론 작업을 보내는 구조다. Ollama와 LM Studio를 지원하며 네트워크에 새로운 기기가 추가되거나 빠지는 상황에도 대응할 수 있다.

예를 들어 하나의 AI 에이전트가 이메일 정리와 우선순위 분류 등 여러 작업을 동시에 수행할 경우 각각의 하위 작업을 복수의 PC에 배분할 수 있다. 메인 PC를 게임이나 콘텐츠 제작 등에 사용하는 동안 다른 PC로 AI 연산을 넘기는 방식도 가능하다.

PAIR 베타는 윈도와 macOS, 리눅스에서 제공되며 GeForce RTX 20 시리즈 이상과 RTX PRO 워크스테이션 GPU, DGX Spark, 애플 M4 이상 칩을 지원한다.

엔비디아는 로컬 AI 생태계를 콘텐츠 제작 분야로도 확대하고 있다. CyberLink의 PhotoDirector AI PC Mode는 이미지 생성과 보정, 객체 제거, 배경 변경, 인물 보정 등을 로컬 AI 연산으로 처리하도록 설계됐다. 엔비디아 GPU에서는 TensorRT-RTX와 FP8 기술을 이용해 AI 편집 작업을 가속한다.

하드웨어 전략의 중심에는 RTX Spark가 있다.

엔비디아는 RTX Spark 기반 윈도 PC가 오는 10월 출시될 예정이라고 밝혔다. 에이서가 소형 데스크톱 콘셉트를 공개했고 레노버는 Yoga Pro 9n과 Yoga 9n 2-in-1을 발표했다. RTX Spark는 최대 128GB 통합 메모리와 20코어 Grace CPU, 1페타플롭급 RTX Blackwell GPU를 기반으로 크리에이터와 게이머, AI 에이전트 수요를 동시에 겨냥한다.

이번 발표는 엔비디아가 데이터센터용 AI 가속기 시장을 넘어 개인용 PC에서도 AI 연산 플랫폼 지배력을 확대하려는 흐름으로 풀이된다. 기존 생성형 AI가 대규모 클라우드 서버를 중심으로 성장했다면 앞으로는 개인정보 보호와 비용, 응답 속도를 이유로 일부 AI 작업을 사용자 기기에서 직접 처리하려는 수요가 커질 가능성이 있다.

특히 여러 대의 개인 PC를 연결해 유휴 GPU 자원을 활용하는 PAIR와 RTX Spark의 등장은 엔비디아가 '개인용 AI 인프라'라는 새로운 시장을 선점하려는 전략으로 볼 수 있다. GPU 판매에 그치지 않고 AI 모델과 추론 프레임워크, 에이전트 소프트웨어, PC 하드웨어를 하나의 생태계로 묶는 움직임이 본격화되고 있다는 평가다.

[※ 본 기사는 기업이 공개한 자료를 기초로 정보 제공을 목적으로 재구성했습니다. 특정 기업이나 종목의 매수·매도를 권유하거나 투자 수익을 보장하지 않습니다. 기업의 제품 출시 일정과 성능, 사업 계획 등은 향후 변경될 수 있으므로 투자 판단 시 추가적인 확인이 필요합니다. 투자 판단과 그에 따른 책임은 투자자 본인에게 있습니다. AI 조력으로 작성된 기사입니다]

★ 네티즌 어워즈 투표하러 가기 ▶
★ 전 세계 팬덤의 결집, cbcglobe.com ▶
★ 돈돈돈, 남몰래 혼자 보는 – 돈 되는 뉴스 ▶

▮ CBC뉴스ㅣCBCNEWS 심우일 기자