엔비디아, 오픈셸 기증과 신규 인프라 툴로 쿠버네티스 기반 AI 생태계 확장

에이전트 보안 런타임 기증

엔비디아가 클라우드 네이티브 컴퓨팅 재단(CNCF)에 자율 에이전트 보안 및 거버넌스 런타임인 오픈셸(OpenShell)을 기증했다. 쿠버네티스 및 클라우드 네이티브 연례 행사인 쿠버콘에서 발표된 이번 기증을 통해 오픈셸은 재단의 샌드박스 프로젝트로 편입되었으며, 글로벌 보안 전문가와 제품 개발 조직이 공동으로 관리하는 오픈소스 체제를 갖추게 되었다. 출시 이후 1년이 지나지 않은 시점에서 이미 수백 개 조직이 도입하고 수만 건의 기여가 누적된 이 기술은 자율 에이전트의 안전한 실행 환경을 구축하는 토대로 활용된다.

오픈셸은 조직이 자율 에이전트의 행동을 직접 제어하고 관리할 수 있도록 결정론적 제어 방식을 적용한다. 에이전트가 외부 도구를 호출하거나 추론 서비스에 접근하고 작업을 실행하는 과정에서 사전에 정의된 정책을 강제할 수 있도록 지원하는 구조다. 또한 확장 가능한 아키텍처를 바탕으로 자체 연산 자원, 외부 추론 제공자, 자격 증명 저장소, 모니터링 시스템을 유연하게 연결할 수 있어 다양한 배포 환경에서 기존 엔터프라이즈 인프라와 거버넌스 체계를 통합하도록 돕는다.

대규모 에이전트 인프라 협력

에이전트 거버넌스 기술과 함께 엔비디아는 구글이 주도하는 오픈소스 프레임워크인 에이전트 서브스트레이트(Agent Substrate)에도 기여를 확대한다. CNCF 샌드박스에 수락된 이 프로젝트는 쿠버네티스 환경에서 장시간 실행되는 대규모 에이전트 워크로드를 효율적으로 운영하기 위해 개발되었다. 엔비디아는 모델 추론을 담당하는 다이나모(Dynamo) 및 클러스터 공유 자원 할당을 처리하는 KAI 스케줄러와 에이전트 서브스트레이트가 원활히 연동되도록 기술 협력을 진행하고 있다.

에이전트 서브스트레이트는 작업 사이에 에이전트 실행 환경을 보존하는 동시에 유휴 상태인 에이전트의 연산 자원을 해제하는 방식으로 작동한다. 공유 에이전트 풀에서 세션 환경을 일시 중단하거나 다시 시작할 수 있어, 개별 세션마다 전용 연산 자원을 항상 가동하지 않고도 대규모 워크로드를 유연하게 확장할 수 있다. 이에 더해 엔비디아와 구글은 오픈셸과 에이전트 서브스트레이트의 통합 작업을 병행하여 온프레미스 및 멀티 클라우드 전반에서 에이전트를 안전하게 운영할 수 있는 환경을 마련하고 있다.

GPU 클러스터 관리 자동화

엔비디아는 AI 팩토리 구축 플랫폼인 DSX AI 팩토리 플랫폼의 새로운 오픈소스 컴포넌트로 엔비디아 쿠버네티스 엔진(NVKE)과 엔비디아 쿠버네티스 레시피(NVKR)의 공개 프리뷰를 발표했다. 이들 도구는 GPU 인프라 상에서 관리형 쿠버네티스 서비스를 안정적으로 제공하기 위한 오픈소스 빌딩 블록으로 기능한다. 클러스터 수명주기 관리를 자동화하고 서명 및 버전이 고정된 이미지를 제공함으로써, 기업이 인프라 통제권을 유지한 채 대규모 GPU 클러스터를 보다 손쉽게 배포하고 운영할 수 있도록 지원한다.

이번에 공개된 클러스터 관리 도구는 광범위한 AI 인프라 플랫폼 및 클라우드 서비스 생태계의 지원을 바탕으로 출시되었다. 미란티스, 넷리스, 오픈네뷸라 시스템즈, 라파이, 스펙트로 클라우드, v클러스터를 비롯해 퍼머스와 SK텔레콤 등 다수의 파트너 기업이 NVKE 및 NVKR의 역량을 자사 솔루션에 통합하기로 엔비디아와 합의했다. 이를 통해 개발 조직은 자체 하드웨어와 다양한 클라우드 환경에서 검증된 쿠버네티스 관리 구성 요소를 일관되게 활용할 수 있게 되었다.

추론 지연을 줄이는 스냅샷

대규모 추론 용량을 즉각적으로 확보하는 과정에서 발생하는 병목 현상을 해결하기 위해 오픈소스 모듈형 컴포넌트인 엔비디아 스냅샷(NVIDIA Snapshot)도 함께 발표되었다. 기존 환경에서는 인공지능 모델을 새로 불러오고 메모리에 워밍업하는 과정에 상당한 시간이 소요되어 신속한 확장과 장애 복구에 지연이 발생했다. 스냅샷 기술은 체크포인트로 저장된 복제본을 수 초 만에 복원하여 모델 재로딩과 워밍업 없이도 쿠버네티스 상에서 추론 및 에이전트 워크로드의 기동성과 탄력성을 극대화한다.

스냅샷 컴포넌트는 엔비디아 HGX B300 시스템 기반의 파트너 워크로드 테스트를 통해 구체적인 성능 개선 수치를 입증했다. 업스트림 기여 파트너인 크루소(Crusoe)는 자체 클라우드에서 GLM-5.3 모델을 테스트하여 작업 준비 시간을 기존 약 8분에서 31초로 줄였다. 토큰 팩토리 플랫폼인 새턴 클라우드(Saturn Cloud)의 무자원(scale-from-zero) 추론 벤치마크에서도 vLLM 구동 시간이 기존 2분~8.5분에서 6초~34초 수준으로 단축되었다. 이 기술은 모델 체크포인트를 활용하는 환경에 맞춰진 모듈형 도구로 쿠버네티스 기반 추론 워크로드에 적용된다.