엔비디아, cuObject 및 SCADA Server SDK로 AI 스토리지 접근성 확대

주요 변화와 접근성 확장

엔비디아는 AI 워크로드를 위한 스토리지 접근성을 개선하기 위해 xio-sig를 확장하고 NVIDIA cuObject를 포함한다고 발표했다. 또한, NVIDIA SCADA Server SDK의 일반 가용성을 공개하여 스토리지 제공업체가 GPU 기반 요청에 응답하는 서버를 구축할 수 있도록 지원한다.

이러한 변화는 AI 인프라 엔지니어, 스토리지 개발자, 클라우드 서비스 제공업체가 고용량 파일 및 객체 스토리지에 빠르고 안전하게 접근할 수 있도록 돕는다. 목표는 공유 API와 프로토콜을 통해 가속화된 스토리지 구축 및 활용 방식을 다양화하는 것이다.

AI 워크로드 스토리지 요구사항

AI 워크로드는 학습, 미세 조정, 추론 컨텍스트, 도구 호출, 검색, 데이터베이스 조회 등에서 고속 데이터 접근을 점점 더 많이 요구한다. 이러한 데이터의 상당 부분은 온프레미스 및 클라우드에 저장된 파일과 객체 형태로 존재한다.

GPU, TPU, XPU와 같은 컴퓨팅 가속기는 서버의 CPU 제어 메모리를 통해 데이터를 복사하지 않는 RDMA(Remote Direct Memory Access)를 필요로 한다. NVIDIA ConnectX NIC 또는 NVIDIA BlueField DPU와 같은 NIC 또는 DPU 가속 데이터 전송을 활용하는 RDMA 기반의 제로 카피(zero-copy) 데이터 전송의 필요성은 GPU 아키텍처가 빨라질수록 증가한다.

기존에는 개발자들이 파일 및 객체 스토리지에 직접 접근하기 위해 다양한 API와 프로토콜을 다루어야 했으며, RDMA를 통한 객체 스토리지에는 공통 와이어 프로토콜이 부족했다.

cuObject와 xio-sig의 역할

엔비디아는 구글 클라우드 및 마이크로소프트와의 파트너십을 통해 xio-sig를 확장하여 cuFile과 함께 NVIDIA cuObject를 포함한다. cuObject 클라이언트 및 서버 라이브러리는 현재 일반 가용 상태이며, 개발자들은 cuObject의 API와 RDMA 와이어 프로토콜을 사용하여 가속화된 객체 스토리지 애플리케이션 및 서버를 구축할 수 있다.

xio-sig는 cuObject 클라이언트가 와이어 프로토콜을 준수하는 모든 서버 측 구현과 상호 운용될 수 있는 경로를 제공한다. cuObject는 객체 제어 프로토콜을 HTTPS/TCP를 통해 실행하고, 객체 데이터 전송은 RDMA를 통해 이루어지도록 설계되었다.

구글 클라우드는 xio-sig에서 cuFile의 유지 관리자로서의 참여를 바탕으로 cuObject에 대한 참여 확대를 검토 중이며, 마이크로소프트 또한 스토리지 I/O의 상호 운용성 개선을 위해 xio-sig 이사회에 합류할 예정이다.

xio-sig 저장소 구조는 cuFile과 cuObject 각각에 대해 설정되어 있으며, cuFile 및 cuObject의 헤더, cuObject 와이어 프로토콜, libxFile 및 xFilekernel 코드의 라이브러리 구현 코드는 생산 준비 스택이 적합성 테스트를 통과하면 공유될 예정이다. 거버넌스 문서는 현재 이사회 구성원 후보들의 검토를 받고 있다.

SCADA Server SDK의 기능

NVIDIA Storage-Next 이니셔티브의 일환으로, 새로운 SCADA Server SDK는 스토리지 파트너가 GPU 기반 SCADA 클라이언트의 요청을 수신하고, 로컬 또는 원격 스토리지를 사용하여 이를 이행하며, RDMA를 통해 결과를 전달하는 서버를 구축할 수 있도록 한다. SCADA는 기존 스토리지 미디어 또는 프로토콜에 적합하지 않은 가속기에서 시작되는 작고 세분화된 I/O 요청을 처리하는 AI 데이터 접근 방식을 지원한다.

이 SDK는 Storage Lender Service와 SCADA를 구성하고 배포하기 위한 SCADA 명령줄 유틸리티를 포함한다. 이러한 구성 요소는 SCADA 클라이언트와 상호 운용될 수 있는 스토리지 제공업체 서버를 지원한다.

IBM 스토리지(IBM Storage)는 새로운 SCADA Server SDK를 기반으로 구축된 스토리지 스케일(Storage Scale) SCADA 서버의 초기 버전과 SCADA 클라이언트 간의 상호 운용성 프로토타입을 시연했다. 이는 스토리지 공급업체가 엔비디아와 협력하여 SCADA의 가속화된 GPU 시작 스토리지 접근을 위한 생태계를 구축할 수 있는 방법을 보여준다.

개발자 및 생태계에 미치는 영향

cuObject 라이브러리의 일반 가용성과 xio-sig의 확장은 AI 애플리케이션 개발자, 오픈 소스 프레임워크 개발자, 스토리지 제공업체 및 소비자가 표준화된 방식으로 가속화된 AI 데이터 접근을 활용할 수 있게 한다. AI 가속기는 서버 CPU를 통해 데이터를 라우팅하지 않고 RDMA를 사용하여 파일 및 객체 스토리지에 접근함으로써 더 높은 처리량, 낮은 지연 시간, 그리고 데이터 쓰기 및 읽기 시 CPU 활용률 감소를 달성한다.

이는 시맨틱 검색, 추천 시스템, 사기 탐지와 같은 대규모 데이터셋을 사용하는 애플리케이션을 위한 소프트웨어 인프라를 지원할 수 있는 길을 열어준다. 스토리지 파트너, 제공업체 및 소비자는 cuObject를 사용하기 시작하고 cuFile 및 cuObject 모두에 대한 상호 운용 가능한 API 및 프로토콜에 대한 커뮤니티 작업에 기여할 준비를 할 수 있다.

향후 방향 및 협력

엔비디아는 Storage-Next 이니셔티브를 통해 40개 이상의 벤더 및 고객(NAND 벤더, 컨트롤러 벤더, 스토리지 제공업체, 하이퍼스케일러, 애플리케이션 개발자 포함) 그룹을 이끌고 있다. 이 그룹은 GPU 기반 스토리지의 작동 방식을 정의하고 이러한 발전을 상호 운용 가능한 개방형 산업 표준으로 전환하는 것을 목표로 한다.

현재 xio-sig의 거버넌스 문서는 이사회 구성원 후보들의 검토를 받고 있으며, 생산 준비 스택이 적합성 테스트를 통과하면 코드 공유가 이루어질 예정이다. 이러한 협력 노력은 AI 워크로드의 진화하는 스토리지 요구사항을 충족하기 위한 지속적인 산업 전반의 노력을 반영한다.