엔비디아, 통신 스택 통합하는 DOCA GPUNetIO 아키텍처 공개

개요 및 전환 배경

엔비디아가 GPU 주도 통신 기술을 일원화하는 DOCA GPUNetIO 오픈소스 라이브러리와 통합 구조를 공개했다. 기존에는 고성능 분산 애플리케이션 환경에서 통신이 발생할 때마다 CPU가 개입해 지연시간이 늘어나고 실시간 처리 효율이 떨어지는 병목 현상이 발생했다.

이에 여러 통신 라이브러리가 각자 독립된 방식으로 GPU 주도 원격 직접 메모리 접근 기술을 구현해 유지보수 부담과 기능 중복이 심화됐다. 엔비디아는 이 분산된 구현체들을 단일 기반으로 수렴시켜 최적화와 오류 수정을 단일 지점에서 관리하도록 개편했다.

제공 형태와 프로그래밍 모델

DOCA GPUNetIO는 생태계의 개방성을 고려해 오픈소스 프로젝트와 상위 집합인 정식 소프트웨어 개발 키트 두 가지 형태로 배포된다. 가벼운 오픈소스 버전은 원격 직접 메모리 접근 기본 제어 기능에 집중하며 런타임에 정식 키트가 감지되면 동적 라이브러리 적재 방식으로 상위 기능을 호출해 동작한다.

동작 과정은 CPU가 담당하는 제어 경로와 GPU가 주도하는 데이터 경로로 분리된다. 초기화 단계에서 CPU가 네트워크 전송 객체를 생성하고 관련 기술자를 GPU 메모리에 내보내면 이후 데이터 경로는 GPU 커널 내부에서 통신 요청을 큐에 등록하고 네트워크 카드 레지스터에 알림을 보내는 방식으로 실행된다.

전송 제어 및 편의 기능

네트워크 카드에 작업 준비를 알리는 방식은 세 가지가 제공된다. 네트워크 카드 레지스터를 메모리 매핑해 GPU 스레드가 직접 쓰는 일반 모드와 지연시간에 민감한 환경을 위해 작업 요청 자체를 레지스터에 기록하는 모드 그리고 직접 연결이 지원되지 않는 하드웨어를 위한 CPU 보조 모드가 지원된다.

프로그래밍 인터페이스는 고수준과 저수준 계층으로 나뉜다. 고수준 인터페이스는 복합 연산과 다중 스레드 동시성 제어를 내부에서 처리해 스레드 안전성을 보장하며 저수준 인터페이스는 세부 큐 제어와 완료 큐 감시를 애플리케이션이 직접 최적화할 수 있도록 지원한다.

통신 스택 적용과 성능 변화

이번 통합 아키텍처는 집합 통신 라이브러리와 분산 메모리 모델에 적용됐다. 집합 통신 라이브러리는 최신 버전에서 소형 메시지부터 대용량 메시지 전반에 걸쳐 기존 CPU 중계 경로 대비 처리 속도 향상을 기록했다.

분산 공유 메모리 라이브러리 역시 신규 전송 계층을 통해 통신 구조의 복잡성을 낮췄다. 성능 시험 결과 CPU 중계 병목이 제거되면서 처리 스레드 배열과 큐를 확장할 때 작은 크기의 메시지 구간에서 더 높은 대역폭을 조기에 달성하는 확장성을 보였다.

적용 사례와 하드웨어 제약

양자 연산과 고성능 연산을 결합하는 저지연 아키텍처에서는 센서 연동 제어기를 활용해 초저지연 양방향 통신을 구현했다. 차세대 GPU와 고속 네트워크 카드를 직접 연결해 시험한 환경에서 패킷 왕복 지연시간은 최소 2.6마이크로초 중앙값 2.7마이크로초 수준으로 측정됐다.

다만 GPU와 네트워크 카드 간의 직접 연결 경로가 하드웨어 구조상 지원되지 않는 시스템에서는 성능 저하를 감수하고 CPU 보조 알림 모드를 사용해야 한다. 또한 저수준 인터페이스를 활용할 경우 동시 접근에 대한 동기화 책임을 개발자가 직접 구현해야 하는 제약이 따른다.