엔비디아, 실시간 차량 탑재용 추론 모델 알파마요 2 엣지 및 평가 체계 알파저지 공개

엣지 자율주행 추론 모델의 등장

엔비디아가 차량 내부 연산 장치에서 실시간으로 구동할 수 있는 시각·언어·행동 모델 알파마요 2 엣지와 추론 품질 평가 체계인 알파저지를 공개했다. 기존의 대규모 추론 모델은 뛰어난 주행 이해도를 제공하지만 차량 내 한정된 컴퓨팅 자원과 엄격한 지연 시간 기준을 맞추기 어려웠다. 이번 모델은 20억 파라미터 기반의 백본을 적용하여 차량 내 실시간 제어가 가능하도록 설계되었으며, 복잡한 상황에서만 선택적으로 추론을 수행하는 방식으로 불필요한 연산 낭비를 억제한다.

자율주행 차량이 실제 도로에서 안정적으로 운행하려면 주변 환경을 빠르고 정확하게 분석하는 것뿐만 아니라 자신의 행동 근거를 논리적으로 설명할 수 있어야 한다. 하지만 모델 크기를 무작정 줄이면 추론의 정확도와 안전 주행 능력이 크게 훼손되는 문제가 발생한다. 엔비디아는 경량화 과정에서 손실될 수 있는 추론 품질을 측정하고 보완하기 위해 평가와 보상을 전담하는 알파저지 모델을 도입하여 개발 전 주기에 걸친 성능 검증 경로를 구축했다.

경량 아키텍처와 최적화 기술

알파마요 2 엣지는 코스모스 3 엣지의 20억 파라미터 네모트론 추론 백본과 확산 행동 전문가 구조를 결합하여 설계되었다. 차량 주변을 둘러싼 카메라 영상과 과거 주행 이력, 내비게이션 경로 입력을 통합해 인과 사슬 추론과 미래 주행 궤적을 동시에 도출한다. 평상시의 일상적인 주행 구간에서는 추론 토큰 대신 특수 토큰을 생성해 불필요한 토큰 생성을 줄이며, 사건 발생이나 차선 변경 등 복잡한 판단이 필요할 때만 인과 관계를 추론하는 적응형 방식을 채택했다.

성능을 유지하면서 연산 부담을 덜기 위해 상위 모델인 알파마요 2 슈퍼의 자동 생성 라벨을 활용한 오프라인 증류 학습과 다중 해상도 입력 인코딩이 적용되었다. 또한 디플래시2 추측 디코딩 기법을 도입해 품질 저하 없이 온라인 추론 속도를 높였으며, 전용 강화학습 환경인 알파짐에서 닫힌 루프 강화학습을 거쳤다. 이로 인해 닫힌 루프 강화학습을 적용하지 않은 최고 성능 체크포인트 대비 주행 성공률이 48.9퍼센트 향상되었고, 40억 파라미터 규모의 경쟁 모델 대비 과실 사고 간 주행 거리가 40배가량 길어졌다.

알파저지를 통한 추론 평가 체계

알파저지는 개발자가 확보한 입력 데이터의 특성에 따라 기준 기반과 비기준의 두 가지 형태로 나누어 운용된다. 텍스트 형태의 질문과 정답 추론문이 준비된 경우에는 기준 기반 모델을 사용해 후보 추론문의 일치 확률을 0과 1 사이의 값으로 산출한다. 반면 모범 답안이 없는 현장 주행 데이터의 경우 전방 광각과 망원 카메라 프레임 각 3장, 차량의 과거 및 미래 거동 정보를 입력받는 비기준 모델을 적용해 행동 일치도, 안전성, 상황 접지성, 완전성, 인과적 일관성을 종합 평가한다.

비기준 평가 모델은 주행 행동 점수와 상황 설명 점수를 각각 60퍼센트와 40퍼센트 비율로 가중 결합하여 최종 총점을 매긴다. 개발자는 이러한 객관적 평가 결과를 데이터 선별 작업에 활용하여 모델이 이미 완벽히 이해한 쉬운 데이터나 품질이 불량한 표본을 솎아내고, 정보 가치가 높은 중간 영역의 주행 장면을 집중적으로 학습에 재투입할 수 있다. 나아가 강화학습 과정에서 알파저지의 정렬 확률을 보상 신호로 활용함으로써 겉으로만 유창하고 실제 조작과 동떨어진 추론을 생성하는 이상 현상을 억제한다.

실증 성능과 배포 환경 요구 조건

초기 협력사들의 현장 검증에서도 주목할 만한 성능 개선이 확인되었다. 런던 도심 주행 데이터를 재구성한 시뮬레이션에서 기존 버전 대비 차선 유지 성공 횟수가 두 배 이상 늘어났고 편차 복구 성공률은 약 40퍼센트 증가했다. 제로샷 평가 환경에서는 상위 모델 대비 변위 오차가 13.6퍼센트 줄었으며 3초 후 횡방향 예측 오차는 46.1퍼센트 감소했다. 특정 기업 주행 데이터로 미세 조정한 뒤에는 변위 오차가 기준점 대비 추가로 44.2퍼센트 개선되는 등 교통경찰의 정지 수신호나 횡단보도 보행자 양보와 같은 까다로운 제어를 완수했다.

이 모델은 파이토치 기본 형식으로 제공되지만 실제 차량용 컴퓨터인 드라이브 에이지엑스 토르에서 실시간으로 구동하려면 추가 최적화 과정이 필수적이다. 팔비트 부동소수점 스케일 조정과 텐서알티 엔진 빌드, 전용 엣지 플러그인을 결합한 결과 입력 영상에서 궤적 생성까지 160에서 190밀리초 수준의 지연 시간을 달성했다. 다만 알파저지를 구동하려면 쿠다 지원 하드웨어와 최소 5기가바이트 안팎의 가용 메모리가 요구되며, 강화학습 보상 설계 시 주행 궤적 일치 여부를 판별하는 관문 조건을 함께 두지 않으면 그럴듯하지만 위험한 주행을 유발할 수 있다는 제약이 존재한다.