엔비디아, 네모트론 미세조정으로 IOI·IMO 2026 동시 금메달 수준 달성

성과 개요와 결과

엔비디아 연구진은 기반 모델인 네모트론 3(Nemotron 3)을 도메인 특화 모델로 미세조정하여 국제정보올림피아드(IOI) 2026과 국제수학올림피아드(IMO) 2026에서 모두 금메달 수준의 점수를 획득했다고 발표했다. IOI 2026 과제에서는 네모트론 3 울트라 CC(Nemotron-3-Ultra-CC) 모델에 지도 미세조정(SFT)과 반복 개선 추론 기법인 젠코렉트(GenCorrect)를 적용해 600점 만점에 535.4점을 기록했다. 이는 금메달 기준선인 361.12점은 물론 인간 참가자 최고 점수인 498.27점을 넘는 점수다.

IMO 2026 수학 증명 과제에서는 네모트론 3 울트라 일반 모델과 지도 미세조정 체크포인트, 강화학습(RL) 체크포인트를 결합한 생성·검증·개선 시스템을 구성했다. 이 시스템은 공식 채점관 평가를 거쳐 42점 만점에 30점을 획득했으며, 6개 문제 중 4개에서 만점을 받으며 공식 금메달 기준선인 29점을 넘어섰다.

특화 레시피의 등장 배경

고난도 영역마다 새로운 대형 기반 모델을 처음부터 학습시키는 방식은 많은 연산 자원과 시간을 요구한다. 연구진은 단일 기반 모델 패밀리를 출발점으로 삼아 적합한 사후 학습과 추론 워크플로를 결합하는 재사용 가능한 전문화 레시피를 정립하고자 했다. 알고리즘 코드를 작성해야 하는 IOI와 엄밀한 자연어 증명을 작성해야 하는 IMO는 완전히 다른 역량을 요구하지만, 두 프로젝트 모두 동일한 4단계 특화 절차를 적용했다.

해당 특화 과정은 강력한 기반 모델 선정, 고품질 추론 궤적과 도메인 데이터 수집, SFT 및 RL 같은 표준 사후 학습 기법 적용, 생성 후보를 평가하고 고쳐 쓰는 추론 루프 구성으로 요약된다. 연구진은 단순 체크포인트 튜닝을 넘어 추론 시점 연산과 모델을 유기적으로 결합하는 접근법이 고난도 문제 해결에 필수적이라고 분석했다.

경쟁 프로그래밍 특화 과정

프로그래밍 영역에서는 2만 2000개의 알고리즘 문제와 합성 추론 궤적을 큐레이션하여 학습 데이터를 구성했다. 모델 크기에 따른 특성화 실험을 위해 총 매개변수 300억 개·활성 매개변수 30억 개 규모의 네모트론 3 나노 CC(Nemotron-3-Nano-CC)와 총 5500억 개·활성 550억 개 규모의 울트라 CC 모델이 활용되었다. 나노 모델은 사후 학습 전 IOI 2025 기준 130점에서 SFT 후 280점, RL 후 291점으로 향상되었으며, 추론 루프 젠코렉트를 결합하자 468점까지 상승해 금메달 기준선을 돌파했다.

연구진은 모델 규모에 따라 최적의 학습 조합이 달라진다는 점도 확인했다. 대형 모델인 울트라 CC의 경우 단 1에포크의 SFT만으로도 완전 학습된 나노 모델의 IOI, ICPC, 라이브코드벤치 프로(LiveCodeBench Pro) 성과를 넘어섰다. 이 실험 결과를 바탕으로 IOI 2026 라이브 벤치마크 시스템에는 SFT 기반 울트라 CC 모델이 최종 투입되었다.

수학 증명 학습과 추론 체계

수학 올림피아드 과제에서는 네모트론 3 울트라를 바탕으로 SFT 전용 체크포인트와 RL 전용 체크포인트를 각각 훈련했다. SFT 데이터셋은 1만 5818개 고유 증명 문제에서 추출한 41만 4890개의 예시로 구성되었으며, 단순 해답 생성을 넘어 증명 정제, 검증, 메타 검증 과정을 포괄하여 모델이 논리적 결함을 인지하고 비판에 대응하도록 했다. RL 모델은 모델의 한계 역량 경계에 위치한 9597개 증명 문제를 선별해 학습을 진행했다.

실제 문제 해결 단계에서는 단일 모델만 사용하는 대신 상호 보완적인 강점을 지닌 모델들을 복합 배치했다. 모델들이 후보 증명을 생성하면 이를 자체 점수화하고 비판 의견을 도출한 뒤 가장 유망한 초안을 정제하는 다단계 루프를 거쳤다. 이후 별도의 고연산 선택 단계를 통해 최종 답안을 확정하는 방식으로 작동했다.

개발자 생태계 영향과 공개 자원

연구진은 이번 결과를 외부 개발자와 연구진이 재현하고 활용할 수 있도록 허깅페이스와 깃허브를 통해 자원을 공개했다. 수학 분야에서는 SFT 및 RL 체크포인트, 학습용 데이터셋, 200개 올림피아드급 문제로 구성된 네모트론 IMO 벤치(Nemotron-IMO-Bench)가 묶음 형태로 배포되었다. 프로그래밍 분야 역시 네모트론 3 울트라 CC 모델이 공개되었으며, 상세 학습 방법론이 정리된 연구 논문이 함께 제공된다.

또한 추론 파이프라인, 프롬프트, 실제 제출 증명, 실행 환경 구성을 위한 빠른 시작 가이드는 네모 스킬스(NeMo-Skills) 저장소에 포함되었다. 개발자들은 별도의 상용 정형 증명 도구 없이도 자연어 기반 추론 파이프라인을 구축하고 오픈 가중치 모델을 고난도 논리 문제에 맞게 확장할 수 있는 참고 자료를 확보하게 되었다.

운영 조건과 시스템적 한계

이번 성과는 특정 제약과 실험 환경 안에서 달성되었다. IOI 2026의 경우 인간 참가자와 동일한 시간, 제출 횟수, 인터넷 접속 차단 조건을 적용한 라이브 실행이었으나, 공식 대회 순위에 정식 등록된 것이 아닌 비공식·비감독 벤치마크 평가였다. 반면 IMO 결과는 공식 채점관의 채점을 거쳤으나 리인(Lean) 같은 정형 검증기를 전혀 쓰지 않고 순수 자연어 추론만으로 처리했다는 특성이 있다.

또한 고성능 달성을 위해서는 모델 파인튜닝뿐만 아니라 여러 단계의 후보 생성, 검증, 비판, 정제를 반복하는 고비용 추론 연산 루프가 수반되어야 한다. 단순 샘플링 확대나 단일 모델 호출만으로는 올림피아드 수준의 정확도에 도달하기 어렵다는 점이 확인되었으며, 대형 모델 학습과 추론 피드백 루프 운영에 상당한 컴퓨팅 자원이 필요하다는 실질적 제약이 존재한다.