메타, 머신러닝 피처 배포와 공유 실행을 분리한 에프쓰리 라이트닝 공개

개별 배포와 공유 실행의 분리

메타가 대규모 광고 랭킹 머신러닝 시스템의 피처 배포 주기를 단축하기 위해 차세대 인프라 계층인 에프쓰리 라이트닝(F3 Lightning)을 공개했다. 기존 에프쓰리(F3)는 단일 요청당 2만 개 이상의 피처를 처리하기 위해 전체 피처를 하나의 통합 그래프로 묶어 배포했으나, 새 시스템은 배포 경계와 실행 경계를 분리하여 피처별 독립 배포 체계를 구축했다. 이를 통해 연산 인프라 비용의 증가 없이 피처의 프로덕션 반영 속도를 기존 대비 약 3.6배 단축하는 데 성공했다.

프로덕션 머신러닝 시스템은 예측 모델에 원시 데이터를 직접 입력하지 않고 이벤트 필터링, 기간 집계, 정규화 등 다양한 전처리 과정을 거쳐 피처를 생성한다. 종전에는 주간 클릭 수와 주간 노출 수처럼 동일한 이벤트 소스와 시간 필터를 공유하는 피처들이 중복 연산을 피할 수 있도록 컴파일 시점에 단일 그래프로 병합되어 실행되었다. 에프쓰리 라이트닝은 피처 단위의 독립적인 컴파일과 배포를 지원하면서도 실행 단계에서 공유 연산의 이점을 온전히 보존하도록 재설계되었다.

통합 그래프 배포 방식의 한계

2020년에 처음 도입된 에프쓰리는 피처 추출 과정을 방향성 비순환 그래프로 구성하고 서비스 전체 피처를 하나의 거대한 그래프로 통합해 실행 비용을 낮췄다. 엔지니어가 고수준 언어로 피처를 작성하면 컴파일러가 중복 노드를 단일 작업으로 축약해 요청당 한 번만 연산하도록 최적화했다. 초기 수백 개 피처를 운영할 때는 원활하게 동작했으나, 피처 규모가 2만 개를 넘어서면서 통합 그래프 배포 단위 자체가 시스템의 심각한 병목으로 변모했다.

통합 그래프 구조에서는 단 하나의 피처 정의에 오류가 포함되어도 전체 배포 파이프라인이 중단되는 전부 아니면 전무 방식의 위험이 상존했다. 이미 운영 중인 모델에 투입되는 피처는 고비용의 모델 검증 단계를 거쳐야 하므로 다른 정상 피처들까지 배포가 지연되는 문제가 발생했다. 빌드 시도마다 서로 다른 피처의 결함에 가로막혀 배포 주기가 늘어났고, 배포 속도를 개선하기 위한 반복적인 패치 역시 피처 수 증가에 따라 효과가 점차 상쇄되었다.

연산 효율을 살린 네 가지 최적화

피처를 독립 배포 단위로 단순 분리했던 초기 시제품에서는 피처 간 연산 공유가 사라져 중앙처리장치(CPU) 사용량이 급격히 증가했다. 메타는 컴파일 단계의 선행 조건 하나와 서비스 구동 단계의 최적화 세 가지를 결합해 기존 에프쓰리 수준의 효율성을 회복했다. 먼저 컴파일러가 연산 동작, 매개변수, 상류 입력 식별자를 바탕으로 고유한 불변 식별자를 도출하도록 하여, 서로 다른 시점에 배포된 피처라도 동일한 연산이면 동일한 식별자를 부여받도록 구성했다.

서비스 시작 시점에는 모든 활성 피처 설정을 위상 정렬하여 단일 실행 계획을 수립하고 동일 식별자를 가진 중복 노드를 하나로 통합했다. 런타임 요청마다 포인터를 따라 그래프를 순회하지 않도록 실행 계획을 순차 목록 형태로 평탄화하여 한 번의 전진 탐색으로 처리를 끝내도록 개선했다. 특정 연산이 실패하거나 입력을 얻지 못할 경우 해당 노드의 하류 작업만 비활성 처리하고 무관한 독립 분기는 정상 실행을 이어가는 결함 격리 체계도 갖췄다.

아울러 개별 피처 컨테이너로 분산되어 캐시 미스를 유발하던 메모리 구조를 요청당 단일 공유 버퍼로 일원화해 데이터 연속성과 캐시 국소성을 확보했다. 빈 값과 미계산 상태를 명확히 구분하는 독립적인 준비 완료 벡터를 도입하고, 목록이나 맵 형태의 복합 데이터는 단일 메모리 참조를 공유시켜 중복 복사를 방지했다. 마지막으로 고유 식별자를 연속된 정수 슬롯에 사전 할당하여, 런타임 요청 경로에서 해시 테이블 검색 없이 배열 인덱스로 버퍼에 직접 접근하도록 최적화했다.

성능 개선 성과와 아키텍처 교훈

에프쓰리 라이트닝의 도입으로 메타의 피처 서빙 시스템은 인프라 연산 자원을 추가로 소모하지 않고도 프로덕션 도달 시간을 기존 대비 약 3.6배 앞당겼다. 각 피처가 독립적인 큐에서 영향도와 위험도에 따라 우선순위대로 배포되므로, 신규 피처는 빠른 표준 검증을 거쳐 즉시 운영에 반영할 수 있게 되었다. 이처럼 짧아진 릴리스 주기는 동일한 기간 동안 광고 랭킹 모델의 재학습과 반복 검증 횟수를 크게 늘리는 결과로 연결되었다.

메타는 이번 아키텍처 전환을 통해 컴포넌트의 배포 단위와 실행 단위를 분리해야 결함 전파를 차단하고 릴리스 속도와 효율성을 동시에 확보할 수 있다는 결론을 제시했다. 또한 중복 작업 식별, 실행 순서 결정, 메모리 주소 매핑처럼 요청마다 변하지 않는 작업은 서비스 시작 시점으로 이전해야 런타임 지연을 줄일 수 있음을 확인했다. 현대 프로세서 구조에서는 단순 연산 횟수의 절감뿐만 아니라 메모리 배치와 캐시 활용 방식이 시스템의 실제 연산 비용을 결정하는 핵심 요소라는 기술적 통찰을 도출했다.