클라우드플레어, 오픈소스 의사결정 모델 Clef 및 강화 학습 미세 조정 플랫폼 공개

클라우드플레어, 새로운 의사결정 모델 Clef 공개

클라우드플레어는 Workers AI에 호스팅되는 새로운 오픈소스 의사결정 모델 Clef와 Clef-flash를 출시했다. 이와 함께 고객이 Clef 모델을 특정 사용 사례에 맞게 미세 조정할 수 있는 강화 학습(RL) 플랫폼도 함께 선보였다. Clef 모델은 Typesafe AI의 Jev System One 모델과 같은 기존 의사결정 모델과 유사한 기능을 제공하면서도, 더 빠르고 스마트하며 Jev-API와 완전 호환되는 특징을 갖는다.

특히 Clef는 이미지 및 시각 콘텐츠를 분류할 수 있는 비전 인코더를 포함하며, 기존 Jev 모델의 32k 컨텍스트 윈도우보다 두 배 큰 64k 컨텍스트 윈도우를 제공하여 더 많은 입력 상태를 처리할 수 있다. 이 모델들은 Apache 2.0 라이선스 하에 Hugging Face에 오픈소스로 공개되어 개발자들이 로컬 환경에서 직접 실행하고 실험할 수 있도록 지원한다.

의사결정 모델의 필요성과 Clef의 개발 배경

최근 인공지능 분야에서는 Typesafe AI의 Jev System One 모델과 같은 의사결정 모델에 대한 관심이 높아지고 있다. 이러한 모델들은 기존 분류 모델과 달리, 새로운 분류 범주를 통합하기 위한 지속적인 재훈련 없이도 다양한 입력에 대해 저렴하고 빠르며 일관된 구조화된 출력을 생성한다. 이는 비결정적이고 개방형인 대규모 언어 모델(LLM)이 추론 및 텍스트 생성에는 뛰어나지만, 빠르고 결정적인 의사결정에는 한계가 있다는 점과 대조된다.

클라우드플레어는 이러한 의사결정 모델의 필요성을 인식하고 자체적인 모델 개발을 진행해왔다. 내부적으로는 위협 인텔리전스 팀에서 Clef 모델을 활용하여 웹사이트 도메인을 분류하는 실험을 수행했다. 이 실험에서 Clef는 도메인 분류에 2.2초가 소요되어, 동일한 워크플로우에서 4.7초가 걸리고 두 가지 분류만 반환했던 LLM gpt-oss-120b 대비 두 배 빠른 속도와 더 많은 분류 결과를 보여주었다. 클라우드플레어는 이러한 모델이 에이전트 기반 워크플로우에서 자율적인 의사결정, 추론 및 실행을 가능하게 할 것으로 기대한다.

Clef 모델의 기술적 특징 및 성능

Clef 모델은 Qwen을 기반 모델로 사용하며, Clef는 Qwen3.8-27B를, Clef-flash는 Qwen3.5-9B를 백본으로 한다. 추론 과정에서 Clef는 Qwen을 prefill-only 패스에 활용한 후, 유효한 스키마 선택 사항을 병렬로 점수화한다. 의사결정 단계는 비자동회귀(non-autoregressive) 방식으로, 토큰별 중간 텍스트 생성이 없어 자동회귀 LLM보다 훨씬 빠르다. Clef와 Clef-flash는 중간 텍스트를 생성하는 대신 내부 백본 표현에서 스키마 선택을 직접 도출한다.

Clef 모델은 Jev Decision Index 평가에서 여러 벤치마크 항목에서 선두를 차지했다. 예를 들어, BFCL · case exact 벤치마크에서 Clef는 98.47, Clef-flash는 98.76을 기록하여 Jev의 95.75보다 높은 점수를 얻었다. 지연 시간 측면에서도 Clef는 중앙값 209.3ms, Clef-flash는 38.8ms를 기록하여 Jev의 524.1ms보다 현저히 빠른 성능을 보였다.

개발자 및 사용자에게 미치는 영향

개발자들은 Workers AI에 호스팅된 Clef 모델을 활용하여 고객 지원 메시지 분류, 티켓 라우팅, 에스컬레이션 트리거 등 다양한 에이전트 의사결정 워크플로우를 구축할 수 있다. Clef는 Jev와 유사하게 엄격하게 유형화된 출력을 생성하며 Jev API와 완전 호환되므로, 기존 Jev 사용자는 쉽게 전환하여 활용할 수 있다. 또한, Hugging Face에 공개된 오픈소스 모델을 통해 로컬 환경에서 자유롭게 실험하고 개발할 수 있는 기회를 얻는다.

클라우드플레어의 엣지 GPU를 활용하는 Workers AI에 호스팅됨으로써, Clef 모델은 낮은 네트워크 지연 시간으로 빠른 의사결정을 가능하게 한다. 이는 에이전트가 의사결정을 내리는 핵심 경로에 Clef를 통합하고, Workers AI의 LLM과 결합하여 실제 행동을 취하는 강력한 에이전트 워크플로우를 구현할 수 있음을 의미한다. 기업 고객에게는 요청 및 응답 데이터를 읽거나 저장하거나 훈련하지 않는다는 보장을 제공하여 데이터 보안에 대한 우려를 덜어준다.

Clef 미세 조정 플랫폼 및 활용 조건

클라우드플레어는 고객이 Clef 모델을 특정 워크로드에 맞게 미세 조정할 수 있는 강화 학습(RL) 플랫폼을 제공한다. 초기에는 클라우드플레어의 FDE(Forward-Deployed Engineer) 팀과의 협력을 통해 맞춤형 미세 조정 서비스를 제공하며, 향후 고객이 직접 데이터를 캡처하고 모델을 미세 조정하며 클라우드플레어에 재배포할 수 있는 셀프 서비스 플랫폼으로 확장할 계획이다.

이 미세 조정 서비스는 클라우드플레어 AI Gateway를 통해 AI 트래픽을 통과시켜 사용 사례에 맞는 요청 데이터셋을 자동으로 생성하고, Workers AI를 통해 기본 Clef 모델에 대한 롤아웃을 생성하며, 클라우드플레어 Containers를 RL 샌드박스로 활용한다. 이를 통해 고객은 특정 도메인에서 더 높은 정확도를 얻기 위해 모델을 최적화할 수 있다. 클라우드플레어는 15년 이상의 네트워크 데이터를 기반으로 내부 팀과 협력하여 Clef 모델을 후처리 훈련하여 클라우드플레어 전반의 워크플로우를 개선하는 데 활용하고 있다.

현재 Clef 모델은 초기 단계에 있으며, 클라우드플레어는 특정 사용 사례를 가진 기존 고객들과 협력하여 디자인 파트너십을 구축하고 이 분야에서 지속적으로 실험하고 개선해 나갈 예정이다.