문샷 AI의 Kimi K3.1 Pro 고속 모델, 아마존 베드록 공식 출시

Kimi K3.1 프로 고속 모델 출시

문샷 에이아이의 신규 인공지능 모델인 키미 케이3.1 프로 고속 버전이 아마존 베드록에 공식 출시되었다. 이 모델은 기존 키미 케이3의 3조 급 개방형 가중치 구조와 100만 토큰 문맥 창을 그대로 계승하면서도 사후 학습 연산량을 크게 늘려 완성도를 끌어올린 것이 특징이다. 개발사 발표에 따르면 출력 토큰 생성 속도가 기존 키미 케이3.1 프로와 비교해 2배에서 3배가량 빨라졌다.

이번 모델은 긴 주기를 요하는 에이전트 작업의 안정성을 높이고 사실적 오류를 줄이는 데 집중하여 추가 학습을 거쳤다. 금융 모델링과 업무 문서 작성뿐만 아니라 게임 엔진, 3차원 장면 처리, 컴퓨터 지원 설계용 스크립트 작성 같은 전문 개발 작업에서도 향상된 성능을 발휘한다. 기존에 키미 케이3을 이용하던 개발자는 동일한 호출 규격을 유지하면서 모델 식별자만 변경하여 즉시 적용할 수 있다.

유연한 호출 방식과 추론 제어

해당 모델은 아마존 베드록 환경에서 대화 완성 인터페이스, 응답 인터페이스, 대화 전용 인터페이스, 기본 호출 인터페이스 등 폭넓은 방식을 통해 연동할 수 있다. 요청 분산의 경우 지원되는 전 세계 상용 리전으로 유연하게 라우팅하여 토큰당 비용을 낮추는 글로벌 추론 프로필을 기본으로 권장한다. 데이터 거주성 준수가 필수적인 환경을 위해서는 처리를 미국이나 인도 리전 내부로 한정하는 지역 전용 프로필도 함께 제공된다.

모델은 답변을 생성하기 전에 항상 내부 추론 과정을 거치도록 설계되었으며 사용자가 그 강도를 조절할 수 있다. 추론 강도는 낮음, 높음, 최대의 세 단계로 나뉘며 별도로 지정하지 않으면 최대 강도로 동작한다. 단순한 작업을 처리할 때는 추론 강도를 낮추어 설정하는 것이 지연 시간을 단축하고 출력 토큰 사용량을 억제하는 가장 효과적인 방법이다.

비용 절감과 캐시 최적화

운영 비용을 절감할 수 있는 수단으로 일반 표준 가격의 절반 수준으로 제공되는 플렉스 서비스 계층을 지원한다. 플렉스 계층은 응답 완료까지 걸리는 시간이 다소 길어질 수 있으므로 즉각적인 응답보다는 비용 절감이 중요한 모델 평가, 문서 요약, 백그라운드 에이전트 작업에 유리하다. 사용자는 개별 요청마다 서비스 계층을 다르게 지정할 수 있어 지연 시간에 민감한 작업과 비용 효율이 중요한 작업을 단일 애플리케이션 안에서 혼합하여 구성할 수 있다.

반복 입력 문맥의 처리 효율을 높여 주는 명시적 프롬프트 캐싱 기능도 갖추었다. 시스템 지침이나 도구 정의처럼 변하지 않는 고정 문맥 뒤에 캐시 중단점을 설정하면 최소 256토큰 이상의 입력 문맥이 최소 30분 동안 캐시에 보관된다. 캐시를 최초 기록할 때는 표준 입력보다 높은 요금이 부과되지만 이후 캐시를 재사용하는 읽기 작업은 대폭 할인된 단가가 적용되며 분당 입력 토큰 처리 한도에도 포함되지 않는다.

터미널 코딩 연동과 보안 환경

오픈소스 모델 독립형 터미널 코딩 도구인 오픈코드와 연결하여 개발 보조 에이전트로 활용하는 방안도 제시되었다. 소프트웨어 개발 에이전트는 코드베이스 검토, 수정 계획 수립, 편집, 테스트 검증, 오류 수정을 연쇄적으로 반복하기 때문에 출력 토큰 생성 속도가 전체 작업 소요 시간을 결정한다. 높은 토큰 출력 속도는 단계별 대기 시간을 줄여 전체 수정과 검증 주기를 가속한다.

기업 환경을 위한 데이터 보안과 거버넌스 체계도 견고하게 유지된다. 모든 데이터는 클라우드 서비스 제공자의 보안 경계 안에서만 처리되며 모델 제조사와 공유되거나 모델 재학습에 활용되지 않는다. 추론 요청에 대한 데이터 비보존 정책이 상시 적용되고 클라우드 운영자의 데이터 열람 역시 차단된다. 다만 명시적 프롬프트 캐싱은 대화 완성, 응답, 기본 호출 인터페이스에서만 지원되고 대화 전용 인터페이스에서는 사용할 수 없다는 기술적 제약이 존재한다.