아마존 베드록, AI 개발 도구 대상 사용자별 비용 추적 및 제어 기능 지원

사용자별 비용 추적 도입

아마존웹서비스는 아마존 베드록 환경에서 구동되는 인공지능 개발 도구와 생산성 도구의 추론 호출을 사용자 식별자 단위로 추적하는 비용 귀속 방식을 정리했다. 별도의 도구 내부 코드 수정이나 자체 인증 스크립트 없이도 엔드포인트 계층에서 호출 주체를 자동으로 식별하여 비용 보고서와 비용 분석기에 전달한다. 이를 통해 조직은 개발자 1인당 실제 인공지능 지출 규모와 부서별 비용 기여도를 명확하게 파악할 수 있다.

기존 환경에서는 로컬 작업 공간에서 실행되는 인공지능 도구들이 공용 역할을 맡아 호출하면서 모든 비용이 단일 주체로 합산되어 사용자별 구분이 불가능했다. 또한 게이트웨이를 경유할 때도 대리 역할로 통합 기록되어 팀별 비용 효율성을 검증하거나 적정 예산을 산출하기 어려웠다. 이번 방식은 신원 센터를 매개로 사용자의 실제 계정명을 세션 식별자로 전달함으로써 이러한 사각지대를 해소한다.

신원 연동과 처리 구조

사용자 추적은 아마존 신원 센터를 외부 신원 공급자와 연결하고 조직 속성을 세션 태그로 매핑하는 것에서 시작한다. 외부 인증 체계와 사용자 동기화 프로토콜을 연결하면 팀이나 부서 같은 조직 정보가 세션 태그로 전달되어 런타임과 프로젝트 관리용 두 엔드포인트 호출에 모두 반영된다. 사용자가 단일 로그인 인증을 거치면 중앙 정책에 따라 발급된 세션 권한으로 각 모델에 접근하게 된다.

베드록은 추론 호출이 일어날 때마다 호출자의 고유 자원 식별자와 세션 이름을 수집하여 비용 및 사용 보고서의 주체 열에 집계한다. 보고서에는 시간별 또는 일별 주기 단위로 사용량이 기록되며 입력, 출력, 캐시 읽기, 캐시 쓰기 등 토큰 유형별로 행이 세분화되어 청구된다. 다만 보고서는 요청 단위의 상세 비용을 담지 않으므로 개별 질문 수준의 세부 토큰 확인이 필요한 경우에는 모델 호출 로그나 요청 메타데이터 태깅을 함께 활용해야 한다.

도구 설정 및 데이터 분석

클로드 데스크톱, 클로드 코드, 코덱스 등 다양한 인공지능 도구는 엔드포인트 설정과 단일 로그인 프로필을 지정하여 베드록으로 연결할 수 있다. 도구들은 표준 자격 증명 체계를 읽어 호출을 수행하므로 도구 자체의 별도 기능 개작 없이 엔드포인트 단에서 추적이 상속된다. 다만 환경 변수에 전용 인증 토큰이 설정되어 있으면 단일 로그인 대신 해당 토큰의 주체로 비용이 귀속되므로 사용자별 추적을 위해서는 이를 해제해야 한다.

수집된 비용 데이터는 쿼리 서비스를 활용해 열 지향 저장 형식으로 보관된 보고서를 조회함으로써 사용자 및 비용 센터별 지출 추세를 집계할 수 있다. 기본 비용 분석 도구를 사용해 별도 구축 없이 활성화된 태그 기준으로 비용을 시각화할 수도 있으며 전용 대시보드 프레임워크나 외부 시계열 시각화 도구와 연계해 이상 지출을 감지하는 체계를 구축할 수 있다.

사용량 제어와 한계

비용 가시성을 확보한 후에는 과도한 지출을 방지하기 위해 네 가지 제어 방식을 지연 시간과 복잡도에 따라 조합한다. 가장 가벼운 예산 기반 조치는 기준 초과 시 거부 정책을 적용할 수 있으나 지출 데이터 반영에 최대 24시간이 걸려 단기 급증을 즉각 막지 못한다. 반면 모니터링 경보와 서버리스 함수를 활용하면 수 분 내로 감지할 수 있고, 세션 갱신 시점에 사용량을 차단하거나 프록시 게이트웨이를 두어 요청 단위로 차단하는 방식까지 다계층으로 배치할 수 있다.

이 구성은 비용 할당 태그를 활성화한 시점부터 적용되며 이전 사용 내역에는 소급 적용되지 않는 제약이 있다. 태그 상태 변경 후 비용 보고서와 분석 도구에 완전히 반영되기까지 최대 48시간이 소요될 수 있다는 점도 고려해야 한다. 따라서 조직은 장기적인 보고서 분석에만 의존하지 않고 실시간 지표 기반의 경보나 게이트웨이 제어 체계를 상호 보완적으로 운영해야 지출 누수를 효과적으로 차단할 수 있다.