코너스톤, 아마존 베드록 기반 다중 에이전트로 데이터베이스 진단 시간 78% 단축

다중 에이전트 도입 개요

글로벌 인력 솔루션 기업 코너스톤 온디맨드가 아마존 베드록(Amazon Bedrock)과 오픈소스 에이전트 오케스트레이션 프레임워크인 스트랜즈 에이전츠(Strands Agents)를 기반으로 다중 에이전트 인공지능 시스템 오리온 AI(Orion AI)를 구축했다. 3인 규모의 엔지니어링 팀이 6개월 동안 개발한 이 시스템은 데이터베이스 운영을 사후 장애 대응 방식에서 사전 예방적 워크플로로 전환했다.

오리온 AI 도입 이후 데이터베이스 인시던트 진단 소요 시간은 기존 45분에서 10분으로 약 78% 감소했다. 10단계 이상 이어지던 수동 데이터베이스 수명 주기 관리 작업은 단 한 번의 자연어 상호작용으로 축소되어 작업 단계가 70% 줄었으며, 사이트 신뢰성 공학(SRE) 팀과 데이터 팀 사이의 15분 보고 지연은 실시간 수준으로 개선되었다. 또한 중복 경보는 중간값 기준 65% 걸러져 기존 10건 중 3~4건만 엔지니어에게 도달한다.

수동 운영의 한계와 배경

오리온 AI 개발 전 코너스톤 엔터프라이즈 데이터옵스 팀은 여러 도구와 시스템 뷰를 넘나들며 블로킹 체인과 대기 유형을 조회하고 로그를 대조하는 데 인시던트당 평균 45분을 소비했다. 데이터베이스 연결 수립부터 다중 시스템 쿼리 실행, 진행 상황 공유에 이르는 수명 주기 관리 작업 역시 10단계 이상의 수동 개입이 불가피했다.

팀 간 소통 지연과 과도한 경보 노이즈도 문제였다. SRE 팀과 데이터 팀 간의 동기화에 15분 단위의 시차가 발생했고, 겹치거나 불필요한 알람이 쏟아지며 실제 중요한 신호가 묻히는 경보 피로 현상이 심화되었다. 이에 따라 엔지니어들은 근본 문제 해결보다 수동 작업 조율과 도구 전환에 대부분의 시간을 쏟아야 했다.

허브 앤 스포크 아키텍처

오리온 AI는 작업 실행자 역할을 하는 단일 메타 오케스트레이터 허브와 독립된 스포크 에이전트들로 구성된 허브 앤 스포크 위상을 갖췄다. 중앙 허브는 도메인 도구를 갖지 않고 에이전트 검색, 호출, 계획 수립, 확인 게이트 발행 등 제어 흐름 도구만을 다룬다. 스포크 에이전트들은 지연 적재 방식으로 등록되어 각자의 기반 모델과 전용 도구, 시스템 프롬프트를 유지하며 도구 호출 루프를 독립적으로 수행한다.

시스템은 전체 13개의 도메인 전용 에이전트로 나뉘어 작동한다. 특히 데이터베이스 분야에서는 현상을 분석하고 기술적 내용을 비즈니스 영향과 권고안으로 변환하는 진단 에이전트, 추론 모델로 루트 블로커를 추적해 즉각적인 세션 종료부터 장기적 개선책을 제시하는 세션 블로킹 분석 에이전트, 코너스톤 내부 데이터옵스 API를 통해 실시간 데이터를 직접 확인하는 실시간 진단 에이전트 등 3개 에이전트가 역할을 분담한다. 그 외에도 인프라 모니터링, 운영 분석, 가용성 그룹 리스너 확인 등을 담당하는 에이전트들이 좁은 소유권을 가진다.

라우팅과 3단계 메모리

오리온 AI는 인메모리 키워드 매칭을 우선 적용하고 모호한 질의에만 시맨틱 검색으로 전환하는 하이브리드 라우팅 방식을 채택했다. 전체 질의의 약 80%는 1밀리초 미만의 키워드 빠른 경로로 처리되며, 의미 파악이 필요할 때는 아마존 타이탄 텍스트 임베딩스 V2(Amazon Titan Text Embeddings V2)를 활용한다. 도구 직접 호출이 부적절할 경우 아마존 베드록 지식 기반(Knowledge Bases) 검색 증강 생성(RAG)으로 운영 절차서를 조회한다.

컨텍스트 관리는 3단계 메모리 계층으로 이뤄진다. 동일 세션 컨텍스트는 아마존 다이나모DB(Amazon DynamoDB)에 암호화 저장되고 아마존 노바 2 라이트(Amazon Nova 2 Lite)가 대화 요약을 비동기 생성한다. 장기 메모리는 아마존 베드록 에이전트코어(AgentCore) 메모리를 통해 사용자 식별자 단위로 격리 관리되며, 작업 완료 시 이벤트 생성을 호출해 자동 요약·통합된다. 세부 단계 사이의 임시 결과는 에이전트 간 메모리 스크래치패드가 전달한다. 중앙 메모리 관리자는 500밀리초 제한 시간과 4000토큰 예산 안에서 LRU 캐시를 활용해 데이터를 조회한다.

안전 장치와 인프라 제약

엔터프라이즈 데이터베이스의 안정성을 확보하기 위해 일반적인 유해 콘텐츠 필터 대신 4계층 맞춤형 가드레일을 적용했다. 각 에이전트 프롬프트에 중요 프로세스 종료를 금지하는 안전 제약을 주입했고, 시스템 변경 작업 전에는 5분 제한 시간을 가진 인간 참여형 승인 단계를 거치도록 설계해 시간 초과 시 거부를 기본값으로 뒀다. 이와 함께 입력 유효성 검사, SQL 주입 방지, 비밀값 마스킹, 역할 기반 접근 제어, 단일 요청당 비용 추적을 수행한다.

시스템은 아마존 일래스틱 컨테이너 서비스(Amazon ECS)에 컨테이너화되어 배포되었다. 프로젝트 착수 당시 완전 관리형 런타임인 아마존 베드록 에이전트코어 런타임 환경이 제공되지 않아 ECS 인프라를 선택했으며, 현재 향후 이전 가능성을 검토하고 있다. 또한 데이터 오염을 막기 위해 현재 시스템 상태를 묻는 운영 질의에는 대화 메모리를 완전히 우회하고 라이브 도구 조회를 강제하는 제약 규칙을 두고 있다.