AWS, 생성형 AI 솔루션 개발 가속화 위한 재사용 가능한 자산 23종 공개

생성형 AI 개발의 변화

AWS Generative AI Innovation Center(현재 AWS Frontier AI Engineering & Services 소속)는 생성형 AI 솔루션 개발을 가속화하기 위해 23종의 재사용 가능한 오픈소스 자산을 공개했다. 이 자산들은 검색 증강 생성(RAG) 파이프라인, 문서 처리 모듈, 에이전트 스캐폴딩 등 생성형 AI 솔루션 구축 시 반복적으로 개발되던 구성 요소를 대체한다.

이러한 프로덕션 등급의 빌딩 블록은 개발 시간을 수개월에서 수주로 단축하는 데 기여하며, 도어대시, 리프트, 리코와 같은 기업들이 이미 측정 가능한 성과를 달성했음을 입증한다. 2023년부터 공개된 이 자산들은 고객 솔루션에 적용되어 테스트 용량 50배 증가, 엔지니어링 시간 90% 감소, 배포 기간 단축 등의 결과를 가져왔다.

반복 개발 문제의 배경

생성형 AI 개발팀이 구성 요소를 반복적으로 재구축하는 주요 원인은 세 가지로 분석된다. 첫째, 자산이 여러 리포지토리, 위키, 드라이브에 분산되어 있어 개발자들이 기존 자산을 찾지 못하고 처음부터 다시 구축하는 경우가 많다. 둘째, 프로덕션 준비 상태, 보안 검토, 유지보수 상태에 대한 품질 신호가 없어 기존 솔루션을 신뢰하기 어렵기 때문에 자체 코드를 작성하게 된다.

셋째, 비공식적이고 관리되지 않는 공유 문화로 인해 한 팀이 구축한 솔루션이 해당 팀에만 머무르며 문제가 반복적으로 해결된다. 이러한 반복 개발은 엔지니어링 시간 소모, 고객 서비스 지연, 유지보수 부담 증가로 이어진다. AWS Frontier AI Engineering & Services는 이러한 문제를 해결하기 위해 검증되고 보안 검토를 거친 프로덕션 등급의 재사용 가능한 자산을 제공한다.

재사용 자산의 구체적 내용

재사용 가능한 자산은 단순한 코드 스니펫이나 샘플이 아니다. 이는 특정 생성형 AI 기능을 구현하는 프로덕션 등급의 구성 가능한 빌딩 블록이다. 이 자산들은 공개 전에 품질 및 보안 검증을 거치며, 명확한 배포 가이드를 포함하고 고객 참여 전반의 채택을 추적하도록 계측된다. 또한, 자산의 전체 수명 주기 동안 유지보수된다.

자산 카탈로그에는 RAG 파이프라인 구성 요소, 문서 수집 모듈, 에이전트 스캐폴딩 템플릿, 평가 프레임워크, 프롬프트 관리 패턴 등이 포함된다. 이 자산들은 프로덕션 환경에서 테스트되고 보안 규정 준수 검토를 거치며 실제 고객 피드백을 기반으로 개선된다.

고객 성공 사례로, 도어대시는 'Contact Center GenAI Agent' 자산을 활용하여 음성 기반 셀프서비스 생성형 AI 컨택 센터 솔루션을 구축했다. 이 솔루션은 하루 10만 건 이상의 통화를 2.5초의 응답 지연 시간으로 처리하며 테스트 용량을 50배 증가시켰다. Amazon Bedrock을 사용하여 개발 시간을 50% 단축하고 2개월 만에 라이브 테스트 준비를 완료했다. 리프트 또한 동일한 자산을 활용하여 에이전트 AI를 구현했다.

새롭게 출시된 에이전트 AI 자산으로는 'Fullstack AgentCore Solution Template (FAST)'과 'Agentic Chatbot Accelerator'가 있다. FAST는 Amazon Bedrock AgentCore에 연결된 보안 React 프론트엔드를 빠르게 배포하는 스타터 프로젝트로, 인프라스트럭처 애즈 코드(IaC)를 사용하여 30분 이내에 배포된다. Agentic Chatbot Accelerator는 AWS Cloud Development Kit(AWS CDK)를 활용하여 에이전트 챗봇을 구축하는 웹 애플리케이션 배포 솔루션이다.

AWS는 문서 처리 및 추출(5종), 컨택 센터 및 음성(5종), 에이전트 AI 및 챗봇(4종), RAG 및 지식 기반(4종), 개발 및 마이그레이션(3종), 인프라 및 운영(2종) 등 총 23종의 재사용 가능한 자산을 오픈소스로 제공한다. 각 자산에는 배포 가이드, 샘플 코드, 문서가 포함되어 있다.

개발자 및 사용자 영향

재사용 가능한 자산의 활용은 개발팀이 반복적인 기반 작업에 소요되는 시간을 줄이고, 도메인별 맞춤화, 프롬프트 엔지니어링, 비즈니스 로직 통합과 같은 고부가가치 작업에 집중할 수 있도록 돕는다. 이는 솔루션의 차별화를 가능하게 하며, 개발 기간을 수개월에서 수주로 대폭 단축하는 효과를 가져온다.

또한, 이 자산들은 AWS Generative AI Innovation Center의 검증을 거쳐 품질과 보안이 확보된 상태로 제공되므로, 개발팀은 자체적으로 보안 검토나 프로덕션 준비 작업을 수행하는 부담을 덜 수 있다. 이를 통해 개발팀은 검증된 기반 위에서 빠르게 솔루션을 구축하고 배포할 수 있다.

적용 조건 및 한계

이 자산들을 활용하기 위해서는 AWS 계정, AWS CLI, Amazon Connect 인스턴스, Amazon Bedrock에서 Anthropic Claude Sonnet 및 Anthropic Claude Haiku에 대한 접근 권한, Jupyter 노트북 환경 등이 필요하다. AWS CloudFormation 스택, Amazon Connect 인스턴스, Amazon Bedrock 리소스, Amazon QuickSight 대시보드를 생성할 수 있는 권한이 있는 AWS 계정이 요구된다.

모든 자산은 GitHub 및 AWS Labs에서 오픈소스로 제공되며, 각 자산에는 배포 가이드, 샘플 코드, 문서가 포함되어 있다. 사용자는 자산을 선택하고 관련 문서를 검토한 후 리포지토리를 복제하여 배포 지침에 따라 사용자 환경에 맞게 사용자 정의할 수 있다. 필요한 경우 AWS Frontier AI Engineering & Services 팀의 자문 지원을 받을 수 있다.

이 자산들은 개발자의 작업을 완전히 대신하는 것이 아니라, 이미 완료된 작업을 다시 하지 않도록 보장하는 데 중점을 둔다. 따라서 도메인별 맞춤화, 프롬프트 엔지니어링, 기존 시스템과의 통합 등 솔루션의 핵심적인 차별화 요소를 구현하기 위한 개발자의 노력은 여전히 필요하다.