구글 딥마인드와 싱가포르 정부, 온디바이스 스캠 탐지 AI 모델 공동 개발

무엇이 어떻게 달라졌는가

Google DeepMind와 싱가포르 정부 기술청(GovTech Singapore)은 협력하여 개인 정보 보호 기능을 갖춘 온디바이스 스캠 탐지 AI 모델을 개발했다고 2026년 10월 14일 발표했다. 이 모델은 기존의 서버 기반 위협 탐지 방식과 달리, 사용자 기기에서 직접 대화 데이터를 처리하여 스캠을 식별한다. 이를 통해 개인 정보 침해 없이 실시간으로 조작적 의도를 감지하고, 사용자가 금융 또는 자격 증명 노출 전에 조치를 취할 수 있도록 돕는다. 개발된 모델은 Google의 경량 Gemma 모델을 기반으로 하며, 싱가포르 현지의 스캠 대화 패턴에 맞춰 미세 조정되었다.

변화의 배경과 맥락

이번 협력은 싱가포르 내 스캠 범죄의 심각성에 대응하기 위해 이루어졌다. 2019년 이후 싱가포르에서는 스캠으로 인한 피해액이 S$40억을 넘어섰으며, 이는 전체 신고된 범죄의 절반 이상을 차지한다. 특히 스캠 수법이 단순한 피싱에서 복잡한 사회 공학 기법으로 진화하면서, 설득력 있는 대화를 통해 피해자를 조작하는 방식이 전체 손실의 최대 80%를 차지하는 상황이다. 일반적인 AI 모델은 이러한 현지 특유의 기만 전술을 탐지하는 데 어려움을 겪기 때문에, 싱가포르 정부는 Google DeepMind와의 국가 AI 파트너십을 통해 이러한 문제를 해결하고자 했다.

구체적인 동작 방식과 개발 과정

이 스캠 탐지 모델은 사용자 동의 하에 온디바이스 대화에만 접근하며, 싱가포르 정부나 Google 모두 모델 배포를 통해 사용자 대화에 접근할 수 없도록 설계되었다. 모델이 조작적인 대화 패턴을 감지하면, 사용자 기기에 민감한 정보나 자금을 공유하기 전에 주의를 기울이라는 실시간 경고를 표시한다. 스마트폰에서 복잡한 스캠 분류 모델을 효율적으로 실행하기 위해 두 단계의 파이프라인을 사용한다. 첫 번째 단계에서는 경량의 효율적인 분류기가 최소한의 전력을 사용하여 수신 메시지에서 잠재적 위협을 선별한다. 두 번째 단계에서는 미세 조정된 Gemma 모델이 더 넓은 대화 스냅샷을 분석하여 위협을 확인하거나 오탐을 제거한다. 모델 미세 조정에는 공공기관, 은행, 현지 인물 사칭, 지역 유행 수법 등 싱가포르 현지의 스캠 대화 데이터가 활용되었다.

엄격한 거버넌스 기반 개발

모델 개발 과정 전반에 걸쳐 엄격한 거버넌스 원칙이 유지되었다. 미세 조정 작업은 GovTech 싱가포르가 관리하는 GCP(Google Cloud Platform) 환경 내 'Sovereign Sandbox'에서 진행되어 훈련 데이터가 외부와 격리되었다. 훈련 데이터는 개인 식별 정보(PII)를 엄격히 배제하고, 스캠 보고서 및 정보 피드에서 파생된 익명화된 데이터셋만을 활용했다. 또한, 모델은 합성 대화와 현지 코퍼스를 대상으로 스트레스 테스트를 거쳐 다양한 스캠 범주와 진화하는 사칭 전술에 대응할 수 있도록 검증되었다. 이러한 개발 방식은 사용자 보호와 종단 간 암호화의 균형을 맞추는 메시징 플랫폼을 위한 모범 사례를 제시한다.

개발자와 사용자에게 미치는 영향

이 온디바이스 스캠 탐지 모델은 사용자에게 개인 정보 침해 없이 실시간으로 고도로 표적화된 현지 스캠 시도로부터 보호받을 수 있는 기회를 제공한다. 대화 패턴을 더 빠르게 분석하여 금융 또는 자격 증명 노출 전에 경고를 받을 수 있으므로, 사용자의 안전을 크게 향상시킨다. 개발자 관점에서는, 이 프로젝트가 AI를 활용하여 범죄에 대응하면서도 안전과 개인 정보 보호를 침해하지 않는 방법을 보여준다. 특히 메시징 플랫폼 개발자들에게는 종단 간 암호화를 유지하면서도 사용자 보호 기능을 통합할 수 있는 실질적인 모델을 제시한다. 또한, 온디바이스 AI 모델의 배터리 효율성을 고려한 2단계 파이프라인 설계는 모바일 환경에서 AI 기능을 구현하려는 개발자들에게 중요한 참고 자료가 될 수 있다.

적용 조건과 향후 전망

이 모델의 애플리케이션 내 배포는 싱가포르 정부와의 협력을 통해 신중하게 단계적으로 진행될 예정이다. 모델은 애플리케이션의 이용 약관에 따라 사용자 동의가 있을 때만 온디바이스 대화에 접근할 수 있다. 스마트폰에서 복잡한 스캠 분류 모델을 실행할 때 배터리 효율성이 중요한 고려 사항이며, 이를 위해 2단계 파이프라인과 같은 최적화 기술이 적용되었다. Google DeepMind는 이 프로젝트가 AI가 공공의 이익을 위해 활용될 수 있음을 입증하며, 싱가포르 국제 사이버 주간(SICW 2026)에서 발표되었다. Google DeepMind는 싱가포르 정부와의 협력에 대한 추가 정보를 곧 공유하고 유사 기술을 다른 국가에 배포할 잠재력을 탐색할 것이라고 밝혔다. 이는 온디바이스 AI 기반 스캠 탐지 기술이 전 세계적으로 확산될 가능성을 시사한다.