Gemma 경량 모델이 싱가포르의 휴대폰에서 사기 탐지 일을 맡았습니다. 2026년 10월 14일 Google DeepMind는 공식 블로그를 통해 싱가포르 정부기술청(GovTech)과 함께 온디바이스 사기 탐지 모델을 완성했다고 발표했습니다. 이 모델은 기기 안에서 대화를 분석해 조작적 패턴이 포착되면 실시간 경고를 띄우고, 채팅 내용은 기기를 벗어나지 않습니다. 이 협력은 DeepMind와 싱가포르 정부의 국가 AI 파트너십의 일환으로, 성과는 Singapore International Cyber Week(SICW 2026)에서 공개됐습니다.
왜 싱가포르는 탐지를 기기 안으로 옮겼나
싱가포르에서 사기는 일부의 문제가 아닙니다. DeepMind가 제시한 수치를 보면 사기는 이 나라 신고 범죄의 절반 이상을 차지하고, 2019년 이후 손실액이 40억 싱가포르달러를 넘습니다. 수법도 단순한 피싱 링크에서, 시간을 들여 믿을 만한 인물인 척하다 마지막에 송금을 요구하는 장기적인 사회공학 대화로 바뀌었고, 이런 사기가 전체 손실의 최대 80%를 차지합니다. 문제는 이런 대화 대부분이 종단간 암호화 채팅 앱 안에서 오가기 때문에 서버에서는 내용을 볼 수 없고 기존의 클라우드 스캔은 검사할 대상 자체가 없다는 점입니다. 탐지를 기기로 옮기면 암호화를 깨지 않으면서도 대화가 보이는 유일한 지점에서 판단할 수 있습니다.
2단계 파이프라인: 먼저 전력을 아끼고, 그다음 자세히 본다
휴대폰에서 상시 작동하는 탐지 모델의 가장 현실적인 제약은 배터리입니다. DeepMind의 해법은 2단계 구성입니다. 1단계에서는 아주 가벼운 분류기가 최소한의 전력으로 도착 메시지를 걸러 의심스러운 것을 골라내고, 2단계에서 미세 조정된 Gemma 모델이 더 넓은 대화 맥락을 읽어 조작적 사기인지 오탐인지 확정합니다. 훈련도 현지화됐습니다. 공공기관과 은행, 현지 유명인 사칭부터 지역에서 유행하는 수법까지 싱가포르의 실제 사기 대화로 미세 조정해, 평범한 잡담과 진짜 조작을 가려낼 수 있게 했습니다.
훈련 과정의 거버넌스가 신뢰를 결정한다
발표는 개발 과정의 제약도 분명히 밝혔습니다. 미세 조정은 GovTech가 관리하는 클라우드 환경에서 이뤄졌고 훈련 데이터는 격리됐으며, 사용된 데이터는 사기 신고와 정보 피드에서 만든 익명화 데이터셋으로 개인을 식별할 수 있는 정보는 포함되지 않았습니다. 출시 전에는 합성 대화와 현지 말뭉치로 스트레스 테스트도 거쳤습니다. 시민의 대화를 읽는 정부 주도 안전 시스템이라면 이런 세부 사항은 장식이 아닙니다. 훈련 과정 자체가 시민의 대화를 건드리지 않았다는 것부터 증명해야 합니다.
전달 방식도 눈에 띕니다. 이번에 나온 것은 사용자가 내려받는 앱이 아니라 메시지 플랫폼과 운영체제 업체가 통합할 수 있는 모델입니다. 진짜 시험은 그다음에 옵니다. 얼마나 많은 플랫폼이 채택할지, 경고가 떠도 사용자가 행동을 멈출지, 실제 트래픽에서 오탐률을 유지할 수 있을지입니다. 그래도 방향은 분명해졌습니다. 사기가 암호화 대화 속으로 숨는 이상 방어도 기기 안으로 옮겨야 하고, Gemma 같은 소형 모델의 가치는 처음으로 벤치마크가 아니라 평범한 휴대폰 위에서 상시 대기할 수 있는지로 가늠됩니다.
