Google DeepMind 联手新加坡 GovTech，用微调 Gemma 做端侧诈骗识别

Google DeepMind 与新加坡政府科技局（GovTech Singapore）在 National AI Partnership 框架下合作，用本地诈骗对话微调轻量级 Gemma 模型，做出一个可在设备端运行、保护隐私的诈骗检测模型。Google DeepMind 于 2026 年 10 月 14 日在博客中披露了这项合作。博客称，模型完全在手机等设备上运行，新加坡政府和 Google 都无法通过该部署访问用户对话。

为什么做

据博客，投资诈骗、虚假招聘、冒充公职人员等诈骗占新加坡报案罪案的一半以上，2019 年以来造成的损失超过 40 亿新元（S$4 billion）。诈骗手法也从简单的钓鱼链接转向复杂的社会工程：骗子先用逼真的对话建立信任，再开口要钱。博客称，这类诈骗目前占全部损失的最高 80%。

博客还提到，通用模型往往难以识别本地化的骗术，因此这次用本地诈骗对话对 Gemma 做了微调。训练内容包括冒充公共机构、银行和本地知名人士的对话，以及区域内流行的骗局。

两级流程

为兼顾手机电量，系统采用两级流程：

• 第一级：低功耗的轻量分类器，筛查收到的消息，重点是发现潜在威胁。
• 第二级：微调后的 Gemma 分析更大范围的对话片段，以确认威胁或排除误报。

一旦检测到操纵性对话模式，用户设备上会实时弹出警告，建议用户在分享敏感信息或转账前暂停并谨慎。

隐私与治理

博客称，与在云端扫描消息的传统做法不同，该模型直接在设备上处理对话数据。部署后，模型只有在用户同意并符合所在应用使用条款的前提下，才能访问设备上的对话。

博客列出了开发过程中的三项治理措施：

• 微调在 GovTech Singapore 管理和维护的 GCP 环境（Sovereign Sandbox）中进行，训练数据保持隔离。
• 训练数据来自匿名化的诈骗举报和情报，不含私人或可识别个人身份的信息。
• 用合成对话和本地语料对模型做了压力测试，覆盖多种诈骗类别和不断变化的冒充手法。

下一步

该合作在新加坡国际网络安全周（SICW 2026）上发布。博客称，模型在应用内的推出将分阶段进行，与新加坡政府共同开发；具体集成到哪些应用、何时上线，博客未给出。博客另表示，期待分享更多与新加坡政府合作的进展，并探索把类似技术部署到其他国家的可能。

来源

• https://deepmind.google/blog/on-device-ai-scam-detection-mddi/