我们与新加坡政府科技局合作开发了一种新型的设备端诈骗检测模型，旨在无需将用户聊天记录发送到云服务器即可识别操纵性对话。该系统利用本地诈骗模式来识别威胁，并在用户泄露敏感信息或金钱之前发出警告。
要点总结
- 该模型将轻量级消息分类器与微调后的 Gemma 模型相结合。
- 对话访问权限需要用户同意，处理过程将保留在设备上。
- 自 2019 年以来，新加坡因诈骗造成的损失已超过 40 亿新元。
- 在新加坡政府的协助下，应用程序的部署将分阶段进行。
谷歌旗下DeepMind公司在2026年10月14日的一篇博客文章中表示，该模型是与新加坡政府科技局（GovTech Singapore）合作开发的。此次合作是谷歌与新加坡政府国家人工智能合作计划的一部分。
新加坡合作伙伴关系在2026年新加坡国际通信周上公布
该项目在新加坡国际网络安全周（SICW 2026）上展出。该公司将其描述为一种面向即时通讯平台的模型，旨在保护用户并保持端到端加密。
根据这篇博客文章，诈骗案件占新加坡已报告犯罪案件的一半以上，自 2019 年以来已造成超过 40 亿新元的损失。诈骗类型包括投资诈骗、虚假招聘信息和冒充公职人员。
这篇文章描述了诈骗手段从简单的网络钓鱼转向更具说服力的对话，骗子们在索要钱财前会先操纵受害者。这类社交工程诈骗造成的损失高达所有损失的80% 。
设备端诈骗检测如何利用本地上下文
该系统采用两阶段检测流程：首先，低功耗分类器筛选传入消息；然后，经过微调的 Gemma 模型分析更广泛的对话。第二阶段评估上下文，以确认威胁或排除误报。
该公司针对本地诈骗对话（包括冒充公共机构、银行和当地人物）以及流行的区域性诈骗手段，对谷歌的轻量级Gemma 模型进行了微调。这种方法能够识别通用模型通常难以识别的本地化欺骗技巧。
第一阶段分类器以最低的功耗识别潜在威胁。第二阶段则进行更详细的对话分析，以解决在智能手机上运行复杂诈骗分类器所面临的电池效率挑战。
该模型部署在应用程序中时，仅在获得用户同意并遵守应用程序使用条款的情况下才能访问对话内容。处理过程完全在设备端运行；新加坡政府和公司均无法通过此部署访问用户的对话内容。
在新加坡政府科技局（GovTech Singapore）的环境下进行培训
微调过程在新加坡政府科技局 (GovTech Singapore) 管理和维护的 GCP 环境中进行，确保训练数据保持隔离。训练过程中排除了私人信息和个人身份信息，使用的是从诈骗举报和情报来源中提取的匿名数据集。
该团队还使用合成对话和涵盖不同诈骗类别和不断演变的冒充策略的本地语料库对该模型进行了测试。
用户分享资金前实时发出警告
当模型识别出操纵性的对话模式时，会在用户的设备上发出实时警告。该警告敦促用户在交出敏感信息或金钱之前停下来仔细考虑。
新加坡政府科技局信任与安全总监马克·陈表示：“这使我们能够实时发现高度有针对性的本地诈骗企图，同时保护个人通信的私密性。”
应用程序内设备端诈骗检测功能的推出将分阶段进行，并与新加坡政府共同开发。
本文由人工智能辅助生成，并经编辑团队审核。