我們與新加坡政府科技局合作開發了一種新型的設備端詐騙檢測模型，旨在無需將用戶聊天記錄發送到雲服務器即可識別操縱性對話。該系統利用本地詐騙模式來識別威脅，並在用戶泄露敏感信息或金錢之前發出警告。
要點總結
- 該模型將輕量級消息分類器與微調後的 Gemma 模型相結合。
- 對話訪問權限需要用戶同意，處理過程將保留在設備上。
- 自 2019 年以來，新加坡因詐騙造成的損失已超過 40 億新元。
- 在新加坡政府的協助下，應用程序的部署將分階段進行。
谷歌旗下DeepMind公司在2026年10月14日的一篇博客文章中表示，該模型是與新加坡政府科技局（GovTech Singapore）合作開發的。此次合作是谷歌與新加坡政府國家人工智能合作計劃的一部分。
新加坡合作伙伴關係在2026年新加坡國際通信週上公佈
該項目在新加坡國際網絡安全周（SICW 2026）上展出。該公司將其描述爲一種面向即時通訊平臺的模型，旨在保護用戶並保持端到端加密。
根據這篇博客文章，詐騙案件佔新加坡已報告犯罪案件的一半以上，自 2019 年以來已造成超過 40 億新元的損失。詐騙類型包括投資詐騙、虛假招聘信息和冒充公職人員。
這篇文章描述了詐騙手段從簡單的網絡釣魚轉向更具說服力的對話，騙子們在索要錢財前會先操縱受害者。這類社交工程詐騙造成的損失高達所有損失的80% 。
設備端詐騙檢測如何利用本地上下文
該系統採用兩階段檢測流程：首先，低功耗分類器篩選傳入消息；然後，經過微調的 Gemma 模型分析更廣泛的對話。第二階段評估上下文，以確認威脅或排除誤報。
該公司針對本地詐騙對話（包括冒充公共機構、銀行和當地人物）以及流行的區域性詐騙手段，對谷歌的輕量級Gemma 模型進行了微調。這種方法能夠識別通用模型通常難以識別的本地化欺騙技巧。
第一階段分類器以最低的功耗識別潛在威脅。第二階段則進行更詳細的對話分析，以解決在智能手機上運行復雜詐騙分類器所面臨的電池效率挑戰。
該模型部署在應用程序中時，僅在獲得用戶同意並遵守應用程序使用條款的情況下才能訪問對話內容。處理過程完全在設備端運行；新加坡政府和公司均無法通過此部署訪問用戶的對話內容。
在新加坡政府科技局（GovTech Singapore）的環境下進行培訓
微調過程在新加坡政府科技局 (GovTech Singapore) 管理和維護的 GCP 環境中進行，確保訓練數據保持隔離。訓練過程中排除了私人信息和個人身份信息，使用的是從詐騙舉報和情報來源中提取的匿名數據集。
該團隊還使用合成對話和涵蓋不同詐騙類別和不斷演變的冒充策略的本地語料庫對該模型進行了測試。
用戶分享資金前即時發出警告
當模型識別出操縱性的對話模式時，會在用戶的設備上發出即時警告。該警告敦促用戶在交出敏感信息或金錢之前停下來仔細考慮。
新加坡政府科技局信任與安全總監馬克·陳表示：“這使我們能夠即時發現高度有針對性的本地詐騙企圖，同時保護個人通信的私密性。”
應用程序內設備端詐騙檢測功能的推出將分階段進行，並與新加坡政府共同開發。
本文由人工智能輔助生成，並經編輯團隊審覈。