[控场AI]
· 4 分钟阅读· 2,345 字

DeepMind携手新加坡:端侧Gemma模型拦截诈骗

DeepMind携手新加坡:端侧Gemma模型拦截诈骗

DeepMind与新加坡政府合作,将Gemma模型部署到手机端,实现隐私友好的对话式反诈骗。

文章介绍了Google DeepMind与新加坡政府科技局(GovTech Singapore)联合推出的端侧反诈骗工具。该系统基于轻量级Gemma模型,在用户设备本地分析私人对话,识别一对一的长期诈骗操控,实现「云端零数据外泄」,从而规避了云端方案在隐私和跨境合规上的核心矛盾。文章分析了选择小模型而非大模型的技术取舍——在识别精度、推理速度与可部署体积之间重新平衡,并指出「研究机构+政府」的合作结构使它能整合进公共服务体系、接受公共隐私监督。文章最后将此事放在更大趋势中审视:端侧AI的价值正从低延迟扩展到合规友好,可能成为健康监测、金融风控等敏感数据实时场景的首选方案。

诈骗正在从广撒网的垃圾短信,演变为一对一的长期对话操控。当骗子在私聊里花几天甚至几周时间建立信任时,传统的关键词过滤和云端风控往往既慢又触及隐私红线。Google DeepMind 与新加坡政府科技局(GovTech Singapore)给出的答案是:把轻量级的 Gemma 模型直接放到用户设备上,在对话发生的当下完成识别。

Google DeepMind与新加坡政府联合发布反诈骗AI工具

一个绕不开的矛盾:要保护,还是要隐私

反诈系统的核心难点并不在于识别能力,而在于数据从哪里来。要判断一段对话是不是诈骗,模型需要读懂上下文——对方如何铺垫、如何制造紧迫感、如何一步步引导转账。这意味着系统必须接触用户的私人聊天内容。

云端方案在这种场景下天然尴尬:聊天记录要上传、要留存、要经过第三方服务器。对用户而言,这本身就是一种隐私让渡;对监管者而言,数据跨境的合规成本极高。新加坡作为一个对数据治理极为敏感的市场,这个矛盾尤其突出。

DeepMind 与 GovTech 的合作正是冲着这个矛盾去的。据双方公布的信息,系统采用端侧运行的轻量级 Gemma 模型,在设备本地完成对话分析,云端零数据外泄(zero cloud data egress)。换句话说,判断在手机上做,数据不出设备。

「云端零数据外泄」(zero cloud data egress)是一个数据治理术语,指设备产生的原始数据在推理过程中不会被传输到任何远程服务器。它对应的是数据保护法规中的核心原则——数据最小化和目的限制。以新加坡《个人数据保护法》(PDPA)和欧盟《通用数据保护条例》(GDPR)为例,将私人聊天记录上传至云端进行处理,通常需要用户明确同意,且需说明数据存储位置、保留期限和跨境传输安排。端侧推理从根本上绕开了这一整套合规链条:数据从未离开设备,也就不存在跨境传输、第三方留存或服务器被攻破的风险。

端侧 Gemma 到底解决了什么

把模型塞进手机并不新鲜,难的是在有限算力和内存下,依然能读懂"对话式诈骗"这种高度依赖语境的任务。

Gemma 系列本身就是 Google 面向轻量部署推出的开放模型家族,这次合作把它用在了实时对话拦截上。相比规则引擎,模型能捕捉更隐蔽的信号:话术的渐进式推进、情绪施压的节奏、以及典型的诈骗叙事结构。相比云端大模型,端侧推理省掉了上传延迟,也让"零数据外泄"成为可能。

这里的技术取舍值得注意。端侧意味着模型规模、推理速度和识别精度之间必须重新平衡。DeepMind 选择 Gemma 而非更大的模型,本质上是把"够用的判断力"和"可部署的体积"放在同一优先级上。

Gemma 是 Google 于 2024 年推出的一系列开放权重语言模型,名称源自拉丁语「gemma」(宝石),与 Gemini 同源但定位不同:Gemini 是 Google 面向云端部署的旗舰闭源模型,Gemma 则专注于在有限算力环境中运行。Gemma 提供 2B、7B、9B 等多档参数规模,并支持通过量化(将模型权重从 16 位浮点压缩到 4 位整数)进一步缩小体积,使其能够装进智能手机的内存并在本地完成推理。这种「开放权重 + 多尺寸」的设计思路,正是它被选为端侧反诈方案基础模型的关键原因——开发者可以在同一条技术路线上,根据设备能力灵活取舍精度与速度。

政府深度参与意味着什么

这次合作的结构本身就是一个信号:一方是前沿 AI 研究机构,一方是主权政府的数字服务部门。GovTech Singapore 负责把技术落到公民实际使用的通信场景中,DeepMind 提供模型与研究方法。

这种"研究机构 + 政府"的组合,和纯商业反诈产品有本质区别。政府参与意味着它可能被整合进公共服务体系,覆盖不特定依赖某款 App 的人群,尤其是对诈骗防范能力较弱的老年用户。同时也意味着隐私标准要接受公共监督,而不是由厂商单方面定义。

对于其他国家而言,这是一个可参考的范式:反诈 AI 的部署不只是技术问题,更是治理框架问题——谁来部署、数据边界划在哪里、由谁审计。

新加坡政府科技局(GovTech Singapore)是隶属于总理公署的政府机构,负责为新加坡各公共部门开发和运营数字服务,包括 Singpass 身份认证系统、政府电子服务平台等。它的角色不是监管者,而是技术实施方——将政策目标转化为可部署的工程方案。在这次合作中,GovTech 的价值在于:它了解公民实际使用的通信渠道(如 SMS、WhatsApp 等),能够将 DeepMind 的模型集成进真实的公共服务触点,而不依赖某家商业公司单独推广。这种「技术机构主导 + 前沿研究支持」的模式,在数据治理严格的国家中正在成为一种可复制的合作范式。

端侧 AI 正在成为一种治理工具

把这件事放到更大的趋势里看,端侧 AI 的价值正在从"省流量、低延迟"扩展到"合规友好"。当监管对数据出境和隐私的要求越来越严,能在本地完成推理的模型反而获得了制度上的优势。

反诈只是其中一个切口。凡是需要接触敏感个人数据、又必须实时响应的场景——健康监测、金融风控提示、内容安全——端侧模型都可能成为首选方案。DeepMind 与新加坡的这次合作,某种程度上是在验证一条路径:用足够小的模型,在足够敏感的领域,做出足够可信的判断。

这条路径能否规模化,取决于端侧模型的识别精度能否逼近云端方案,以及用户是否愿意在自己的设备上开启这样一层"守护"。技术门槛正在降低,剩下的是信任门槛。

#Google DeepMind#Gemma模型#端侧AI#反诈骗AI#新加坡GovTech#对话式诈骗#隐私保护#零数据外泄
分享:

相关推荐