链接已复制!

人工智能对抗诈骗:测试谷歌的全新设备端检测功能

本文分析了谷歌为Pixel设备推出的全新人工智能诈骗检测功能。它是如何工作的,它有效吗,它真的可以在不侵犯用户隐私的情况下保护用户吗?

🌐
机器翻译

本文由英文原文自动翻译而成。 阅读英文原文

分屏可视化:左侧显示手机上黑客/诈骗者的黑暗、故障轮廓。右侧显示干净、明亮的谷歌Pixel界面,带有“检测到诈骗”的盾牌图标。

要点

  • 实时分析:使用Gemini Nano直接在你的设备上监听特定的对话模式(如”紧急银行转账”)。
  • 隐私第一:不录制音频,也不发送到云端。AI完全在本地运行,确保你的私人对话保持私密。
  • 多模式警报:在识别出诈骗模式的那一刻,提供音频提示音、触觉振动和视觉警告。
  • 按聊天控制:现在扩展到消息应用,允许你标记特定的可疑聊天,而无需屏蔽整个应用。

一切从口袋里的一阵嗡嗡声开始。“未知号码。“你接起电话,一个冷静、专业的声音告诉你,你的银行账户存在”可疑活动”。他们只需要你核实一些细节……

许多用户都经历过这种情况。仅在2024年,美国人就因电话诈骗损失了数十亿。但随着最新的Pixel Drop,Google正在这场无休止的战争中部署一种新武器:AI

新的诈骗检测功能不仅仅是已知恶意号码的黑名单。它是一个活跃的、监听的智能,驻留在你的手机上,实时分析通话的内容。但它有效吗?更重要的是,你应该信任一个监听你电话通话的AI吗?

背景:垃圾电话拦截的演变

多年来,垃圾电话防护一直依赖数据库。如果一个号码被足够多的人举报,它就会被标记。

  • 问题:诈骗者不断伪造号码。数据库无法捕捉今天第一次使用的全新号码。
  • 解决方案:分析行为,而不仅仅是来电显示。

Google的旅程始于”Call Screen”,由Assistant为你接听电话。现在,有了Gemini Nano,AI已经足够聪明,可以在对话发生时理解其上下文。

理解诈骗检测

工作原理

  1. 激活:该功能默认关闭。你必须在电话应用设置中启用它。
  2. 监控:当你接听非联系人的来电时,设备端AI开始处理音频。
  3. 模式识别:它寻找特定的触发因素——紧迫性、索要礼品卡、要求密码或声称”账户被入侵”。
  4. 警报:如果达到阈值,你的手机会振动,播放独特的音频提示音,并在屏幕上闪现”疑似诈骗”警告。

技术:Gemini Nano

这不是在云端运行的。它由Gemini Nano驱动,这是Google设计用于在Pixel的Tensor G4芯片上运行的最高效模型。这至关重要,有两个原因:

  1. 延迟:它需要即时反应。
  2. 隐私:将音频发送到服务器将是一场隐私噩梦。

隐私:房间里的大象

Google知道”AI监听你的通话”听起来很反乌托邦。为了应对这一点,他们构建了几项保障措施:

  • 仅限设备端:音频数据永远不会离开你手机的RAM。它被处理后立即丢弃。
  • 透明度:当该功能激活时,周期性的”哔”声会通知你和来电者AI监控正在进行(类似于通话录音法律)。
  • 选择加入:你必须自己打开它。它不是默认设置。

数据

关键统计数据:

  • Pixel 6+:该功能在美国的Pixel 6及更新机型上可用。
  • Pixel 9+:在英国、加拿大、印度和澳大利亚扩大可用性。
  • :该功能存储在Google服务器上的对话数据量。

行业影响

对诈骗者的影响

这迫使诈骗者改变策略。如果”紧急银行转账”话术会被立即标记,他们将不得不进化。这在AI防御和人类工程之间创造了一场动态的”猫捉老鼠”游戏。

对消费者的影响

对于弱势群体——尤其是不成比例地成为目标的老年人——这是一个潜在的财务救星。它充当第二双耳朵,一双不会被制造恐慌的话术弄得慌乱的耳朵。

挑战与限制

  1. 误报:如果你确实在与你的银行谈论真实的入侵事件怎么办?系统允许你关闭警报,但这可能会造成困惑。
  2. 警报疲劳:Google限制了每天的警报数量,以防止用户忽略它们,但这是一个微妙的平衡。
  3. 语言支持:目前,它主要针对英语进行了优化。在模型重新训练之前,其他语言的诈骗可能会漏网。

接下来会怎样?

短期

随着Google将Gemini Nano推广为平台标准,预计该功能将推广到其他Android制造商(Samsung、Motorola)。

长期

这可能会在2026年底之前扩展到视频通话(Deepfake检测)和消息应用(WhatsApp/Telegram集成),以及针对”杀猪盘”加密货币诈骗的文本模式。

结论

Google的诈骗检测是”AI向善”的一个典范。它使用聊天机器人背后的相同技术来解决一个切实的、有害的问题。虽然没有任何防御是完美的,但拥有一个能在你耳边低语”这听起来是假的”的AI僚机,是现代数字时代的一个强大工具。


Google的诈骗检测是”AI向善”的一个典范。它使用聊天机器人背后的相同技术来解决一个切实的、有害的问题。虽然没有任何防御是完美的,但拥有一个能在你耳边低语”这听起来是假的”的AI僚机,是现代数字时代的一个强大工具。

资料来源 (3)

Advertisement

🦋 Bluesky 讨论

在 Bluesky 上讨论

正在搜索帖子...