NBC报道说，在人工智能技术快速发展的当下，“真假难辨”已不仅是形容词。最新研究显示，无论成年人还是青少年，在多数情况下都无法分辨真人与 AI 克隆的声音差异，这一现象正在造成巨大的安全隐患，也让诈骗损失不断攀升。
旧金山一家专注于 AI 投资的风险资本公司联合创始人萨米尔·库马尔（Samir Kumar）指出，技术本身并无好坏之分，但越是普及、越易使用，滥用风险便越高。“当你让更多人获得强大的工具，就意味着可能被误用，甚至被武器化，”他说。
如今，仅需几秒钟，AI 就能生成极度逼真的影像或语音，从模仿名人到虚构新闻，无所不包。大量免费的网站和应用进一步降低了门槛，社交媒体上的假视频、假图片与假音频迅速涌现。
“如果你不怀好意，现在等于拥有了‘超能力’。”库马尔评论说。
声音伪造更难识别
尽管 AI 生成的视频在表情、肢体或图像失真上仍可能露出破绽，但语音却难以凭直觉判断。加州大学伯克利分校研究深度伪造的学者萨拉·巴灵顿（Sarah Barrington）表示，接起电话的那一刻，就是最脆弱的时候。“音频没有像视频那样的多层信息供你比对，”她说，“这也是诈骗和错误信息传播更容易得逞的原因。”
巴灵顿团队为测试人们的辨识能力，让 600 多名受试者听一对对音频，其中一条是真人录音，另一条来自研究团队用 5 美元的公开网站生成的 AI 克隆。多数人均无法正确判断——错误率超过 80%，即便他们被提前告知可能出现 AI 声音。
“在真实环境中，人们甚至不会提前得到这样的警告，”巴灵顿说。
诈骗损失预计飙升至每年 400 亿美元
德勤金融服务中心预计，到 2027 年，AI 相关诈骗造成的损失将达到每年近 400 亿美元，比目前水平高出 50%。
相关案例不断出现。去年，新罕布什尔州数千名选民接到一通听似来自总统拜登的语音，劝他们不要参加即将到来的初选。事实证明，那是一段 AI 伪造的录音。
更令人震惊的，是香港警方披露的一起案件。一名企业财务人员参加了一场线上会议，以为正在与 CFO 和同事交谈。实际上屏幕上的所有人都是 AI 生成的假影像，唯一真实的，是他随后转出的 2500 万美元。
立法远远落后于技术
面对激增的风险，美国国会议员凯文·马林（Kevin Mullin）直言担忧：“技术发展太快，我们正在被迫追赶。”尽管国会通过部分与 AI 相关的法案，但距离对整个产业建立系统监管仍有相当距离。
库马尔认为，美国需要一个全国性的 AI 框架，包括对诈骗行为设定更严厉惩罚，并要求所有 AI 生成内容带有可识别水印，以便追踪来源与修改过程。“监管过度可能会抑制创新，但完全放任只会让情况更糟，”他说。
