近期一项调查显示，62%的企业过去一年遭遇AI驱动的网络攻击，攻击类型涵盖深度伪造音频电话、视频及提示注入等，其中深度伪造音频电话攻击占比最高——44%的企业报告发生此类 incident。
Image source note: The image is AI-generated, and the image licensing service is Midjourney
安全公司Sophos全球首席信息安全官Chester Wisniewski指出，深度伪造音频技术已成熟且成本低廉，甚至能实时生成伪造音频。“若伪造的是配偶声音，对方可能察觉，但若是偶尔联系的同事，实时伪造几乎无阻碍——这给员工安全带来巨大挑战。”数据显示，未使用音频筛查服务的企业中，6%的深度伪造音频 incident 导致业务中断、财务损失或知识产权泄露；而使用音频筛查的企业，这一比例降至2%。
视频深度伪造虽稍少（36%企业遭遇），但5%的 incident 同样引发严重问题。Wisniewski提到，实时伪造特定个人视频成本高昂（可能数百万美元），但骗子已开始用“短平快”的方式——在WhatsApp通话中短暂展示CEO或CFO的深度伪造视频，随后以网络问题为由删除视频，转而用文字进行社会工程攻击。此外，用视频深度伪造隐藏身份的情况更普遍：比如朝鲜用该技术为西方企业提供服务，骗取数百万美元，连专业人士都难辨真伪。
另一种不可忽视的AI攻击是提示注入攻击：攻击者将恶意指令嵌入AI系统处理的内容，诱使其泄露敏感信息或滥用关联工具，甚至可能导致代码执行（尤其当AI与其他工具集成时）。Gartner调查显示，32%的企业应用曾遭此类攻击。
Wisniewski提醒，深度伪造音频的报告数量可能被低估，而视频伪造的比例高于预期。“企业需双管齐下：一方面加强员工培训，让员工警惕‘陌生但熟悉’的声音或短暂视频；另一方面部署音频筛查、AI内容检测等工具，提前拦截威胁。”
核心要点：
- 📞 62%企业遇AI攻击，44%涉及深度伪造音频电话；
- 💻 实时音频伪造技术成熟，员工需警惕“偶尔联系的同事”声音；
- 🔍 32%的企业应用受提示注入攻击，需关注AI集成风险。
