AI 换脸乱象丛生：技术滥用与防范困境

AI 换脸与拟声引发关注

两会期间，“AI 换脸”和“AI 拟声”成为热门话题。全国政协委员靳东、张文宏，以及全国人大代表雷军等都深受其害。江西一位老人差点被 AI合成的“假靳东”骗走 200 万元，张文宏被 AI 换脸用于“带货”，雷军则被 AI 捏造声音并在网上流传。不仅名人，个人肖像权、隐私权在 AI面前也易受侵害，如知名模特叶凯薇和广州地铁女子的遭遇。

AI 换脸软件乱象

记者调查发现，电商平台上 9.9 元就能买到 AI 换脸软件。操作简单，不到 10分钟就能“换脸”成功，还能优化效果，且具备虚拟摄像头功能，可用于视频通话和直播。手机应用商店里相关 App 众多，部分知名视频软件生成“AI数字人”效果趋于完美。然而，很多 AI 生成结果并无标识，即便有也可随意剪裁。

平台审核机制失效

记者制作的 AI 换脸视频在各大平台发布时，多数未被识别和标注。不同平台审核机制差异明显，部分平台对投诉后的视频进行了处理，但多数情况下，AI换脸内容仍能轻松发布。

技术演进与检测难题

AI 换脸技术已从早期的“贴图式”发展为“生成式重构”，生成质量提升使传统识别手段失效。市场上虽有 AI 检测工具，但100%检测成功率难以实现，检测工具落后于造假技术。

法律与防范措施待完善

我国目前对 AI 换脸等深度伪造技术尚无专门法律定义，相关行为主要受其他法律约束。专家认为，当务之急是 AIGC标识先行，技术公司应嵌入防滥用措施，平台也有审核义务。

普通人防范建议

专家为普通人支招，如选择可信平台、确保双方身份可信、建立“多因子身份认证”机制等。遭遇换脸诈骗或名誉侵害时，应及时联系公安机关和律师取证。