AI换脸引发的风波：从诈骗案到内容监管

AI换脸服务价格亲民，风险却不小。如今在各大平台，AI换脸服务随处可见，只需9块9就能获得以假乱真的换脸内容。随着AI技术的快速发展，DeepFake（深度伪造）引发的讨论愈发激烈。众多受害人中，包括知名艺人、公司高管等，如2024年国庆期间雷军的AI语音包和换脸视频在网络疯传。

AI诈骗案频发，犯罪手段升级。一年前，香港发生一起令人震惊的跨国公司诈骗案。犯罪分子利用AI技术生成虚拟数字人，伪装成高管召开会议，致使员工被骗2亿港元。如今，此类犯罪频率不断升高，2025年1月，多地出现因AI换脸诱导转账的案例，甚至有人利用AI换脸注册虚假公司虚开发票。这反映出消费者防范意识薄弱，技术滥用呈全民化趋势，法律监管与犯罪手段失衡。

技术滥用衍生问题，法律规制存时差。AI换脸技术滥用不仅导致诈骗频发，还衍生出专业化犯罪链条。尽管现行法律禁止伪造肖像，但在责任边界和赔偿标准上缺乏量化细则，使得犯罪成本与牟利不成正比。不过，现有技术存在微表情缺失等生理破绽，为公众提供了辨识窗口。

平台对AI生成内容态度摇摆，需担起责任。AI技术降低了内容生产门槛，大量违背常识与道德的AI生成内容在短视频平台泛滥，部分用户盲目信任。此前相关征求意见稿对AI生成内容提出规范，一些平台也出台相应措施，但平台对AI内容态度摇摆。对于突发事件中的AI谣言，平台应主动识别并处理，如微博对某男星豪赌传闻的回应。

AI换脸规范任重道远，需重建人文价值。AI换脸技术引发社会震荡，生物特征数据交易暗藏风险。规范AI换脸需要多方努力，将技术向善原则转化为法律、算法规则和公民意识，在数字世界守住底线。