AI换脸引发的信任危机与治理探讨

近日两会，雷军透露去年被AI换脸、拟声，成各类视频“嘴替”“脸替”，想维权却因无专门立法而困扰。如今社交平台AI视频常见，AI生成真人形象以假乱真，“AI骗局”频出，中老年人易成受害者。

“AI宝宝”走红，其瞄准中老年群体被忽视的情感需求。陆俊奶奶沉迷抖音上的“假孙子”，虽创作痕迹明显，但老人难辨真假。不仅如此，刘然外公更信短视频里无权威认证的数字人“专家”，这反映出中老年群体易对AI形象产生信任。如今社交平台充斥针对中老年的AI账号，靠“话术”吸引关注信任并带货，部分账号已获利，“·古元·”便是典型。甚至，针对中老年的AI换脸诈骗案开始频发，如江西老人欲贷款给网恋“靳东”拍戏。

AI发展带来诸多问题，造假愈发容易。诈骗有量刑标准，但根除互联网AI虚假信息困难。从公司高层发言视频被伪造骗钱，到AI换脸制作色情影片、盗刷医保，还有地震、山火假图片流传，AI无底线造假现象严重。对此，律师表示制作者和部分社交平台需担责。

“AI安全”成为两会热词。全国政协委员齐向东提议从技术、制度、成果应用提升安全能力；周鸿祎建议懂安全和AI的企业牵头打造安全大模型解决应用安全问题。各平台加强AI内容治理，腾讯等研究检测AIGC工具。但检测难度增加，减少AI蒙骗需多方合力。国家也出台相关政策征求意见，未来政策监管和平台审核力度或加大。