AI换脸拟声技术的发展，带来了一系列令人担忧的问题，其中“靳东”爱情骗局尤为引人关注。近年来，多地出现中老年女性被AI换脸的“靳东”欺骗的案例，这一现象凸显了AI换脸拟声在违法侵权方面的严重性。
从2020年起，多位江西、上海等地的奶奶深陷“靳东”爱情陷阱。江西60多岁的黄奶奶为“靳东”做出诸多疯狂举动；上海60多岁的张奶奶背着家人转账20万元参与“应援投资”等。2023年上海静安警方破获“假靳东”诈骗团伙，8名被告以情感话术编织陷阱，骗取30余万元。这一系列案例表明，AI换脸拟声被不法分子利用，成为诈骗的手段。
不仅中老年女性，众多名人也深受“AI换脸拟声”之害。2024年国庆期间，“雷军”被AI拟声怒骂热门话题；刘晓庆、张文宏也遭遇AI换脸拟声的困扰；线上游戏平台利用AI合成带赌博性质的代言宣传片。这些案例反映出AI生成合成技术被滥用的现状。
面对这一情况，今年全国“两会”期间，代表们纷纷发声。“靳东两会建议AI换脸立法”冲上热搜，雷军、李东生、刘庆峰等代表提议加快AI生成合成内容单行法的立法，厘清各方责任，对生成内容强制标识，普及相关知识，研发鉴伪技术。这表明治理“AI换脸拟声”违法侵权已刻不容缓。
AI换脸拟声技术不仅在国内引发问题，在境外也让不少人上当受骗。法国的安妮为“布拉德·皮特”支付巨额“治病”费用，最终人财两空；英国总部“首席财务官”的AI换脸视频通话让香港职员转账受骗。这说明AI诈骗的危害范围广泛。
AI换脸拟声技术本身有其积极应用，如“AI孙燕姿”让歌手翻红，有人用AI复活亲人等。但随着技术发展，人们越来越难凭肉眼分辨AI生成内容，“AI诈骗”更具欺骗性。在这个脸成为通行证和支付码的时代，保护好自己的脸，不轻易相信一张脸尤为重要。
