chatgpt 4o图像生成功能引发伪造风险关注ChatGPT新推的4o模型,其图像生成功能正引发诸多安全忧虑。该功能强大的文本生成能力,使得生成逼真内容成为可能,而这一特性也为欺诈行为开辟了新路径。
社交媒体现伪造收据案例 社交媒体上,不少用户展示了利用4o功能生成的逼真假餐厅收据。风险投资家DeedyDas在X(原Twitter)上展示的旧金山牛排馆假收据便是例证,众多用户成功复制类似成果,甚至有人添加食物污渍以提升逼真度。
AI生成收据的瑕疵与改进测试表明,AI生成的收据虽存在明显缺陷,如逗号与小数点混淆、计算错误等,但这些问题通过简单图像编辑或精准指令即可轻易修正,这无疑简化了伪造流程,增加了虚假报销等欺诈行为的风险。
OpenAI的回应与立场 OpenAI发言人TayaChristianson表示,所有ChatGPT生成的图像都带有表明AI来源的元数据,公司将对违反使用政策的行为“采取行动”。同时,她解释允许生成此类内容是为给予用户最大创意自由,AI收据在金融教育、艺术创作和产品广告等非欺诈场景也有应用价值。
© 版权声明
文章版权归作者所有,未经允许请勿转载。