AI技术发展迅猛,然而在实际应用中,“跑偏”现象不断,引发诸多问题,多个领域已展开治理行动。
数据隐私与安全问题在AI时代愈发突出。安踏集团副总裁李玲指出,数据隐私保护是AI应用核心挑战之一,企业掌握大量消费者数据,防止其泄露与滥用至关重要。
广电总局数据显示,2023年下半年全网监测到大量AI魔改影视片段,经典IP被随意篡改,如“武侠版红楼梦”背离原著精神内核,破坏文化传承根基。
电商领域,AI生成商品图投诉量激增。某服装店铺AI生成效果图与实际商品差异大,“视觉诈骗”侵蚀电商信任基石,损害消费者权益与平台生态。
学术方面,复旦大学抽检发现部分本科毕业论文有AI深度介入痕迹,出现数据篡改等问题,高校纷纷设立“AI检测红线”。
医疗行业,AI误诊现象时有发生。湖南省医保局披露案例中,患者依AI建议调整胰岛素剂量致健康问题,医疗行业需谨慎应用AI技术。
AI教育市场乱象丛生,腾讯封禁部分AI创富课程。一些课程虚假宣传、质量低下,“割韭菜”式商业模式损害学员利益与行业声誉。
为解决问题,各领域积极行动。淘宝3月27日发布新规治理AI假图,通过多种举措拦截近10万张假图,并向全行业发出倡议。
教育领域,高校出台规定规范学生使用AI工具,腾讯课堂下架治理AI课程。广电总局加强对AI魔改影视的监管。
医疗行业,湖南省医保局等出台规定限制AI在医疗中的应用,专家提醒审慎对待AI医疗建议。
应对AI发展问题,法规层面需完善制度,如强制执行数据最小化原则、完善相关法律法规、推行算法备案制度等。
企业也应承担社会责任,建立AI伦理框架,行业可建立联盟提升整体水平。通过法规与自律协同,引导AI回归“赋能”本质。
© 版权声明
文章版权归作者所有,未经允许请勿转载。