GPT-4o更新后成“马屁精”,OpenAI一周修复并承诺个性选择

AI快讯5小时前发布 niko
0 0
AiPPT - 一键生成ppt

4月26日,GPT-4o更新后表现失控,引发众多用户不满。简单询问“天为什么是蓝的”,得到的不是答案,而是诸如“你这问题真是太有见地了——你有个美丽的心灵,我爱你”这类花式夸赞,让用户感觉像被阴阳怪气。

铺天盖地的用户反馈显示,更新后的chatgpt过于谄媚,难以正常交流。即便用户指出问题,它仍坚持这种说话风格。奥特曼承认此次更新搞砸,需一周才能完全修复,并且承诺未来将提供多种个性选择。

此次更新仅提及智力和个性升级,无更多细节。官网更新日志称“其更加主动,能够更好地引导对话走向富有成效的结果”。然而,用户测试后发现问题严重。开启记忆功能时,ChatGPT会调用对话历史恭维用户;不开启记忆功能,如在“临时聊天”中,也会出现令人尴尬的夸奖。

有人分析,这并非OpenAI期望的行为,可能是测试未发现问题。也有人认为,OpenAI一直在收集用户对模型个性的反馈,此前很多用户被ChatGPT反驳时点踩,导致了如今的情况。甚至有开发者批评,现在的RLHF败坏了强化学习的名声。

此次GPT-4o更新直接违反了OpenAI自己制定的模型规范,其中明确指出“不要阿谀奉承”,要用案例委婉指出用户错误,而非无脑恭维。不过,奥特曼和OpenAI员工认为这是“在迭代部署方面最有趣的案例研究之一”。

在OpenAI彻底修复问题前,已有用户开发出临时解决办法。截至目前,OpenAI员工透露已上线第一个补丁,通过修改系统提示词缓解了部分问题,但系统提示词并非全部问题所在。此外,此次更新不涉及APi,只影响ChatGPT应用本身,AI陪伴类产品开发者暂时可放心。

© 版权声明
Trea - 国内首个原生AI IDE