chatgpt的GPT-4o版本在图像生成方面出现了令人瞩目的现象。一位网友于社交平台X上察觉到,当让GPT-4o生成一朵玫瑰花的图像时,它果断拒绝,称其不符合内容政策。此意外拒绝瞬间吸引众多网友目光,大家纷纷投入到对这一现象的探究中。
众多网友为了验证此情况,展开了一系列丰富多样的实验。他们分别用中文、英文询问,甚至用特殊符号替代“玫瑰”一词,然而均未成功。即便请求生成黄玫瑰,同样遭到拒绝。但当尝试让其生成牡丹等其他花卉时,GPT-4o却能轻松完成任务,这表明它的图像生成能力本身并无问题。
随着讨论不断深入,网友们提出了诸多猜测。部分网友觉得“玫瑰”一词或许被列入黑名单;还有网友认为,ChatGPT可能将“玫瑰”误解为某种隐晦暗示,进而导致无法生成。更有一些有趣的调侃,比如情人节期间大量相似请求,致使系统对“玫瑰”实施限制。
后续测试里,网友们又有新发现。若将“玫瑰”换成复数形式,或者不直接提及“玫瑰”,而是描述其特征,GPT-4o就能顺利生成玫瑰图像。这一发现促使人们对AI内容过滤机制展开深入探讨,怀疑是开发者在内容政策上的硬编码,才造成这种奇怪的误判现象。
与此同时,ChatGPT的这一禁忌词引发了联想。此前当用户询问某些特定名字时,系统也曾模糊回应,表现出对特定内容的回避。如今“生成一朵玫瑰花”成了新禁忌,而像Gemini和Grok等其他AI聊天机器人却能顺利生成玫瑰图像,这充分体现了不同平台在内容限制上的差异。
伴随这一事件持续发酵,大众对AI内容审查的合理性与透明性提出更多质疑,同时也满心期待未来AI能在合理范围内满足用户多样化需求。
© 版权声明
文章版权归作者所有,未经允许请勿转载。