ChatGPT与Grok3在成人内容领域的表现及AI与性的复杂关系

chatgpt规则更新涉足成人内容在全球AI竞赛激烈的当下，曾经风光无限的ChatGPT如今声量渐低。然而，其在2025年2月12日版规则中，对绝对禁止生成的内容做出重大修改，从禁止生成任何露骨的相关内容，变为仅禁止涉及未成年人的此类内容。这一改变让它能在适当语境下生成相关内容且不发警告，引发众多用户尝试，虽有底线但确实为用户提供了创作成人内容的空间，还使其周活跃用户数量显著增长。

Grok3的奔放与收敛马斯克的Grok3在上线初期表现得极为奔放，过滤规则简单，用户利用多种方法轻松绕过安全限制，生成尺度惊人的成人内容，让不少用户为之惊叹。但很快，Grok3进行紧急更新，堵死了这些漏洞，不再生成涉及成人桥段的内容。

成人产业规模庞大吸引AI全球合法成人娱乐产业规模高达585亿美元，且仍在快速增长，成人用品产业规模也不容小觑，还有难以估量的皮肉交易产业。如此诱人的市场，吸引着AI与之融合。像P站早就用AI分析视频生成标签、修复古早影片。成人玩具厂商也借助AI提升产品体验，如将视频分析AI接入玩具带来仿真享受，还有厂商将AI融入玩偶，赋予其“灵魂”。

AI黑产危害凸显AI技术的发展也被不法分子利用，大量AI生成的女明星不雅照、换脸视频等在网络传播，给当事人造成巨大伤害。在韩国，AI伪造不雅内容成为严重社会问题，还出现利用AI制作儿童色情内容的犯罪行为，引发对道德底线的思考。

AI与性的关系及道德约束思考从古至今，高新科技常被应用于成人领域，AI也不例外。它与情欲的碰撞，不仅带来商业影响，更引发对人性和道德的思考。我们需思考如何在AI发展中施加道德约束，避免人类欲望失控。