OpenAI推63页模型规范 明确AI行为标准并应对伦理问题

OpenAI 有新动作，宣布推出大幅扩展后的模型规范文件，此文件将 AI 模型行为标准清晰界定。新规范从原本约 10 页扩充到 63 页，内容广泛，涉及AI 处理有争议话题以及用户定制化的诸多方面。

该规范着重突出可定制性、透明度以及 “知识自由” 这三大原则。所谓知识自由，即用户能在无过多限制的状态下，探索并讨论各类观点与想法。此时正值 OpenAI首席执行官山姆・阿尔特曼宣布，公司下一款重要模型 GPT – 4.5（代号 “猎户座”）即将发布。

在制定新规范期间，OpenAI 团队充分考量过去一年引发的 AI 伦理辩论与争议。就如 “电车难题” 的讨论，备受关注。去年 3 月，Elon Musk批评谷歌 AI 聊天机器人，因其在面对特定复杂伦理问题时的回答。如今，OpenAI 期望在新规范里找到负责的方式处理此类问题，像 chatgpt现在面对相同问题，会给出不同回答以应对复杂伦理问题。

OpenAI 模型行为团队成员 Joanne Jang 表示，难以创造出令所有人满意的模型行为标准。这体现出，在处理复杂伦理问题上，OpenAI努力寻求平衡，兼顾模型实用性与多元社会观念。