Ilya Sutskever离职内幕曝光，Sam Altman面临信任崩盘。
事件概述
近期新闻报道，OpenAI的超级对齐团队面临解散，这一团队在5月18日的消息中显露出严重的内部分歧。该团队的核心成员包括伊尔亚·苏茨克维和杨·莱克，他们的离职标志着团队的分崩离析。
离职原因
北京时间周五晚间，前团队成员杨·莱克通过社交媒体公开了自己离去的原因。根据他的说法，他的离开与公司对计算资源的分配不善以及对AI安全性的忽略有关。他表达了对一致性和安全性等问题的关注，认为超级对齐团队在过去几个月中进展艰难。这种情况与产品优先于安全的理念产生了冲突。
OpenAI的CEO萨姆·阿尔特曼对此作出回应，表示对杨的离职感到遗憾，并强调公司需要继续加强AI安全性和对齐研究。
超级对齐团队背景
超级对齐团队成立于去年7月，由科技贡献者伊尔亚·苏茨克维和杨·莱克领导，旨在解决未来四年内控制智能AI的核心技术挑战，并曾承诺获得公司20%的计算资源，但在实际操作中却屡遭挫折。
员工流失情况
自从去年11月以来，至少有7名重视AI安全研究的OpenAI员工辞职或被开除了。《连线》报道证实，原超级对齐团队已经解散，剩余成员或离去或重新调整到其他研究工作。
杨·莱克深入解释
杨·莱克在社交平台上详细说明了他离职的原因。他非常担忧如何监管和控制比人类更聪明的AI系统，并对公司在AI安全方面的重视不够表示担忧。他指出，公司态度的转变让他感到不安，尤其是在AGI潜在影响日益被放大的当前背景下。
问题尚存
尽管杨·莱克的离职声明中流露出对OpenAI未来的担忧，但OpenAI的前进方向以及如何确保AI安全仍然是一个没有得到解决的问题。留下的问题尤其是关于谁来承担AI安全研究的责任也变得扑朔迷离。
总结
超级对齐团队的解散和其引发的多米诺效应暴露了OpenAI在维持研究者安全研究和产品发展之间的矛盾。虽然约翰·舒尔曼将领导相关的研究工作，但是AI的安全性和道德问题依然需要被认真并全面地考虑。
相关文章
