William Fedus离职创业,这位曾担任OpenAI后训练团队负责人的专业人士,在今日凌晨于X平台正式宣布离职。他的下一步计划备受瞩目——创办一家专注于利用AI发现新材料的初创公司。
据外媒The Information消息,OpenAI预计将对Fedus的新公司进行投资并展开合作。这一动态显示出行业内的紧密联系与资源整合。Fedus于2022年从Google加入OpenAI,在任职期间,作为后期训练主管,他承担着监督chatgpt、Openai开发者工具及其他产品模型的重要职责。
他主导了OpenAI多个关键模型的后期训练研发工作,像4o、o1-mini、o1-preview等。在OpenAI前后训练负责人BarretZoph离职后,Fedus晋升为后训练团队负责人,且在论文署名中,他是o1和o3模型的主要负责人之一。
从教育背景来看,William Fedus在学术领域有着深厚积累。2010 – 2013年,他在麻省理工学院取得物理学学士学位;2013 -2017年,于加州大学圣地亚哥分校获得物理学硕士学位,之后在蒙特利尔大学攻读计算机科学博士学位,其导师为深度学习领域的重要人物YoshuaBengio和Hugo Larochelle。值得一提的是,Yoshua Bengio是深度学习领域的奠基人之一 ,与GeoffreyHinton和Yann LeCun共同荣获2018年图灵奖。
William Fedus拥有丰富的工作经历,曾在GoogleBrain实习,研究生成对抗网络(GANs)。他的研究兴趣广泛,涵盖监督学习、无监督学习和强化学习,致力于构建稳健可靠的算法。在学术研究上,他成果丰硕。2018年,与IanGoodfellow和AndrewM.Dai共同提出MaskGAN,这是用于文本生成的生成对抗网络,能通过填补空白生成高质量文本。2019年,参与提出无监督图神经网络方法,通过最大化节点表示和图摘要之间的互信息来学习节点嵌入。2022年,与BarretZoph以及OpenAI研究员Noam Shazeer共同提出了SwitchTransformers,这一架构通过稀疏激活实现万亿参数模型的高效运行,解决了模型复杂度、通信成本和训练稳定性等问题。
在Fedus离职消息官宣后,Google AI StUdio产品负责人Logan Kilpatrick、OpenAI研究员NoamBrown等好友在评论区送上祝福。与此同时,OpenAI内部的技术研发并未停滞。OpenAI首席产品官KevinWeil在采访中透露,OpenAI正在整合GPT和o系列模型,致力于推出更强大的GPT-5 ,不过具体推出时间尚未确定。
据悉,GPT-5将简化模型系列并统一功能集,具备之前各系列模型的所有工具和功能,例如处理文件上传、搜索网络,甚至在推理过程中使用Python编程等能力。Kevin认为DeepReseARCh是自ChatGPT以来推出的最佳产品,能完成用户无法自行完成的任务,其成功源于研究、产品、工程和设计团队的紧密合作。
对于编程领域的未来发展,Kevin有着独特见解。他认为按照当前发展速度,AI在编程领域超越人类的时间会比AnthroPic预测的2027年更早,可能在2026年实现。他指出,GPT-4已是出色的编程模型,在GitHub Copilot等工具中广泛应用,但o1在编程方面比o1preview表现更优,因为推理能力在编写代码时至关重要。在他看来,今年内AI将在竞争性编程标准上永远超越人类,这将使软件开发更加民主化,让更多人能够创建软件。
此外,Kevin还提到,尽管生成内容变得容易,但人们仍会重视耗费大量时间和精力创作的作品。AI将改变工作性质,不会取代人类工作,而是补充和增强人类能力。他认为几乎所有工作都会被AI补充,并提出为每个孩子提供个性化AI导师的创业点子,以提升教育质量和生活水平。在被问及是否考虑开发实体产品时,Kevin表示OpenAI已开始关注机器人技术,尽管具体形式未确定,但机器人技术无疑是未来的重要发展方向,在数字世界实现人工通用智能后,向现实世界扩展技术、影响物理环境是自然趋势。