在Gemini 2.0版本发布之际,一名新晋华裔博士宣布加盟Google DeepMind,并担任高级研究科学家,主攻Gemini预训练加多模态研究。
该博士名为薛复昭,毕业于新加坡国立大学,在尤洋教授的指导下学习,并荣获南洋理工大学硕士学位,导师为庄永聪和孙爱欣教授。在攻读博士学位期间,薛复昭曾在Google Brain实习,与Yi Tay和Mostafa Dehghani共事,并在NVIDIA GEAR与多位专家有过合作。
博士生涯心得分享
薛复昭总结了博士生涯中的七大心得:
工程能力的重要性
尽管工程能力至关重要,但在学术界常被低估。实现是人工智能理念转化为实际应用的关键步骤。强大的工程能力不仅能够帮助我们为大规模项目贡献力量,同时也能够催生创新的研究思路。例如,Scaling Law, MoE, GQA, Flash Attention等最近的研究成果,常源于对技术和行业挑战的洞察。
与顶尖人才的合作
了解“研究品味”意味着你能比他人更早地识别出具有希望的研究方向。薛复昭建议,最好的方式就是直接与高手进行对话与合作。在博士早期阶段,薛复昭有幸与Google的Yi Tay和Mostafa Dehghani合作,这段经历极大地影响了他的职业轨迹。
45分钟的精彩演讲的力量
博士生涯不仅仅是为了论文发表,更重要的是如何能够制作出简洁而深刻的45分钟演讲。研究成果的介绍和解释对于工作面试至关重要,因为能够在这些场合出色地展示演讲能力,更受关注。
精选重要论文进行深度研究
薛复昭建议,应筛选出arXiv论文中的重要工作、知名作者和杰出机构,专注深入研究而不是浅尝辄止。虽然可能错过一些未被充分认可的好作品,但这种方法能够避免被大量论文淹没,并保持研究品味不走向局部最小值。
按时间顺序阅读相关论文
对于新课题,薛复昭推荐按照时间顺序阅读研究论文,这样的做法有助于理解研究趋势的演变,形成思维链,并指引未来研究方向。这种方法既符合我们处理信息的方式,也对研究者至关重要。
换位思考提升论文写作和演讲技能
换位思考是提升写作和演讲的有效技巧。薛复昭提示,写作时应考虑目标受众的背景和时间限制,使内容易于理解且专注于传达最重要的观点。在阅读他人作品时,要想象作者的初衷和写作过程,从而提升自身的写作和演讲技巧。
博士学位的价值与非必须性
尽管博士学位能提供宝贵的学术经验,但投入大语言模型研究并非必须。薛复昭认为,直接加入研究实验室可以在实际环境中快速学习所需的技能,可能更有效。
总结
综上所述,薛复昭博士的经历和心得提供了一个科研新人们可以借鉴的蓝图,从工程能力的培育到与优秀同仁的合作,再到正确的研究品味,都是博士生涯中不可或缺的部分。通过这些经验的分享,新人科研者能够在从事科研工作的道路上获得宝贵的启示。