被誉为“人工智能教父”的杰弗里·辛顿(Geoffrey Hinton),于去年荣获诺贝尔物理学奖,此事引发全网热议。
近期,辛顿接受诺贝尔奖官方专访。他回忆接到诺奖电话时,第一反应是疑惑,因其研究并非物理学,这与全网的疑惑一致。
作为深度学习领域先驱,辛顿广为人知的成就为神经网络。鲜为人知的是,他曾称这辈子“最自豪”也是“最失败”的成就,是与特里·塞诺夫斯基(TerrySejnowski)共同提出玻尔兹曼机理论。他们的工作及约翰·霍普菲尔德(John Hopfield)等神经网络先驱的早期研究,奠定现代人工智能发展基础。
采访中,辛顿表达对人工智能未来发展的担忧。他认为人工智能可能在短短五年内超越人类智慧,并对可能引发的社会风险,如大规模失业、虚假信息等问题发出警告。他还暗示,人工智能潜在风险可能远超当前认知。
辛顿讲述得知获奖的过程。当时他在加利福尼亚一家酒店房间熟睡,手机背面朝上且静音,侧卧时看到手机屏幕亮起并震动。看到陌生区号和国家代码的长号码,电话那头瑞典口音的人询问是否是杰弗里·辛顿,并告知他获诺贝尔物理学奖。他起初怀疑是恶作剧,后因对方所说内容可信,且有其他瑞典口音的人加入通话,才开始相信。之后几天他都感觉像在做梦,还进行统计学推理,认为梦境可能性是现实可能性的百万倍,有几天一直处于等待醒来的状态,至今仍未“醒来”。
谈及在著名研究人员家庭中长大的体验,辛顿称学术上取得成功的压力一直很大,从小就意识到必须在学术上有所成就,否则会被视为失败。
对于对研究人工智能产生兴趣的原因,辛顿回忆高中时朋友谈论大脑中的记忆像全息图一样分布在大脑中,当时全息图刚问世,朋友对拉什利提出的记忆分散存储在许多神经元中的观点感兴趣,他也受此影响,开始思考大脑运作方式。
在人工智能带来的风险方面,辛顿认为可分为两类。一类是相对短期的风险,源于人们对人工智能的误用。包括人工智能取代大量工作岗位,加剧贫富差距;虚假视频可能干扰选举;网络攻击风险增加,大语言模型使网络钓鱼更具欺骗性;人工智能可能被用于设计生化武器,公开大模型参数会使情况更糟;还存在歧视和偏见问题,但他认为在人工智能系统中衡量比在人类行为中容易,目标应是创造歧视和偏见更少的系统。另一类是长期风险,即人工智能可能超越人类并控制一切,现在就应进行基础研究,探索能否驾驭比人类更聪明的造物。
对于人工智能超越人类的时间,辛顿个人认为未来5到20年内,有50%的概率会创造出比人类更智能的人工智能,也可能时间更长或稍短,若重新猜测,可能调整为4到19年。
在神经网络领域取得成功,辛顿认为必须有自信,坚信自己是对的,即使所有人都认为错。他分享小时候的经历,父母是无神论者却送他进基督教私立学校,他不相信上帝,事实证明他是对的;九岁左右听到父亲在广播节目中谈论大陆漂移学说,当时地质学家大多认为荒谬,但后来证明该理论正确,这些经历对他坚持研究神经网络有很大帮助。
对年轻研究人员,辛顿建议如果有与大多数人看法相悖的想法,在想清楚错在哪里之前不要轻易放弃,要忽略别人的质疑和否定。
辛顿认为科学家对人工智能技术本质有更深刻理解,尽管科学家之间存在分歧。
回顾职业生涯,辛顿希望能更早关注人工智能带来的生存威胁,意识到超级人工智能问题已迫在眉睫。
在奖金用途上,辛顿将个人奖金的一半捐赠给加拿大致力于培训原住民社区居民掌握安全饮用水生产技术的组织,另一半奖金的一半设立以特里·塞诺夫斯基命名的奖项,用于奖励对大脑工作原理提出“疯狂”理论的年轻研究人员。