余凯比辛顿小30岁,两人最早在加拿大一个学术研讨会上认识。2012年4月,余凯离开美国NEC研究院加入百度,担任新成立的百度多媒体部部长。
这一年,百度开始大规模采购和建立GPU运算集群,开发了世界上第一个支持GPU&CPU的并行深度学习平台,迫切需要人才和技术。
于是,余凯就向百度创始人兼CEO李彦宏推荐了当时在业界还寂寂无名的辛顿,希望尽早把这个人才挖到手。
技术出身的李彦宏,最终决定派战略投资副总裁汤和松与辛顿取得联系,并直接提出邀约:1200万美元,合约期三年。
辛顿当时心动了,表示“能签”。但就在签约前,辛顿的两名学生“拦下”了恩师,并表示如果他们能先成立一家公司的话,百度可能就会愿意将报价提高很多。
于是,辛顿马上着手创建了员工只有他和他的两名学生的初创公司——DNNresearch。
他还专门询问了一位律师,咨询怎么把他的“三无公司”的价值最大化。律师建议他:要么花钱请谈判代表,要么进行一次拍卖。
辛顿选择了拍卖,他认为这样相对公道和体面。
余凯所在的百度、谷歌、微软和DeepMind(后来被谷歌收购,研发出战胜了围棋冠军李世石的AlphaGo)参与了竞拍。
尽管余凯所在的百度出到了最高价,但最后辛顿决定“卖身”谷歌。
几年后,余凯离开了百度,创立了自己的的科技公司“地平线”;辛顿的其中一名学生——IIya Sutskever也在同一时间,在马斯克的劝说下离开谷歌,与萨姆·阿尔特曼等人联合成立了OpenAI。
当被问到“没有如愿收购辛顿创立的初创公司,是否留有遗憾”时,余凯表示自己“一点都不遗憾”。
“当时参与的那场秘密收购,其实我觉得是让世界顶级公司都看到了彼此都愿意为收购三个人花那么多钱,几千万美金!至少让大家都更加重视深度学习了。”余凯对《中国科学报》表示。
值得指出的是,当年参加秘密竞拍的那些人,后来创立和壮大了现在的DeepMind、OpenAI以及地平线,这些都是人工智能发展史上值得一书的公司。
“后来,国外有媒体报道说是那是人工智能竞赛的一个‘发令枪’。”余凯说,他之所以一点都不觉得遗憾,还在于在那之后,百度公司上下也意识到深度学习重要性。一个月后,他就在百度组建成立了深度学习研究院,“也是促进了中国的人工智能的发展”。
两人获物理学奖,“一点都不意外”
霍普菲尔德和辛顿两位机器学习领域的“大牛”共同分享了2024年诺贝尔物理学奖,让很多物理学界人士大感意外,但余凯表示他“一点都不觉得意外”。
“因为早期的人工智能专家大部分都有物理学背景,包括我自己也是物理学背景。”余凯告诉《中国科学报》,所谓物理学思维实际上是用数学的方法去建模现实世界,这跟人工智能的核心意义是完全一致的。
“物理学思维并不是纯粹的或抽象的数学、人工智能,更关乎在现实世界里面去构建这样的系统,使它能够利用数学的一些原则去学习知识、变得越来越聪明。”余凯说,比如霍普菲尔德就曾在加州理工大学物理系任教授,他从统计物理学的角度构建了一个分布式的物理学系统,也即“Hopefield Network”。通过这种分布式的学习训练,就可以去构建一个智能系统。
“当年他这个想法是非常非常有远见的,可以说是开创了用人工神经网络去做人工智能、做机器学习的先河。”余凯对他的工作评价很高,一连用了两个“非常”。
因此,余凯认为物理学思维对于人工智能是非常重要的:“去构建物理学系统使它具有智能,这个无疑对于物理学本身也是一个很大的贡献。”
但让余凯更为感慨的是,霍普菲尔德和辛顿两位科学家,他们的研究工作都是长达几十年在一个方向的坚持。
“他们身上的这种理想主义以及对于这个世界的好奇心,我认为是非常值得我们学习的。”他说。