点击图片进入积年诺贝尔奖解读书册

2024年诺贝尔物理学奖颁发给了约翰·霍普菲尔德 (John Hopfield)与杰弗里·辛顿（Geoffrey Hinton），以赏赐他们在东说念主工神经收集机器学习方面的基础性发现和发明。

故事发生在12年前。

2012年12月初的一天，一场微妙竞拍正在好意思国滑雪胜地太浩湖（Lake Tahoe）的一家赌场酒店里进行。

太浩湖位于加州和内华达州交壤处，是北好意思最大的峻岭湖泊，领有蓝宝石般的湖面和顶级雪说念，《教父2》曾在这里取景，马克吐温曾在此地太空有天，而由于离旧金山湾区只消200多英里，这里常被称为“硅谷后花坛”，扎克伯格和拉里·埃里森等大佬也在此圈地占山，兴修豪宅。

微妙竞拍的对象，是一家刚刚成立1个月、仅有3名职工的公司——DNNresearch，创立者是多伦多大学耕种杰夫·辛顿（Geoffrey Hinton）和他两名学生。

这家公司莫得任何有形的家具或钞票，但追求者的身份显露出了它的重量——四位买家诀别是Google、、DeepMind和百度。

举行微妙竞拍的Harrah's酒店，太浩湖，2012年

65岁的辛顿年迈，枯瘦，饱受腰椎间盘的疼痛，他坐在酒店703房间的地板上为竞拍缔造规定——起价1200万好意思元，抬价单元至少100万好意思元。

几个小时后，竞拍者就把价钱推到了4400万好意思元，辛顿有些头晕，“嗅觉咱们像是在拍电影”，于是飘舞喊停，并决定把公司卖给终末的喊价者——Google。

特敬爱的是，这场4400万好意思元竞拍的泉源之一，就是来自于6个月前的Google。

2012年6月，Google商酌部门Google Brain公开了The Cat Neurons神志（即“谷歌猫”）的商酌效果。这个神志肤浅说就是用算法在YouTube的视频里识别猫，它由从斯坦福跳槽来Google的吴恩达发起，拉上了Google传奇东说念主物Jeff Dean入伙，还从Google首创东说念主Larry Page那边要到了大笔的预算。

谷歌猫神志搭建了一个神经收集，从YouTube高下载了大宗的视频，不作念记号，让模子我方不雅察和学习猫的特征，然后动用了遍布Google各个数据中心的16000个CPU来进行覆按（里面以过于复杂和成本高为由拒却使用GPU），最终终了74.8%的识别准确率。这一数字畏俱业界。

吴恩达在“谷歌猫”神志附进扫尾前洪水勇退，投身我方的互联网耕种神志，临走前他向公司推选了辛顿来接替他的职责。面对邀请，辛顿显露我方不会离开大学，只风景去Google“待一个夏天”。由于Google招聘规定的特殊性，时年64岁的辛顿成为了Google历史上最年长的暑期实习生。

辛顿从80年代运行就斗殴在东说念主工智能的最前方，作为耕种更是桃李满门（包括吴恩达），是深度学习边界的宗匠级东说念主物。因此，当他了解了“谷歌猫”神志的期间细节后，他随即就看到了神志收效背后的荫藏劣势：“他们运行了诞妄的神经收集，并使用了诞妄的诡计才略。”

雷同的任务，辛顿觉得我方不错作念的更好。于是在瞬息的“实习期”扫尾后，他随即参加举止。

辛顿找来了我方的两个学生——Ilya Sutskever和Alex Krizhevsky，两东说念主都是出身于苏联的犹太东说念主，前者极具数学天资，后者擅长工程终了，三东说念主密切配合后创建了一个新神经收集，然后随即参加了ImageNet图像识别比赛（ILSVRC），终末以惊东说念主的84%识别准确率夺得冠军 。

2012年10月，辛顿团队在佛罗伦萨举行的诡计机视觉会议上先容了冠军算法AlexNet，比拟谷歌猫用了16000颗CPU，AlexNet只用了4颗英伟达GPU，学术界和产业界透顶触动，AlexNet的论文成为诡计机科学史上最有影响力的论文之一，面前被引次数仍是卓越12万，而谷歌猫则被飞速淡忘。

DNNresearch公司三东说念主组

曾拿过第一届ImageNet大赛冠军的余凯读完论文后很是爽快，“像触电了一样”。余凯是又名出身于江西的深度学习大师，刚从NEC跳去，他随即给辛顿写邮件，抒发了配合的想法，辛顿陶然快乐，并索性把我方和两名学生打包成一家公司，邀请买家竞拍，于是便有了开始的那一幕。

拍卖落槌后，一场更大的竞赛张开了：Google乘胜逐北，2014年又把DeepMind收入囊中，“天地袼褙尽入网中”；而DeepMind则在2016年推出了AlphaGo，畏俱人人；输给Google的百度则下定决心押注AI，十年参加千亿，余凯自后帮百度请来了吴恩达，他我方则在几年后辞职创办了地平线。

微软名义上看慢了一拍，但最终却赢下了最大的战利品——OpenAI，后者的首创东说念主就包括辛顿两个学生之一的Ilya Sutskever。而辛顿我方则一直在Google待到2023年，期间荣获ACM图灵奖。天然，跟Google的4400万好意思元比（辛顿分得40%），图灵奖的100万好意思元奖金就显得像是零费钱了。

从6月的谷歌猫，到10月的AlexNet论文，再到12月的太浩湖竞拍，差未几6个月的时期里，AI海浪的伏笔简直被全部埋下——深度学习的闹热、GPU和英伟达的崛起、AlphaGo的称霸、Transformer的诞生、ChatGPT的横空出世……硅基盛世的高大乐章奏响了第一个音符。

2012年从6月到12月的180天，碳基东说念主类的荣幸被永久蜕变了——只消一丝东说念主意志到了这一丝。

液体猫

在这些一丝数东说念主中，斯坦福大学耕种李飞飞是其中之一。

2012年，当辛顿参加ImageNet比赛截止出炉时，刚生完孩子的李飞飞还在休产假，但辛顿团队的诞妄率让她意志到历史正在被改写。作为ImageNet挑战赛的创办者，她买了当天终末一班飞机飞往佛罗伦萨，躬举止辛顿团队受奖[2]。

李飞飞出身于北京，在成都长大，16岁时随父母侨民好意思国，一边在洗衣店维护，一边读完普林斯顿。2009年李飞飞进入斯坦福担任助理耕种，商酌标的是诡计机视觉与机器学习，这个学科的宗旨是让诡计机唐突像东说念主一样，我方阐明图片和影像的含义。

比如，当摄影机拍下一只猫时，它仅仅通过传感器把明朗滚动成了像素，并不知说念镜头里的东西是猫照旧狗。要是把摄影机比作念东说念主类的眼睛，诡计机视觉惩处的问题就是给摄影机装上东说念主的大脑。

传统的神志是将现实寰球中的事物抽象为数学模子，比如将猫的特征抽象为肤浅的几何图形，就能大幅度镌汰机器识别的难度。

图片来源：李飞飞的TED演讲

但这种念念路有相配大的局限性，因为猫很有可能是这样的：

为了让诡计机唐突识别“液体猫”，杰夫·辛顿、杨立昆（Yann LeCun）等一普遍深度学习前驱从80年代就运行了探索。但总会撞到算力或算法的瓶颈——好的算法宝贵敷裕的算力驱动，算力需求小的算法难以得意识别精度，无法产业化。

要是惩处不了“液体猫”的问题，深度学习的性感就只可停留在表面层面，自动驾驶、医疗影像、精确告白推送这些产业化场景就仅仅空中楼阁。

肤浅来说，深度学习的发展需要算法、算力、数据三驾马车来拉动，算法决定了诡计机用什么神志识别事物；但算法又需要敷裕大的算力来驱动；同期，算法的擢升又需要大范围高质料的数据；三者相反相成，不可偏废。

2000年后，尽管算力瓶颈追随芯片处理才略的突飞大进渐渐拔除，但主流学界对深度学习阶梯仍旧意思寡然。李飞飞意志到，瓶颈可能不是算法自己的精度，而在于结巴高质料、大范围的数据集。

李飞飞的启发来自三岁孩子阐明这个寰球的神志——以猫为例，孩子会在大东说念主的教养下一次又一次碰见猫，逐步掌抓猫的含义。要是把孩子的眼睛看成摄影机，眼球动掸一次等于按一次快门，那么，一个三岁的孩子就仍是拍摄了上亿张像片。

把这个形状套在诡计机上，假如给诡计机不息的看包含猫和其他动物的图片，同期在每张图片背后写下正确谜底。诡计机每看一次图片，就和后头的谜底查对一次。那么只消次数够多，诡计机就有可能像孩子一样掌抓猫的含义。

惟一需要惩处的问题就是：上哪找那么多写好谜底的图片？

李飞飞在2016年来到中国，告示谷歌AI中国中心成立

这就是ImageNet诞生的机会。其时，即即是最大范围的数据集PASCAL，也只消四个类别整个1578张图片，而李飞飞的宗旨是创建一个包含几百个类别整个上千万张的数据集。当今听起来似乎不难，但要知说念那是2006年，人人最流行的手机照旧诺基亚5300。

依靠亚马逊众包平台，李飞飞团队惩处了东说念主工标注的纷乱职责量。2009年，包含320万张图片的ImageNet数据集诞生。有了图片数据集，就不错在此基础上覆按算法，让诡计机擢升识别才略。但比拟三岁孩子的上亿张像片，320万的范围照旧太少了。

为了让数据集不息推论，李飞飞决定效仿业内流行的作念法，举办图片识别大赛，参赛者自带算法识别数据聚会的图片，准确率最高者得手。但深度学习阶梯在其时并不是主流，ImageNet一运行只可“挂靠”在欧洲着名赛事PASCAL底下，才智拼凑凑够参赛东说念主数。

到了2012年，ImageNet的图片数目扩大到了1000个类别整个1500万张，李飞飞用6年时期补足了数据这块短板。不过，ILSVRC的最佳得益诞妄率也有25%，在算法和算力上，依然莫得发达出敷裕的劝服力。

这时，辛顿淳厚带着AlexNet和两块GTX580显卡登场了。

卷积

辛顿团队的冠军算法AlexNet，领受了一种名叫（Convolutional Neural Networks，简称CNN）的算法。“神经收集”在东说念主工智能边界是个极其高频的词汇，亦然机器学习的一个分支，其称号和结构都取材自东说念主脑的运作神志。

东说念主类辨识物体的经由是瞳孔先摄入像素，大脑皮层通过角落和场合作念初步处理，然后大脑通过不息的抽象来判定。因此，东说念主脑不错证据一些特征就能判别出物体。

比如无谓展示整张脸，大部分东说念主都能认出下图中的东说念主是谁：

神经收集其实就是模拟东说念主脑的识别机制，表面上东说念主脑唐突终了的智能诡计机也能终了。相较SVM、决策树、偶然丛林等形状，只消模拟东说念主脑，才智处理访佛“液体猫”和“半个特朗普”这种非结构化数据。

但问题是，东说念主脑约有1000亿个神经元，神经元之间的节点（也就是突触）更是多达万亿，构成了一个无比复杂的收集。作为对比，用了16000个CPU构成的“谷歌猫”，里面共有10亿个节点，而这仍是是其时最复杂的诡计机系统了。

这亦然为什么连“东说念主工智能之父”Marvin Minsky都不看好这条阶梯，在2007年出书新书《The Emotion Machine》时，Minsky依然抒发了对神经收集的悲不雅。为了蜕变主流机器学习界对东说念主工神经收集的经久的颓靡魄力，辛顿干脆将其更名为深度学习（Deep Learning）。

2006年，辛顿在Science上发表了一篇论文，建议了“深度信念神经收集（DBNN）”的见解，给出了一种多层深度神经收集的覆按形状，被觉得是深度学习的首要毒害。但辛顿的形状需要失掉大宗的算力和数据，实践应用难以终了。

深度学习需要不息的给算法喂数据，其时的数据集范围都太小了，直到ImageNet出现。

ImageNet的前两届比赛里，参赛团队使用了其他的机器学习阶梯，截止都特别日常。而辛顿团队在2012年领受的卷积神经收集AlexNet，矫正自另一位深度学习前驱杨立昆（Yann LeCun），其在1998年建议的LeNet让算法不错提真金不怕火图像的障碍特征，比如特朗普的金发。

同期，卷积核会在输入图像上滑动，是以岂论被检测物体在哪个位置，都能被检测到换取的特征，大大减少了运算量。

AlexNet在经典的卷积神经收聚积构基础上，摈弃了此前的逐层无监督形状，对输入值进行有监督学习，大大提高了准确率。

比如下图中右下角的图片，AlexNet其实并莫得识别出正确谜底（马达加斯加猫），但它列出的都是和马达加斯加猫一样会爬树的微型哺乳动物，这意味着算法不仅不错识别对象自己，还不错证据其他物体进行揣摸[5]。

图片来源：AlexNet论文

而产业界感到奋斗的是，AlexNet有6000万个参数和65万个神经元，完整覆按ImageNet数据集至少需要262千万亿次浮点运算。但辛顿团队在一个星期的覆按经由中，只用了两块英伟达GTX 580显卡。

GPU

辛顿团队拿到冠军后，最痛苦的显著是Google。

传奇Google在里面也作念了ImageNet数据集的测试，但识别精度远远过期于辛顿团队。计划到Google领有业界无法企及的硬件资源，以及搜索和YouTube的纷乱数据范围，Google Brain更是带领钦点特事特办，其截止显著不具备敷裕的劝服力。

要是莫得这种巨大的反差，深度学习可能也不会在短时期内震撼业界，得到招供和普及。产业界感到奋斗的原因在于辛顿团队只用了四块GPU，就能达到这样好的效果，那么算力就不再是瓶颈。

算法在覆按时，会对神经收集每层的函数和参数进行分层运算，得到输出截止，而GPU偶合有相配强的并交运算才略。吴恩达在2009年的一篇论文中其实确认了这一丝，但在和Jeff Dean运行“谷歌猫”时，他们照旧用了CPU。自后Jeff Dean专门订购了200万好意思元的诱导，依然不包括GPU[6]。

辛顿是一丝数很早就意志到GPU之于深度学习巨大价值的东说念主，然则在AlexNet刷榜之前，高技术公司普遍对GPU魄力不解。

2009年，辛顿曾受邀去微软作念一个语音识别神志的短期期间参谋人，他建议神志正经东说念主邓力购买最顶级的英伟达GPU，还要搭配对应的职业器。这个想法得到了邓力的因循，但邓力的上级Alex Acero觉得这熟识乱费钱[6]，“GPU是用来玩游戏的，而不是用来作念东说念主工智能商酌的。”

邓力

情理的是，Alex Acero自后跳槽去了苹果，正经苹果的语音识别软件Siri。

而微软对GPU的忽闪其词显著让辛顿有些火大，他自后在一封邮件里建议邓力购买一套诱导，而我方则会买三套，况兼阴阳怪气的说[6]：毕竟咱们是一所财力淳朴的加拿大大学，不是一家资金病笃的软件销售商。

但在2012年ImageNet挑战赛扫尾后，整个东说念主工智能学者和科技公司都对GPU来了个180度大转弯。2014年，Google的GoogLeNet以93%的识别准确率夺冠，领受的恰是英伟达GPU，这一年，整个参赛团队GPU的使用数目飙升到了110块。

这届挑战赛之是以被视为“大爆炸时刻”，在于深度学习的三驾马车——算法、算力、数据上的短板都被补足，产业化只剩下了时期问题。

算法层面，辛顿团队发表的对于AlexNet的论文，成为诡计机科学边界被援用次数最多的论文之一。底本各抒已见的期间阶梯成了深度学习一家独大，简直整个的诡计机视觉商酌都转向了神经收集。

算力层面，GPU超强并行诡计才略与深度学习的相宜性飞速被业界招供，六年前运行布局CUDA的英伟达成为了最大的赢家。

数据层面，ImageNet成为图像处理算法的试金石，有了高质料的数据集，算法识别精过活行沉。2017年终末一届挑战赛，冠军算法的识别准确率达到97.3%，卓越了东说念主类。

2012年10月底，辛顿的学生Alex Krizhevsky介怀大利佛罗伦萨的诡计机视觉会议上公布了论文。然后，全寰球的高技术公司运行不计成土产货两件事：一是买光英伟达的显卡，二是挖光大学里的AI商酌员。

太浩湖的4400万好意思元，给人人的深度学习大神作念了一次从头订价。

夺旗

从公开可查的信息看，其时还在百度的余凯确凿是第一个来挖辛顿的东说念主。

其时，余凯在百度担任百度多媒体部的正经东说念主，也就是百度深度学习商酌院（IDL）的前身。在收到余凯的邮件后，辛顿很快就申诉说快乐配合，顺带建议了但愿百度提供一些经费的愿望。余凯问具体数字，辛顿显露100万好意思元就够——这个数字低到令东说念主难以置信，只可雇两个P8。

余凯向李彦宏陈诉，后者阴凉地答理。余凯申诉没问题后，辛顿可能感受到了产业界的饥渴，就商议余凯是否介意我方问问其他家，比如Google。余凯自后在回忆说念[6]：

“我其时有点儿后悔，猜我可能回答得太快了，让辛顿意志到了巨大的机会。但是，我也只可大度地说不介意。”

最终百度跟辛顿团队交臂失之。但对于这个截止，余凯并非莫得神志准备。因为一方面辛顿有严重的腰椎间盘健康问题，不成开车，也不成坐飞机，很难承受跳跃太平洋的中国之旅；另一方面，辛顿有太多的学生和一又友在Google职责了，两边渊源太深，其他三家实质上就是在陪标。

要是说AlexNet的影响还聚会在学术圈的话，那么太浩湖的微妙拍卖则透顶畏俱了产业界——因为Google在人人科技公司的眼皮子底下，花了4400万好意思元买了一家成立不到一个月、莫得家具、莫得收入，只消三个职工和几篇论文的公司。

最受刺激的显著是百度，天然在拍卖上折戟，但百度治理层亲眼目击了Google若何不吝代价投资深度学习，促使百度下定决心参加，并在2013年1月的年会上告示成立深度学习商酌院IDL。2014年5月，百度请来了“谷歌猫”神志的障碍东说念主物吴恩达，2017年1月，又请来了离开微软的陆奇。

而Google在拿下辛顿团队后再接再厉，在2014年以6亿好意思元买下了以前的竞拍敌手DeepMind。

其时，马斯克向Google首创东说念主Larry Page推选了我方投资的DeepMind，为了能带上辛顿一齐去伦敦验验成色，Google团队还专门包了架私东说念主飞机，况兼改造了座椅，惩处辛顿不成坐飞机的问题[6]。

“英国选手”DeepMind在围棋比赛上征服了李世石，2016年

和Google争夺DeepMind的是Facebook。当DeepMind花落Google后，扎克伯格转而挖来了“深度学习三巨头”之一的杨立昆。为了将杨立昆纳入麾下，扎克伯格答理了他好多尖酸条款，比如AI实验室开发在纽约，实验室与家具团队十足划清界限，允许杨立昆接续在纽约大学任职等等。

2012年ImageNet挑战赛后，东说念主工智能边界濒临着相配严重的“东说念主才供需错配”问题：

由于推选算法、图像识别、自动驾驶这些产业化空间被飞速绽开，东说念主才需求量暴增。但由于经久不被看好，深度学习的商酌者是个很小的圈子，顶级学者更是两只手数得过来，供给严重不及。

这种情况下，如饥似渴的科技公司只可购买“东说念主才期货”：把耕种挖过来，然后等他们把我方的学生也带进来。

杨立昆加入Facebook后，先后有六名学生跟随他入职。准备在造车上撺拳拢袖的苹果挖来了辛顿的学生Ruslan Salakhutdinov，担任苹果首任AI总监。就连对冲基金Citadel也加入了抢东说念主大战，挖走了以前和辛顿搞语音识别、自后还代表微软参与微妙竞拍的邓力。

尔后的历史咱们再明白不过：东说念主脸识别、机器翻译、自动驾驶等产业化场景日行沉，GPU订单雪花一般飘向圣克拉拉的英伟达总部，东说念主工智能的表面大厦也在无时无刻的浇筑。

2017年，Google在论文《Attention is all you need》里建议Transformer模子，开启了如今的大模子时期。几年后，ChatGPT横空出世。

而这一切的诞生，都不错记忆到2012年的ImageNet挑战赛。

那么，推进2012年“大爆炸时刻”诞生的历史进度，又是在哪一年娇傲的呢？

谜底是2006年。

伟大

在2006年之前，深度学习的近况不错借用开尔文男爵的那句名言来抽象：深度学习的大厦仍是基本建成了，只不过在阳光灿烂的天际下，涟漪着三朵小乌云。

这三朵小乌云就是算法、算力和数据。

正如前文所说，由于模拟了东说念主脑的机制，深度学习是一种在表面上相配竣工的有策画。但问题在于，岂论是它需要吞吃的数据，照旧需要失掉的算力，在其时都是一个科幻级别的范围，科幻到学术界对深度学习的主流看法是：脑子正常的学者不会商酌神经收集。

但2006年发生的三件事蜕变了这一丝：

辛顿和学生Salakhutdinov（就是自后去苹果的那位）在Science上发表了论文Reducing the dimensionality of data with neural networks，第一次建议了有用惩处梯度磨灭问题的惩处有策画，让算法层面迈出了一大步。

Salakhutdinov（左一）与辛顿（中），2016年

斯坦福大学的李飞飞意志到，要是数据范围难以复原现实寰球的原貌，那么再好的算法也很难通过覆按达到“模拟东说念主脑”的效果。于是，她运行入部属手搭建ImageNet数据集。

英伟达发布Tesla架构的新款GPU，并随之推出CUDA平台，开发者诈欺GPU来覆按深度神经收集的难度大幅度镌汰，规避而视算力门槛被砍掉了一大截。

这三件事的发生吹散了深度学习上空的三朵乌云，并在2012年的ImageNet挑战赛上交织，透顶改写了高技术产业乃至整个这个词东说念主类社会的荣幸。

但在2006年，岂论是杰夫·辛顿、李飞飞、黄仁勋，照旧其他推进深度学习发展的东说念主，显著都无法想到东说念主工智能在尔后的闹热，更无谓说他们所上演的变装了。

Hinton和Salakhutdinov的论文

时于本日，AI为中枢驱动的第四次工业翻新又开启了，东说念主工智能的演进速率只会越来越快。要是说咱们能得到若干启发，也许不过乎以下三点：

1.产业的厚度决定创新的高度。

ChatGPT横空出世时，“为什么又是好意思国”的声息连三接二。但要是把时期拉长，会发现从晶体管、集成电路，到Unix、x86架构，再到如今的机器学习，好意思国粹界和产业界简直都是领跑者的变装。

这是因为，天然对于好意思国“产业空腹化”的策划接续于耳，但以软件为中枢的诡计机科学这门产业，不仅从未“外流”到其他经济体，反而上风越来越大。于今70多位ACM图灵奖的取得者，简直全部是好意思国东说念主。

吴恩达之是以采取Google配合“谷歌猫”神志，很大程度上是因为只消Google领有算法覆按所需要的数据和算力，而这又成立在Google强盛的盈利才略的基础上。这就是产业厚度带来的上风——东说念主才、投资、创新才略都会向产业的高地迫临。

中国在自身的上风产业里，也在体现出这种“厚度上风”。现时最典型的就是新动力车，一边是欧洲车企包机来中国车展拜师新势力，一边是日本车企高管时常跳槽到比亚迪——图什么呢？显著不是只图能在深圳交社保。

2.越是前沿的期间边界，东说念主才的紧迫性越大。

Google之是以风景花4400万好意思元买下辛顿的公司，是因为在深度学习这样的前沿期间边界，一个顶级学者的作用，经常大过一万个诡计机视觉专科的应届生。假如其时竞拍收效的是百度或微软，东说念主工智能的发展条理可能都会被改写。

这种“为了你买下整个这个词公司”的举止，其实非时时见。苹果自研芯片的障碍阶段，顺遂买了一家PASemi的小公司，就是为了把芯片架构大神Jim Keller挖到手——苹果的A4、AMD的Zen、特斯拉的FSD芯片，都得到了Jim Keller的期间扶贫。

这亦然产业竞争力带来的最大上风——对东说念主才的勾引力。

“深度学习三巨头”莫得一个是好意思国东说念主，AlexNet这个名字来自辛顿的学生Alex Krizhevsky，他出身在苏联治下的乌克兰，在以色列长大，来加拿大念书。更无谓说如今还活跃在好意思国高技术公司的稠密华东说念主面目。

3.创新的难度在于，若何面对不笃定性。

除了“东说念主工智能之父”Marvin Minsky反对深度学习除外，另一个着名深度学习反对者是加州大学伯克利分校的Jitendra Malik，辛顿和吴恩达都被他冷嘲热讽过。李飞飞在搭建ImageNet时曾经参谋过Malik，后者给她的建议是：Do something more useful（作念点更有用的事）。

李飞飞Ted演讲

恰是这些行业前驱的不看好，导致深度学习经验了数十年的万马王人喑。即便到了2006年辛顿撕开了一束晨曦，三巨头的另一位杨立昆还在反复向学术界确认“深度学习也有商酌价值”。

杨立昆从80年代就运行商酌神经收集，在贝尔实验室期间，杨立昆就和共事遐想了一种名叫ANNA的芯片，试图惩处算力问题。自后AT&T由于策画压力条款商酌部门“赋能业务”，杨立昆的回答是“我就是要商酌诡计机视觉，有武艺你衔命我”。最终求锤得锤，喜提N+1[6]。

任何前沿期间边界的商酌者都必须面对一个问题——要是这个东西作念不出来何如办？

从1972年进入爱丁堡大学算起，辛顿在深度学习的前方仍是苦战了50年。2012年ImageNet挑战赛举办时，他仍是65岁了。很难设想他在漫长的时期里面对学术界的种种质疑，需要消解若干自我怀疑与辩白。

如今咱们知说念，2006年的辛顿仍是宝石到了早晨前终末的昏黑，但他我方也许并不知说念这一丝，更无谓说整个这个词学术界和产业界。就像2007年iPhone发布时，大多数东说念主的反映可能和时任微软CEO鲍尔默是一样的：

面前，iPhone依然是寰球上最贵的手机，而且莫得键盘

推进历史的东说念主，经常猜不到我方在历史进度中的坐标。

伟大之是以为伟大，不是因为其横空出世时的惊艳，而是因为它要在宽绰昏黑中，隐忍漫长的籍籍无名与不被阐明。直到多年之后，东说念主们才智顺着这些标尺，称许那时群星时髦，天才辈出。

一个又一个科学商酌的边界里，无数的学者终其一世都不曾窥见但愿的微光。因而从某种角度看，辛顿和其他深度学习推进者是荣幸的，他们创造了伟大，转折推进了产业界一个又一个收效。

老本阛阓会给收效定一个公允的价钱，历史则纪录那些创造伟大的孑然和汗水。

作家：李墨天

裁剪：戴雇主

视觉遐想：疏睿

背负裁剪：李墨天

商酌因循：陈彬、陈畅

参考文件

[1] 16000台电脑一齐找猫，纽约时报[2] Fei-Fei Li's Quest to Make AI Better for Humanity，Wired[3] 李飞飞的TED演讲[4] 21秒看尽ImageNet屠榜模子，60+模子架构同台表演，机器之心[5] 卷积神经收集的“封神之路”：一切始于AlexNet，新智元[6] 深度学习翻新，凯德·梅茨[7] To Find AI Engineers, Google and Facebook Hire Their Professors，The Information[8] 深度学习三十年创新路，朱珑[9] ImageNet这八年：李飞飞和她蜕变的AI寰球，量子位[10] DEEP LEARNING: PREVIOUS AND PRESENT APPLICATIONS，Ramiro Vargas[11] Review of deep learning: concepts, CNN architectures, challenges, applications, future directions，Laith Alzubaidi等[12] Literature Review of Deep Learning Research Areas，Mutlu Yapıcı等[13] ChatGPT背后委果的袼褙：OpenAI首席科学家Ilya Sutskever的信仰之跃，新智元[14] 10 years later, deep learning ‘revolution’ rages on, say AI pioneers Hinton, LeCun and Li，Venturebeat[15] From not working to neural networking，经济学东说念主[16] Huge “foundation models” are turbo-charging AI progress，经济学东说念主[17] 2012: A Breakthrough Year for Deep Learning，Bryan House[18] 深度学习：东说念主工智能的“神奇魔杖”，安信证券[19] 深度学习算法发展:从各种到长入 ，国金证券

翌日地午，2024年诺贝尔奖还将公布化学奖。果壳依然会跟你一齐恭候诺奖的截止，并在第一时期发布最靠谱的诺奖解读。

快来热心，不要错过！

点击图片进入积年诺贝尔奖解读书册

本文经授权转载自远川商酌所（ID：YuanChuanInstitution），如需二次转载请联系原作家。宽饶转发到一又友圈。