黄仁勋：英伟达之芯

版权信息 COPYRIGHT 书名：黄仁勋：英伟达之芯作者：【美】斯蒂芬·威特出版社：中国财政经济出版社·湛庐文化出版时间：2024年12月ISBN：9787522335568字数：216千字 献给简即使对看似不可能的事情也要练习。马库斯·奥勒留MarcusAurelius 推荐序 从摩尔定律到黄氏定律 沈向洋 美国国家工程院外籍院士 香港科技大学校董会主席 一周前，我在香港科技大学接待了黄仁勋博士，他刚接受了荣誉博士头衔，成为我们的校友。 在授衔仪式后，在和他的公开活动“炉边谈话”中，我请在这家过去10年市值增长了近300倍的公司担任30多年CEO的黄仁勋，和大家分享创业建议。 我问黄仁勋：“除了你20岁时，给你太太洛丽的承诺，30岁时一定要成为CEO，你还有什么别的创业建议分享给我们的学生吗？” 黄仁勋玩笑回应说：“那句话是我追我太太的说辞啦。我是班级里最小的孩子，我认为我当时唯一的优势就是看上去比较聪明。所以我和我太太说的第一句话是，‘你想看看我的作业吗？’。”全场哄堂大笑。 黄仁勋接着说：“后来我想向洛丽求婚，我那时才20岁，鼓足勇气承诺30岁成为CEO，其实我不知道成为CEO意味着什么。” 敢做梦，善思考，能实现。如果把上面黄仁勋追太太的段子，换成他创办和塑造英伟达的故事，也一样成立。而黄仁勋正在英伟达实现的梦想足以改变人工智能技术发展，改变计算机行业，改变世界。 我在微软公司工作时，曾在西雅图总部多次接待黄仁勋。2004年初他来访时，正逢Windows系统版本迭代，这是大部分来访贵宾的关注重点。黄仁勋与众不同，他对我们说：“我真的不关心Windows的更新， 我最关心有什么新的workload（计算机工作量）。我们英伟达能帮助和引领计算机行业的发展。” 后来，他点名提出想和微软研究院深度学习组的同事交流。那是2014年初，深度学习当时并没有在计算机产业的舞台中央，而是早期探索者的天地。10年后的今天，这个领域成为计算机行业最大的workload之一。 要理解黄仁勋对人工智能的贡献，离不开这个数字：8年1000倍。根据英伟达官方博客，在过去8年里，英伟达的算力实现了1000倍的增长！ 20世纪60年代，英特尔创始人之一戈登·摩尔提出，每隔约两年集成电路上可容纳的晶体管数目会增加一倍（后由英特尔CEO大卫·豪斯提出，预计每18个月芯片性能会提高一倍）。在摩尔定律下，10年的算力可以实现约100倍的增长。相比8年1000倍，这意味着英伟达已经把算力基础设施从摩尔定律，带入黄氏定律的时代从摩尔定律到黄氏定律的意义，让我们略窥一二。 图灵奖得主杰弗里·辛顿曾在访问西雅图微软研究院期间，完成了极大推动深度神经网络在语音识别的研究工作。回到多伦多大学后，辛顿和他的两位学生研发出计算机视觉领域深度神经网络系统AlexNet。在AlexNet相关论文发表的2012年，同样计算使用两块英伟达生产的GTX580GPU需要训练6天，而使用2018年时常见的英伟达DGX-2仅需18分钟。辛顿曾说，因为算力的稀缺，他的这项工作的研究方向一度并不被看好，甚至很难立项。 算力从贫瘠到可用，某种程度上可以决定一项划时代研究工作的命运。 如果你未曾做过计算机基础科研，对这个比照不够熟悉的话，那么全世界都在使用的语音助手、刷脸支付，乃至整个人工智能技术的产业化，都因为底层计算能力的大幅提升而拥有了可能性。 摩尔定律为20世纪后半叶的世界经济增长筑底，驱动了一系列科技创新，生产效率的提高和社会的改革。个人电脑、互联网、智能手机等领域的技术创新都离不开摩尔定律。而现在黄仁勋和他的英伟达，正以远超摩尔定律的速度，几乎是凭借一己之力，交付着人工智能算力能力的增长。 历史从不重复，但总是押着韵脚。也许我们马上就会经历人工智能时代寒武纪般的创新物种的大爆发。 算力就是生产力。算力的富足将我们带入计算时代。算力重新锚定了科技创新的坐标，在这个坐标系中，我们将摆脱算力贫瘠的假定，站到人类发展进程中的下一个真问题面前：那么，计算什么。 人们往往在尘埃落定之后，来勾勒一个伟大的故事。黄仁勋传记的不同在于，他伟大的创业故事还在继续。展现这个未完待续故事的必要性在于，它的起意、发生、发展，正在颠覆我们现在所熟悉的一切。这样来看，不管你是否身处正在经历巨变的人工智能行业，阅读这本传记都意义非凡。 这是一部我非常推荐的传记。黄仁勋正用他的努力和远见告诉我们，所有华彩，皆为序章。 2024年12月 于香港清水湾 引言 他并非总是赢家，可一旦赢了就是大手笔 这是一个关于一家小众电子游戏硬件供应商如何成为全球最具价值公司的故事。 这是一位倔强的企业家如何持续推行自己对计算机技术的激进愿景，30年间成为当今世界最富有的人之一的故事。 这是一个伟大的硅芯片革命的故事，是一小群叛逆的工程师如何不顾华尔街的反对，促使这一切发生的故事。 这也是一个关于一种新型人工智能诞生的故事，它令人惊叹，又让人畏惧，而且它对人类的长远影响尚不可知。 故事的主角是一位充满冲劲、喜怒无常，但又才华横溢且极其专注的人。他的名字叫黄仁勋。黄仁勋担任公司CEO已达32年，是标准普尔500指数所有科技公司中任期最长的CEO。同时，他还是一位颇有远见的发明家，他对电子电路的内部机理了如指掌。他能从第一性原理推导出今天的微芯片有何功能，并满怀信念地赌它们明天将有更大的作为。 他并非总是赢家，可一旦赢了就是大手笔：他对早期人工智能的全面投入是硅谷历史上最精彩的投资之一。他的公司英伟达市值达到3.5万亿美元，超越苹果和微软，成为全球市值第一的公司（截至2024年11月）。 黄仁勋本人很有魅力，风趣幽默，常常自我调侃，却又经常表现得自相矛盾。他总是用一种半开玩笑式的诙谐口吻说话，往往又表现得很严肃。2023年，我们在丹尼餐厅共进早餐，那是他最喜欢的连锁餐厅。30年前，黄仁勋就是在这家餐厅制订了英伟达的商业计划书；那天，在和服务员聊天时，他点了7样东西，包括一个“超级鸟”三明治 （SuperBird）和一份炸鸡排。“你知道吗，我以前在这儿当过洗碗工，”他对服务员说，“但我工作很努力！真的特别努力。所以我才升为了餐厅服务员。” 黄仁勋出生于中国台湾，10岁时移民到美国。丹尼餐厅是他融入美国社会的一个试验场——得益于在那里工作，青少年的他就几乎尝遍了菜单上的所有菜品。不过，他告诉我，他始终保持着一种“外来者”的视角。“我永远是个移民，”他说，“在内心深处，我依然是中国人。”1993年，他与其他人共同创办了英伟达，当时他30岁。英伟达最初瞄准的是新兴的高端电子游戏图形处理市场。那时候，他的产品深受欢迎——他的客户们喜欢自己组装电脑，有时还会购买透明机箱来展示英伟达的硬件。 在成功率为零的领域，冒险押注 20世纪90年代末，为了更好地渲染《雷神之锤》系列游戏的画面，英伟达对其处理器的电路架构做了微妙的调整，使其能够同时处理多个问题。这种被称为“并行计算”的方法是一次激进的赌博。“在我们涉足之前，并行计算的成功率是零。”黄仁勋一边说着，一边列举出一长串已被人遗忘的初创企业。“真的是零。所有试图商业化的人都失败了。”但黄仁勋无视这一令人沮丧的纪录，勇敢地与华尔街背道而驰，10多年来坚持追求自己与众不同的构想。他开始寻找除游戏玩家之外的客户，那些需要大量算力的客户——气候科学家、放射科医生、深海石油勘探者，等等。在此期间，英伟达的股价大幅下跌，他不得不抵御恶意收购者的攻击以保住自己的职位。 黄仁勋坚持这一构想很多年，这也让他遭受了连年的亏损，直到2012年，多伦多一群持不同见解的学者购买了两张消费级视频游戏显卡，用来训练一种奇特的人工智能——神经网络。当时，模仿生物大脑结构的神经网络备受冷落，大多数研究人员认为它们只是过时的玩意儿。然而，当黄仁勋看到神经网络在他的并行计算平台上的训练速度如此之快时，他毅然决定将整个公司的命运押注在这种出人意料 的共生关系上。黄仁勋现在需要的是让这两种曾在市场上失败过的技术能够一起发挥作用。 这一冒险的企业战略最终押注成功，英伟达的市值飙升数百倍。在过去的10年里，该公司已经从销售200美元的游戏配件，发展到提供价值数百万美元、能摆满一整层楼的超级计算设备。通过与OpenAI等先锋企业合作，英伟达连续10年每年将深度学习应用程序的速度提高了10倍。所有主流的人工智能应用，如Midjourney、ChatGPT、Copilot等，都是在英伟达的机器上开发出来的。正是由于算力成千亿倍的增长，才使得现代人工智能的繁荣成为可能。 凭借在硬件上近乎垄断的地位，黄仁勋无疑成了人工智能领域最具影响力的人物。毋庸置疑，他从中赚取的财富也比其他任何人都要多。黄仁勋与在淘金热潮中诞生的加利福尼亚州首位百万富翁塞缪尔·布兰南（SamuelBrannan）颇为相似，布兰南是19世纪40年代末旧金山知名的淘金设备供应商。只不过黄仁勋卖的不是铲子，而是售价3万美元、包含1000亿个晶体管的人工智能训练芯片。如今，想要购买他最新硬件的顾客，需等待超过1年的时间；而在黑市中，他的芯片价格甚至是官方售价的两倍。 人工智能纯粹是推动进步的力量 黄仁勋思考问题的方式并不像商人，更像工程师。他擅长将复杂的概念分解为简单的原则，并运用这些原则创造出卓越成果。“我会竭尽全力不让公司倒闭，”他在吃早餐时和我说，“我会拼尽全力避免失败。”黄仁勋认为，随着人工智能的发展，自20世纪60年代初由IBM推出以来几乎未曾改变过的数字计算基础架构，如今正面临着被重塑的现实。“深度学习并非一种算法，”他说，“它是一种方法，一种全新的软件开发方式。” 这种新型软件拥有令人叹为观止的能力。它能像人一样交谈、撰写大学论文、解决复杂的数学问题、提供专家级的医疗诊断，还能共同主 持播客节目。随着可用算力的增强，它的性能也不断得到提升，似乎永远不会达到瓶颈。 在与黄仁勋共进早餐的前一天晚上，我观看了一段视频，视频中一个搭载了这种新型软件的机器人先是若有所思地盯着自己的双手，然后它好像识别出了那是自己的手，便开始对一堆彩色积木进行分类。这段视频让我不寒而栗，人类这一物种的淘汰似乎已经近在眼前。黄仁勋用手指将煎饼裹住香肠，对我的担忧不以为意。“我清楚它的工作原理，没什么好担心的，”他解释道，“这与微波炉的运作并无二致。”我继续向他追问——一个自主行动的机器人肯定会带来微波炉所没有的风险。他回应道，自己从未对这项技术有过丝毫担忧。“它仅仅是在处理数据而已，”他轻描淡写地说，“世上还有很多更值得我们担心的事情。” 未来的走向没人能够预料。许多技术专家如今都忧心忡忡，认为人工智能的能力已经对人类物种的生存构成了直接威胁（在这些持“末日论”观点的人士中，就包括最初在黄仁勋的平台上实现了人工智能突破的那些科学家）。然而，黄仁勋对这种悲观论调嗤之以鼻。在他看来，人工智能纯粹是推动进步的力量，他认为，人工智能正在引领一场崭新的工业革命。在这个话题上，他不容许有太多异议，而且他的个性强势，可能会让人有点望而生畏。（“和黄仁勋打交道，就像把手指伸进电源插座一样。”他的一位高管这样说道。）黄仁勋的员工对他极为崇拜——我觉得要是他看到摩天大楼窗外有商业机会，员工们会毫不犹豫地跟着他跳出去。 约翰·亨利是美国19世纪铁路工人中的一员，曾与蒸汽钻头比赛挖掘隧道，最终因疲劳过度而命丧黄泉。约翰·亨利时刻也就是指机器在某些方面超越人类的时刻。 2023年5月，数百名行业领袖签署了一份声明，将失控的人工智能所带来的风险与核战争的风险相提并论。黄仁勋并未在这份声明上签字。一些经济学家注意到，工业革命导致全球马匹数量相对减少，他们由此担心人工智能是否也会对人类造成同样的影响。“马能干的活有限，”黄仁勋说，“比如，马不会打字。”吃完饭后，我表达了自己的担 忧：不久的将来，如果将我们的谈话笔记输入一个智能引擎中，它将会产生条理更清晰、质量更上乘的文章。黄仁勋并没有否定这种可能性，但他向我保证，在我遭遇像