作者 | 小小红盘策略
出品 | 科技
CES 2026最具热度的演讲，无疑属于创始人兼CEO。这位被业界称为“黄衣教主”的业界领袖，定于美国时间1月5日下午1点开讲，却让慕名而来的听众早早体验了“未来热度”——网易科技上午11点到达时，场外排队队伍已蜿蜒近500米。有前来参会的中国KOL感叹：“我们等的不仅是黄仁勋，更是在等一个答案：未来十年，人与机器将如何重新分工。而有些答案，似乎只在现场才能听见。”
黄仁勋比预定时间晚了约十分钟登上舞台。他抛出核心判断：“物理AI的‘ChatGPT时刻’，即将到来。”
黄仁勋指出，计算机行业正经历十年一遇的“平台重置”：我们正从“编程软件”时代跨入“训练软件”时代，计算的基础技术栈（所谓的“五层蛋糕”），每一层都在被重新发明。
2025年被黄仁勋定义为“智能体系统”普及的元年。AI不再仅仅是预先录制的程序，而是具备推理、规划、甚至在实时运行中进行“思考”的智能体。他特别致敬了中国开源模型DeepSeek R1的突破，认为开源力量正让AI变得无处不在，使智能不再抛下任何人。
黄仁勋演讲的重头戏在于“物理AI”。英伟达正致力于让AI理解重力、惯性、因果关系等物理定律。为此，黄仁勋发布了世界首个会思考、会推理的自动驾驶AI——Alpamayo。它不仅能开车，还能像人类一样解释“为什么这么开”。这标志着AI正式从屏幕后的对话框，走向现实世界的自动驾驶汽车与人形机器人。
面对AI计算量每年10倍的暴增，黄仁勋祭出了新一代架构Rubin。这不仅是一颗芯片，而是包含Vera CPU、Rubin GPU、NVLink-6等六大核心组件的全栈革命。
黄仁勋强调，英伟达的角色已从芯片供应商转变为“全栈AI体系”的构建者。通过开源模型、数据及NeMo开发库，英伟达正通过“三台计算机”（训练、推理、模拟）的架构，为全球提供构建物理AI的底座。这场竞赛不仅关乎速度，更关乎谁能以更低的成本、更高的能效，将人类文明带入万物皆有智能的新时代。
以下为黄仁勋2026 CES演讲实录（经编辑略有修改，小标题为后加）：
一、时代定调：两大“平台转移”与AI的重塑之力
拉斯维加斯，新年快乐！欢迎来到CES。
大约每十到十五年，计算机行业就会经历一次重置。平台会发生一次根本性的转变，从大型机到个人电脑，再到互联网、云计算、移动设备。每一次，应用生态都会瞄准一个新的平台，这就是所谓的“平台转移”。每次，你都要为新的计算平台编写新的应用程序。但这一次，事实上，有两个平台转移在同时发生。
当我们迈向人工智能时代时，应用程序将构建在AI之上。起初，人们认为AI本身就是应用，事实也确实如此。但未来，你将要在AI之上构建应用程序。除此之外，软件的运行方式和开发方式也发生了根本性改变。
计算机工业的整个基础技术栈正在被重新发明。你不再“编程”软件，而是“训练”软件；你不再在CPU上运行它，而是在GPU上运行它。过去的应用程序是预先录制、预先编译并在你的设备上运行的，而现在的应用程序能够理解上下文，每一次、每一个像素、每一个token都是从零开始生成的。由于加速计算，由于人工智能，计算已经被彻底重塑。那个“五层蛋糕”（指技术栈）的每一层如今都在被重新发明。
这意味着，过去十年积累的价值约十万亿美元的计算机基础设施，现在正被现代化改造，以适应这种新的计算方式。每年有数千亿甚至上万亿美元的风险投资正在涌入，用于现代化改造和发明这个新世界。
这也意味着，一个百万亿美元规模的产业，其研发预算中有几个百分点正在转向人工智能。人们问钱从哪里来？这就是来源。从传统AI到现代AI的现代化改造，研发预算从经典方法转向现在的人工智能方法，海量投资正涌入这个行业，这解释了为什么我们如此忙碌。
过去这一年也不例外。2025年是不可思议的一年。看起来似乎所有事情都在同一时间发生，事实上可能也确实如此。第一件事当然是扩展定律（Scaling Laws）。2015年，我认为第一个真正会产生影响的模型BERT出现了，它确实带来了巨大影响。
2017年，Transformer架构问世。直到五年后的2022年，“ChatGPT时刻”才发生，它唤醒了世界对人工智能可能性的认识。那之后一年发生了一件非常重要的事。ChatGPT的第一个推理模型o1面世，“测试时缩放”这个概念也随之产生。
我们不仅预训练让模型学习，还在后训练阶段通过强化学习让它学习新的技能。现在我们还有了测试时缩放，这本质上是“思考”的另一种说法，包括实时进行思考。人工智能的每一个阶段都需要巨大的计算量，而计算定律仍在持续扩展，大语言模型持续变得更好。
二、开源革命：前沿模型与智能体普及
与此同时，另一个突破发生了，这个突破发生在2024年：智能体系统开始出现。到2025年，它开始普及，扩散到几乎每个角落。具备推理能力、能查找信息、进行研究、使用工具、规划未来、模拟结果的智能体模型，突然开始解决非常重要的问题。我最喜欢的智能体模型之一叫做Cursor，它彻底改变了英伟达内部的软件开发方式。智能体系统将真正从这里起飞。
当然，还有其他类型的AI。我们知道大语言模型并不是唯一的信息类型。宇宙中凡有信息之处、凡有结构之处，我们都能教一种语言模型去理解那种信息，理解其表征，并将其转化为一种AI。其中最重要的一种是物理AI，即能够理解自然定律的AI。当然，物理AI也涉及AI与世界交互。但世界本身蕴含着被编码的信息，这就是“AI物理”。在物理AI的语境下，你有与物理世界交互的AI，也有理解物理定律物理AI。
最后，去年发生的最重要事情之一是开源模型的进步。我们现在可以知道，当开源、当开放创新、当全世界每个行业、每家公司的创新同时被激活时，AI将无处不在。与此同时，开源模型在2025年真正起飞了。
事实上，去年我们看到了DeepSeek R1的进步，这是第一个开源推理系统。它让世界大吃一惊，现在世界各地有各种不同类型的开源模型系统。开源模型已经达到了前沿水平，虽然仍落后前沿模型大约六个月，但每六个月就有新模型出现，而且这些模型越来越聪明。
正因为如此，你可以看到开源模型的下载量呈现爆炸式增长，因为初创公司、大公司、研究员、学生，几乎每个国家都想参与AI革命。
智能——数字形式的智能——怎么可能抛下任何人呢？因此，开源模型去年真的彻底改变了人工智能，整个行业将因此被重塑。
其实我们对此早有预感。你可能听说过，几年前，我们开始建造和运营自己的AI超级计算机——DGX Cloud。很多人问，你们要进军云计算业务吗？答案是否定的。我们建造这些DGX超级计算机是供自己使用的。结果是，我们有数十亿美元的超算在运行，以便开发我们的开源模型。
它开始吸引全球各行各业的关注，因为我们在众多不同领域进行着前沿的AI模型工作：我们在蛋白质、数字生物学（La Proteina）方面的工作，用于合成和生成蛋白质；OpenFold 3，用于理解蛋白质结构；EVO 2，用于理解和生成多种蛋白质；以及开源的细胞表征模型的开端。
Earth-2 AI，理解物理定律的AI；我们在ForecastNet方面的工作；我们在Cordiff方面的工作，真的彻底改变了人们进行天气预报的方式。Nemotron，我们现在正在那里进行开创性的工作。第一个混合Transformer SSM模型，速度快得惊人，因此可以进行长时间思考，或者快速思考（不那么长时间）并产生非常非常智能的答案。你们可以期待，我们在不久的将来发布Nemotron 3的其他版本。
Cosmos，一个前沿的开放世界基础模型，理解世界如何运作。Groot，一个人形机器人系统，涉及关节控制、移动性、运动。这些模型，这些技术现在正在被集成，并且在每一种情况下，都对世界开源。今天，我们也将谈谈Alpamayo，我们在自动驾驶汽车方面所做的工作。
我们不仅开源模型，还开源用于训练这些模型的数据，因为只有这样，你才能真正信任模型的产生过程。我们开源所有模型，我们帮助你基于它们进行衍生开发。我们有一整套库，称为NeMo库：物理NeMo库、Clara NeMo库、BioNeMo库。每一个都是AI的生命周期管理系统，让你能够处理数据、生成数据、训练模型、创建模型、评估模型、为模型设置防护栏，一直到部署模型。每一个库都极其复杂，而且全部开源。
因此，在这个平台之上，英伟达也是一个前沿AI模型构建者，我们以一种非常特殊的方式构建：我们完全以开放的方式构建，以便让每家公司、每个行业、每个国家都能成为这场AI革命的一部分。
这些模型不仅具备前沿能力、是开源的，它们还在各类排行榜上名列前茅。我们有理解多模态文档（即PDF）的重要模型。世界上最有价值的内容都存储在PDF中，但需要人工智能来发现里面有什么、解读内容并帮助你阅读。
因此，我们的PDF检索器、PDF解析器是世界级的。我们的语音识别模型绝对是世界级的。我们的检索模型，本质上是现代AI时代的搜索、语义搜索、AI搜索、数据库引擎，也是世界一流的。所以我们经常占据榜首。
所有这些都是为了服务于你构建AI智能体的能力。这真是一个开创性的发展领域。当ChatGPT刚出现时，人们认为其产生的结果很有趣，但幻觉也很严重。产生幻觉的原因在于，它可以记住过去的一切，但无法记住未来和当前的一切。所以它需要基于研究来“接地气”。
在回答问题之前，它必须进行基础研究。能够推理是否需要研究、是否需要使用工具、如何将问题分解成更多步骤。ChatGPT能够将这些步骤组合成一个序列，来完成它从未做过、从未被训练过的事情。这就是推理的魔力所在。我们可以遇到从未见过的情况，并将其分解成我们过去经历过、知道如何处理的情况、知识或规则。
因此，AI模型现在具备的推理能力极其强大。智能体的推理能力为所有这些不同的应用打开了大门。我们不再需要在第一天就训练AI模型知道一切，就像我们不需要在第一天就知道一切一样。我们应该能够在任何情况下，推理出如何解决某个问题。大语言模型现在已经实现了根本性的飞跃。
使用强化学习、思维链、搜索、规划等不同技术和强化学习的能力，使我们具备了这种基本能力，并且现在也完全开源了。
但真正了不起的是，另一个突破发生了，我第一次看到它是在Perplexity（AI搜索公司）那里。我第一次意识到他们同时使用多个模型。我认为这完全是天才之举。AI在推理链的任何环节，能调用世界上所有优秀的AI来解决它想解决的问题。这就是为什么AI本质上是多模态的，它们理解语音、图像、文本、视频、3D图形、蛋白质。
它也是“多模型”的，意味着它们应该能够使用最适合任务的任何模型。因此，它本质上是“多云”的，因为这些AI模型位于所有这些不同的地方。它还是“混合云”的，因为如果你是一家企业公司，或者你构建了一个机器人或任何设备，有时它在边缘，有时在无线基站，有时在企业内部，或者是在医院等需要实时处理数据的地方。换言之，由于未来的应用构建在AI之上，这就是未来应用的基本框架。
这个基本框架，这种能够完成我所描述的、具备多模型能力的智能体AI的基本结构，现在已经极大地推动了各类AI初创公司的发展。
通过我们开源的模型和工具，现在你也可以轻松定制自己的AI，教它那些独一无二的技能。这正是我们开发Nemotron、NeMo等开源模型的目标。你只需要在AI前面加一个智能路由管理器，它会根据你的指令红盘策略，自动选择最合适的模型来解决问题。
这样的架构带来什么？你得到的AI既能完全按你的需求定制，可以教它公司特有的技能，这些可能正是你的核心优势，而且你也有对应的数据和专业知识去训练它；同时，它又能始终保持技术领先，随时用上最新的能力。
简单来说，你的AI既能高度个性化，又能即开即用，始终保持在前沿。
为此，我们做了一个最简单的示例框架，叫“AI Route Blueprint”，已经集成到全球多家企业的SaaS平台中，效果很不错。
这是不是很不可思议？使用语言模型。使用预先训练好的、专有的、前沿的语言模型，与定制的语言模型结合到一个智能体框架、一个推理框架中，允许你访问工具和文件，甚至可能连接到其他智能体。这基本上就是AI应用或现代应用的基本架构，而我们创建这些应用的能力非常快。
注意，即使你给它从未见过的应用程序信息，或者以一种并非完全如你所想的结构呈现，它仍然能进行推理，并尽最大努力通过数据和信息去尝试理解如何解决问题。这就是人工智能。
这个基本框架现在正在被整合，而我刚才描述的一切，我们有幸与一些世界领先的企业平台公司合作。例如Palantir，他们整个AI和数据处理平台正在集成，并由英伟达加速。还有世界领先的客户服务和员工服务平台ServiceNow、全球顶级的云端数据平台Snowflake。CodeRabbit，我们在英伟达内部广泛使用。CrowdStrike，正在创建AI来检测和发现AI威胁。NetApp，他们的数据平台现在上面有英伟达的语义AI，以及智能体系统，用于客户服务。
但重要的是：这不仅是你现在开发应用的方式，它还将成为你平台的用户界面。所以，无论是Palantir、ServiceNow还是Snowflake，以及我们正在合作的许多其他公司，智能体系统就是界面。它不再是在方格里输入信息的Excel，也许也不再仅仅是命令行。现在，所有这些多模态信息交互都成为可能。你与平台交互的方式变得更加简单，就像你在与人交互一样。因此，企业AI正在被智能体系统彻底改变。
三、物理AI突围：教会机器理解与交互真实世界
下一件事是物理AI。这是你们听我谈论了好几年的领域。事实上，我们已经为此工作了八年。问题是：如何将计算机内通过屏幕和扬声器与你交互的智能体，变成能与世界交互的智能体？这意味着它能理解世界运作的常识：物体恒存性（我移开视线再回来，物体还在那里）、因果关系（我推它，它会倒下）。
它理解摩擦力、重力以及惯性，知道一辆重型卡车在路上行驶需要更多时间才能停下，一个球会继续滚动。这些想法对小孩来说都是常识，但对AI来说完全是未知的。因此，我们必须创建一个系统，让AI能够学习物理世界的常识、学习其规律，当然也能从数据中学习。而数据相当稀缺。并且需要能够评估AI是否有效，这意味着它必须在环境中进行模拟。如果AI没有能力模拟物理世界对其动作的反馈，它怎么知道自己执行的动作是否符合预期？
这个基本系统需要三台计算机：一台是我们熟知的、英伟达制造的用于训练AI模型的计算机；第二台是用于推理模型的计算机。推理模型本质上是在汽车、机器人、工厂或任何边缘地方运行的机器人计算机；但必须有另一台为模拟设计的计算机，因为模拟是英伟达几乎所有事情的核心，这是我们最得心应手的地方。模拟确实是我们所做的一切物理AI工作的基础。
所以我们有三台计算机，以及运行在这些计算机上、让它们变得有用的多个技术栈和库。Omniverse是我们的数字孪生、基于物理的模拟世界。Cosmos是我们的基础模型，不是语言基础模型，而是世界基础模型，并且也与语言对齐。你可以问“球怎么样了？”，它会告诉你球正在街上滚动。当然，还有机器人模型，我们有两个：一个叫Groot，另一个叫Alpamayo。
对于物理AI，我们必须做的最重要的事情之一就是创建数据来训练AI。这些数据从何而来？不像语言那样，因为我们创造了一堆被认为是“真实情况”的文本，AI可以从中学习。我们如何教会AI物理世界的“真实情况”？尽管有大量的视频，但远远不足以捕捉我们需要的交互的多样性和类型。
因此，一些伟大的头脑聚集在一起，将原本用于计算的资源转化为数据。现在，利用以物理定律为基础和条件、以真实情况为基础和条件的合成数据生成技术，我们可以有选择地、巧妙地生成数据，然后用来训练AI。例如，我们可以利用Cosmos基础模型，生成基于物理、物理上合理的环绕视频，AI现在可以从中学习。
我知道这很不可思议。Cosmos是世界领先的基础模型、世界基础模型。它已被下载数百万次，在世界各地使用，让世界为这个物理AI的新时代做好准备。我们自己也在使用它，用它来创建我们的自动驾驶汽车系统，用于场景生成和评估。通过计算机模拟，我们能够有效地行驶数十亿、数万亿公里。
今天，我们宣布推出Alpamayo，世界上首个会思考、会推理的自动驾驶汽车AI。Alpamayo是端到端训练的，从摄像头输入到驱动输出。训练数据包括它自己行驶的大量里程、人类驾驶示范，以及由Cosmos生成的大量里程。除此之外，还有数十万个非常仔细标记的例子，以便我们教汽车如何驾驶。
Alpamayo独特之处在于。它不仅接收传感器输入并驱动方向盘、刹车和加速器，还会推理它即将采取什么行动。它会告诉你它将采取什么行动，采取该行动的原因，当然还有轨迹。所有这些都直接耦合，并通过人类训练数据和Cosmos生成数据的巨大组合进行专门训练。结果非常不可思议。
不仅汽车能像你期望的那样驾驶，而且驾驶得非常自然，因为它直接从人类示范中学习。但在每一个场景中，当它遇到某个场景时，它会进行推理，告诉你它将做什么，并推理它为什么要做。这之所以如此重要，是因为驾驶的“长尾”问题。
我们不可能简单地收集世界上每个国家、每种情况、所有人口可能遇到的所有可能的场景。然而，每个场景如果被分解成一系列更小的场景，很可能都是相当常见的、你能理解的。因此，这些长尾场景将被分解成汽车知道如何处理的相当常见的情况，它只需要进行推理。
我们八年前就开始研发自动驾驶汽车了。原因在于我们很早就认识到，深度学习和人工智能将彻底重塑整个计算技术栈。如果我们想要理解如何引领自己、如何指引行业走向这个新未来，就必须精通构建整个技术栈。
四、计算跃进：Rubin平台与全栈芯片的终极重构
正如我之前提到的，AI是一个“五层蛋糕”。最底层是土地、电力和外壳。在机器人领域，最底层就是汽车本身。往上一层是芯片：GPU、网络芯片、CPU等等。再往上是基础设施层。在物理AI这个具体案例中，基础设施就是Omniverse和Cosmos。然后在上层是模型层。我刚才展示的模型就属于这一层，这个模型叫做Alpamayo。今天，Alpamayo正式开源了。
我们设想有一天，道路上的十亿辆汽车都将实现自动驾驶。你可以选择租用别人运营的自动驾驶出租车，也可以拥有自己的车让它为你驾驶，或者选择自己驾驶。但每一辆车都将具备自动驾驶能力。每一辆车都将由AI驱动。所以在这个案例中，模型层是Alpamayo，而应用层之上就是梅赛德斯-奔驰汽车。
总而言之，这个技术栈是英伟达首次尝试构建的完整技术栈。我们一直为此努力，非常高兴英伟达的首款自动驾驶汽车将于第一季度在美国上路，然后欧洲是第二季度，亚洲或许是第三、第四季度。强大之处在于，我们将不断用Alpamayo的后续版本进行更新。
毫无疑问，在我看来，这将成为最大的机器人产业之一。它教会了我们大量关于如何帮助世界其他地区构建机器人系统的深刻理解。通过自己构建整个基础设施，我们知道了机器人系统需要什么样的芯片。
在这个具体案例中，是下一代双Thor处理器。这些处理器专为机器人系统设计，具备最高级别的安全能力。梅赛德斯-奔驰CLA刚刚被NCAP评为世界上最安全的汽车。
据我所知，这是唯一一个每一行代码、芯片、系统都经过安全认证的系统。整个模型系统基于此，传感器是多样且冗余的，自动驾驶汽车技术栈也是如此。Alpamayo技术栈是端到端训练的，拥有惊人的技能。然而，除非无限期地驾驶，否则没人知道它是否绝对安全。
因此，我们通过另一个软件技术栈、一个完整的自动驾驶技术栈来为其设置防护栏。那个完整的技术栈被构建为完全可追溯的。我们花了大约五年（实际上是六七年）来构建那个第二技术栈。这两个软件技术栈相互映照。
然后我们利用Alpamayo进行策略和安全评估。如果是一个我不太自信的情况，安全策略评估器决定我们将退回到一个更简单、更安全的防护栏系统，那么就回到经典的自动驾驶技术栈。这是世界上唯一同时运行这两个自动驾驶技术栈的汽车。所有安全系统都应该具备多样性和冗余性。
我们的愿景是，有朝一日每一辆汽车、每一辆卡车都将是自动驾驶的。我们一直在朝着那个未来努力。这整个技术栈是垂直集成的。当然，在梅赛德斯-奔驰的案例中，我们一起构建了整个技术栈，我们将部署汽车、运营技术栈，只要我们还存在，就会维护这个技术栈。
然而，就像我们公司所做的其他一切一样，我们构建整个技术栈，但整个技术栈对生态系统开放。与我们合作构建L4级和自动驾驶出租车的生态系统正在扩展，无处不在。我完全相信，这已经是我们的一项巨大业务，因为客户用它来训练、处理训练数据，以及训练他们的模型。在某些案例中，一些公司用它来生成合成数据。有些公司基本上只制造汽车内部的计算机和芯片，有些公司与我们进行全栈合作，有些则合作部分环节。
整个系统现在是开放的。这将成为第一个大规模、主流的AI物理AI市场。从非自动驾驶汽车到自动驾驶汽车的转折点，很可能就在此时开始，并在未来十年内发生。我相当确信，世界上很大比例的汽车将是自动驾驶或高度自动驾驶的。
但是，我刚才描述的这个基本技术（使用三台计算机、利用合成数据生成和模拟），适用于所有形式的机器人系统。可能只是一个关节、一个机械臂，可能是移动机器人，也可能是完整的人形机器人。所以，下一个旅程将是机器人。这些机器人将会有各种不同的尺寸。
这些机器人身上有微型Jetson计算机，它们是在Omniverse里面训练出来的。机器人模拟器叫Isaac Sim和Isaac Lab。 我们有很多建造机器人的朋友，包括New Robot、AG Bot、LG、卡特彼勒（他们有史上最大的机器人）、Serve Robot、Agility、波士顿动力、Franka以及Universal Robots等。
举例来说，Cadence将CUDA-X集成到他们所有的模拟器和求解器中。他们将使用英伟达的物理AI来进行不同的物理装置和工厂模拟。AI物理正被集成到这些系统中。所以，无论是电子设计自动化还是系统设计自动化，以及未来的机器人系统，我们将拥有基本上与创造你们相同的技术，现在将彻底革新这些设计技术栈。
在芯片设计领域，Synopsys和Cadence是完全不可或缺的。Synopsys在逻辑设计和IP领域领先，而Cadence在物理设计、布局布线、仿真和验证方面领先。Cadence在仿真和验证方面做得非常出色。他们两家都正在进入系统设计和系统仿真的领域。所以未来，我们将在Cadence和Synopsys内部设计芯片，并在这些工具内部模拟一切。
西门子也在做同样的事情。我们将把CUDA-X物理AI、智能体AI、NeMo、Nemotron深度集成到西门子的世界中。原因如下：首先，我们设计芯片，未来这一切都将由英伟达加速。我们将有智能体芯片设计师和系统设计师与我们合作，他们帮助我们进行设计，就像我们今天有智能体软件工程师帮助我们的软件工程师编码一样。
然后我们必须能够制造机器人。我们必须建造生产它们的工厂、设计组装它们的生产线。而这些制造工厂本质上将是巨型机器人。所以，机器人将在计算机中被设计，在计算机中被制造，在计算机中被测试和评估。我们现在创造的技术已经达到了足够成熟和强大的水平，可以反过来帮助他们彻底革新它们所在的行业。
放眼全球的模型格局，毫无疑问，OpenAI是当今领先的token生成器。今天，OpenAI生成的token数量远超其他任何模型。第二大群体，可能就是开源模型了。我猜随着时间的推移，因为有如此多的公司、如此多的研究人员、如此多不同类型的领域和模态，开源模型将成为规模最大的群体。
在此过程中，离不开Rubin构架。这个平台的诞生，是为了应对我们面临的一个根本性挑战：AI所需的计算量正在飙升，对英伟达GPU的需求也在飙升。这种飙升是因为模型每年都在以10倍、一个数量级的规模增长。更不用说，o1模型的引入是AI的一个转折点。推理不再是一次性给出答案，现在是一个思考过程。为了教会AI如何思考，强化学习和极其大量的计算被引入了后训练阶段。它不再是监督式微调（也称为模仿学习或监督训练），现在有了强化学习，本质上是计算机通过自我尝试不同迭代来学习如何执行任务。结果，用于预训练、后训练、测试时缩放的计算量爆炸式增长。
现在，我们进行的每一次推理，都可能生成2个token而不是1个，你可以看到AI在“思考”。它思考得越久，通常能给出更好的答案。因此，测试时缩放导致生成的token数量每年增加5倍。
与此同时，AI的竞赛正在激烈进行。每个人都在试图达到下一个水平，登上新的前沿。而每当他们到达新的前沿，上一代AI生成token的成本就开始下降，降幅大约是10倍。每年下降10倍这件事实际上说明了不同的情况：它表明竞赛如此激烈，每个人都在努力达到下一个水平，并且确实有人正在达到那个水平。
因此，所有这一切本质上都是一个计算问题。你计算得越快，就能越早达到下一个水平和前沿。所有这些事情都在同时发生，所以我们决定，必须每年都推进计算技术的水平，一年都不能落后。
我们一年半前出货GB200。目前，我们正在进行GB300的大规模生产。如果Rubin想要在今年及时推出，它现在就必须已经投产。所以今天，我可以告诉你们：Rubin已进入全面生产阶段。
我们还推出了基于Rubin架构的新一代计算集群DGX SuperPOD，包含1152个GPU，分布在16个机架中，每个机架有72个Rubin GPU。
我们设计了六种不同的芯片。首先，我们公司内部有一个原则：每一代新平台不应该有超过一两个芯片发生变动。但问题来了：我们知道摩尔定律已经基本放缓，因此我们每年能获得的晶体管数量，不可能跟上模型每年10倍的增长速度，不可能跟上每年生成的token数量5倍的增长，也不可能跟上令牌成本如此激进的下降速度。
如果行业要继续前进，要想跟上这样的速度是不可能的。除非我们采用激进的极致协同设计，基本上就是在所有芯片、整个技术栈上同时进行创新。为此，我们决定，在这一代平台上重新设计每一个芯片。
首先是Vera CPU。在一个受功率约束的世界里，它的性能是上一代的两倍，每瓦性能是世界上其他最先进CPU的两倍。它的数据速率是疯狂的，专为处理超级计算机而设计。Grace曾是一款出色的CPU，而Vera则将单线程性能、内存容量和所有方面都显著提升了。这是一次巨大的飞跃。
Vera CPU连接到Rubin GPU！这是一个巨大的芯片，有88个CPU核心，这些核心设计为支持多线程。但Vera的多线程特性设计得让176个线程中的每一个都能获得其完整的性能，所以本质上就像有176个核心，但只有88个物理核心。这些核心采用了一种叫做空间多线程的技术设计，性能惊人。
其次是Rubin GPU。它的浮点性能是Blackwell的5倍，但晶体管数量只有Blackwell的1.6倍。这多少说明了当今半导体物理的水平。如果我们不进行协同设计，不在整个系统的每一个芯片层面进行极致的协同设计，我们怎么可能实现这种性能水平？
第三，我们做的一件伟大的发明叫做NVFP4 Tensor Core。我们芯片中的Transformer引擎不仅仅是我们放入数据通路的某种4位浮点数，它是一个完整的处理器单元，懂得如何动态、自适应地调整其精度和结构，以处理Transformer的不同层次，从而在可以损失精度的地方实现更高的吞吐量，在需要的时候恢复到最高的可能精度。这种动态调整能力无法通过软件实现，因为它运行得太快了。所以必须在处理器内部自适应地完成。这就是NVFP4的意义。
我们已经发表了关于NVFP4的论文。它所达到的吞吐量和精度保持水平是完全不可思议的。这是开创性的工作。未来行业希望我们将这种格式和结构定为行业标准，我一点也不会感到意外。这完全是革命性的。这就是为什么我们能够在晶体管数量仅增加1.6倍的情况下，实现如此巨大的性能飞跃。
第四，我们革新了整个HGX机箱。这个节点以前有43条电缆，现在0条；6根水管，现在0根。以前组装这个需要两小时，现在则只要五分钟，而且100%液冷。
第五，将这些连接到顶层机架交换机、处理东西向流量的，叫做Spectrum-X网卡。这是世界上毫无疑问最好的网卡。Mellanox的算法、芯片设计、所有互连、其上运行的所有软件栈、RDMA，绝对是无与伦比的世界最佳。现在它还具有可编程的RDMA和数据路径加速器功能，让我们的合作伙伴（如AI实验室）可以创建自己的算法来决定如何在系统中移动数据。
第六，ConnectX-9和Vera CPU是协同设计的。众所周知，ConnectX-8和Spectrum-X彻底改变了用于人工智能的以太网技术。AI的以太网流量要密集得多，要求更低的延迟，流量的瞬时激增是传统以太网从未见过的。所以我们创建了Spectrum-X，即AI以太网。两年前我们宣布了Spectrum-X。今天，英伟达已成为全球有史以来最大的网络公司。
它非常成功，在各种设施中广泛使用，正在席卷整个AI领域。其性能令人难以置信，尤其是当你拥有一个200兆瓦的数据中心，或者一个千兆瓦的数据中心（价值数百亿美元，一个千兆瓦数据中心大约500亿美元）时。如果网络性能能让你额外获得10%的收益——以Spectrum-X为例，实现25%更高的吞吐量并不罕见——仅仅是10%的提升，就价值50亿美元。等于网络成本完全免费了。这就是为什么每个人都在使用Spectrum-X的原因。
第七，现在，我们发明了一种新型的数据处理方式，它的处理器叫做BlueField-4，允许我们管理一个非常庞大的数据中心，隔离其不同部分，以便不同用户可以使用不同部分，确保所有资源在需要时都可以被虚拟化。这样，你就能卸载很多虚拟化软件、安全软件以及南北向流量的网络软件。所以，BlueField-4是每个计算节点的标准配置。
第八是NVLink-6交换机。每个机架交换机里面有四个芯片，每颗芯片都有历史上最快的SerDes。世界才刚刚达到200Gb/s，而这是每秒400Gb/s的交换机。这之所以如此重要，是因为它能让每个GPU都能同时与其他所有GPU进行通信。这个位于机架背板上的交换机，使我们能够以相当于全球互联网数据总量两倍的速度移动数据。全球互联网的横截面带宽大约是每秒100太字节，而这个是每秒240太字节，让每个GPU都能同时与其他所有GPU协同工作。
后面是NVLink脊柱，基本上是两英里长的铜缆。铜是我们所知的最佳导体。这些都是屏蔽铜缆、结构铜缆，是计算系统中有史以来使用最多的。我们的SerDes以每秒400Gb的速率驱动这些铜缆从机架顶部一直到机架底部。这里面总共有长3200米、5000根铜缆，这使NVLink脊柱成为可能。这项革新真正开启了我们的HGX系统，我们决定创建一个行业标准系统，让整个生态系统、我们所有的供应链都能基于这些组件进行标准化。构成这些HGX系统的组件大约有8万个。
如果我们每年都改变它，那将是巨大的浪费。从富士康到广达、纬创，再到惠普、戴尔、联想，所有主要的计算机制造商都知道如何构建这些系统。所以，尽管性能高得多，而且非常重要的一点是，功耗是前代的两倍，Vera Rubin的功耗是Grace Blackwell的两倍——但我们仍然能将Vera Rubin塞进这个框架里，这本身就是一个奇迹。
进入系统的空气流量大致相同。更重要的是，进入的水温相同，45摄氏度。在45摄氏度下，数据中心不需要冷水机。我们基本上是用热水来冷却这台超级计算机，效率高得令人难以置信。
所以，这是新的机架：晶体管数量是1.7倍，但峰值推理性能是5倍，峰值训练性能是3.5倍。它们通过顶部的Spectrum-X连接起来。
这是世界上第一款采用台积电新工艺制造的芯片，这个新工艺是我们共同创新的，叫做CoWoS，是一种硅光子集成工艺技术。这使我们能够将硅光子直接集成到芯片上。这里有512个端口，每个端口200Gb/s。这就是新的以太网AI交换机——Spectrum-X以太网交换机。
几年前我们推出了Spectrum-X，以便彻底改变网络连接的方式。以太网确实易于管理，每个人都有以太网技术栈，世界上每个数据中心都知道如何处理以太网。而当时我们使用的另一种技术叫做InfiniBand，用于超级计算机。InfiniBand延迟非常低，但它的软件栈和整个可管理性对使用以太网的人来说非常陌生。所以我们决定首次进入以太网交换机市场。Spectrum-X一经推出就大获成功，使我们成为世界上最大的网络公司。
五、生态闭环：从基础设施到行业渗透的全栈布局
但就像我之前说的，AI已经重塑了整个计算技术栈的每一层。同理可证，当AI开始在世界各地的企业部署时，它也必将重塑存储的方式。AI不使用SQL，AI使用语义信息。当AI被使用时，它会创建一种临时的知识、临时的记忆，叫做KV缓存（键值缓存）。但本质上，KV缓存就是AI的工作内存。AI的工作内存存储在HBM内存中。
对于生成的每一个token，GPU都会读入整个模型、整个工作内存，产生一个token，然后将这个token存回KV缓存。下一次它再做同样的事情时，它会再次读入整个内存，流经GPU，生成另一个token。它就这样重复进行。显然，如果你长时间与AI对话，这个内存——这个上下文内存——将会急剧增长。更不用说模型本身在增长，我们与AI交互的轮次在增加。我们甚至希望这个AI能伴随我们一生，记住我们与它进行过的每一次对话，对吧？我要求它研究的每一个链接……当然，共享超级计算机的用户数量也会持续增长。
因此，这个最初能放进HBM的上下文内存，现在已经不够大了。去年，我们创建了Grace Blackwell的快速上下文内存，这就是为什么我们将Grace直接连接到Hopper，直接连接到Blackwell，以扩展上下文内存。但即使那样也不够。所以，下一个解决方案当然是走网络。但是，如果有大量AI同时在运行，那个网络将不再足够快。
所以答案很明确：需要一种不同的方法。因此，我们引入了BlueField-4，以便我们能够在机架内拥有一个非常快速的KV缓存上下文内存存储。这是一种全新的存储系统类别。业界对此非常兴奋，因为这是几乎所有今天进行大量token生成的人的痛点。AI实验室、云服务提供商，他们真的受困于KV缓存移动所导致的网络流量。
因此，我们创建一个新平台、一个新处理器来运行整个Dynamo KV缓存/上下文内存管理系统，并将其放在非常靠近机架其他部分的地方，这完全是革命性的。
每个这样的机架后面有四个BlueField-4。每个BlueField-4后面有150太字节的上下文内存。分摊到每个GPU上，每个GPU将获得额外的16太字节内存。现在，在这个节点内部，每个GPU原本大约有1太字节内存。现在有了这个位于同一东西向流量上、数据速率完全相同（每秒200Gb）的支撑存储，横跨整个计算节点的网络结构，你将获得额外的16太字节内存。
Vera Rubin有几个方面真的非常不可思议。第一点我刚才提到过：整个系统的能效是前代的两倍。虽然功耗是前代的两倍，能耗也是两倍，但计算能力是数倍于此。进入系统的液体温度仍然是45摄氏度。这使我们能节省全球数据中心大约6%的电力，这是件大事。
第二件大事：整个系统现在支持机密计算，意味着所有数据在传输中、静态时和计算过程中都是加密的，每个总线现在都是加密的——每个PCIe、每个NVLink、每个HBM……CPU与内存、CPU与GPU之间、GPU与GPU之间，一切现在都是加密的。所以它是机密计算安全的。这让公司可以放心，即使他们的模型由别人部署，也永远不会被任何人看到。
这个特定系统不仅能效极高，还有另一个不可思议之处。由于AI工作负载的特性，它会在瞬间激增。这个叫做“全归约”的计算层所使用的电流量、能量同时飙升，常常会突然激增25%。现在，我们在整个系统中实现了功率平滑，这样你就不需要过度配置25%的容量，或者如果你过度配置了，你也不必让那25%的能源被浪费或闲置。现在，你可以用满整个功率预算，而不需要过度配置。
最后，当然是性能。让我们看看它的性能。这些都是构建AI超级计算机的人会喜欢的图表。这需要……需要这里的每一个芯片、每一个系统的完全重新设计，并重写整个软件栈，才使其成为可能。
我们做的事情其实围绕三个核心环节：
第一是训练速度。训练AI模型越快，就能越早把下一代前沿模型推向世界。这直接决定技术领先性、上市时间和定价权。比如绿色部分代表一个10万亿参数模型（我们称之为DeepSeek++），需要基于100万亿token进行训练。在同样的训练周期（比如一个月）里，用Rubin平台只需四分之一的系统数量就能完成——在同样的时间里，你能训练更大、更先进的模型。
第二是数据中心效率。数据中心是AI的“工厂”，投资巨大。一个千兆瓦级数据中心可能需要500亿美元投入，而电力是硬性约束。如果你的计算架构每瓦性能更高，同样的电力就能产生更多算力，直接转化为数据中心的产出和收益。布莱克韦尔平台相比前代实现了约10倍的能效提升，而鲁宾将在此基础上再次提升近10倍。
第三是推理成本。也就是实际生成每个token的成本。Rubin平台将这一成本降低到原来的约十分之一。
这就是我们推动整个行业走向下一个前沿的方式——让训练更快、能效更高、推理更经济，从而支撑AI持续向更大规模、更高水平发展。
如大家所见，今天的英伟达早已不仅是芯片公司。我们构建的是完整的全栈AI体系——从芯片、系统、基础设施，到模型和应用。我们的使命是打造完整的技术栈，让在座的每一位都能在此基础上，为世界创造令人惊叹的AI应用。
谢谢大家到场，祝大家在CES收获满满！
升鸿网配资提示：文章来自网络，不代表本站观点。
