"英伟达2025年3月18日的GTC大会看似平淡，但魔鬼和惊喜都藏在细节中。
  英伟达创始人兼CEO黄仁勋发布的各项更新，包括芯片路线图，此前已经被市场预期消化。在本次GTC之前，英伟达股价已经承压多时，华尔街对接下来AI芯片需求的可持续性存在怀疑。而在整场演讲中，黄仁勋也试图打消外界的疑虑，但在当天，英伟达股价仍然下跌3.3%。
  
  我们刚听完黄仁勋的Keynote演讲之后，第一反应也觉得好像不如去年那么震撼和精彩，再加上演讲中间PPT和流程还出现了各种小错误，让整个演讲不如去年那么完美。
  但结束之后我们跟一些机构投资人和芯片从业者深聊的时候发现，很多人对英伟达的发展路线和布局还是非常看好，认为英伟达正继续和竞争对手们甩开差距，虽然在宏观层面上股价确实在近期受到多方面因素承压。
  
  这篇文章我们就和嘉宾们一起来聊聊在此次GTC上的观察，并试图来回答以下几个问题：
  1.英伟达如何继续扩宽它的护城河？
  2.在AI市场迈入“推理inferencing”阶段，英伟达还能是市场上独占鳌头的赢家吗？AMD、Groq、ASIC芯片还有谷歌的TPU等等玩家有机会翻盘吗？
  3.英伟达如何布局全市场生态，让所谓的“每个人都成为赢家”?
  4.对于目前承压的股价，英伟达的下一个故事是什么？是机器人、还是是量子计算呢？
  01 横向拓展与纵向拓展
  黄仁勋在Keynote演讲中数次强调：英伟达不是单张GPU芯片的叙事，而是所谓“Scale Up and Scale Out”更宏大的叙事。
  黄仁勋说的Scale Up指的是“纵向扩展”，也就是通过NVLink通信互联技术将单个系统的功能推到极致。
  
  而Scale Out指的是“横向扩展”，也就是通过这次发布的硅光技术CPO（Co-packaged Optics，光电一体封装交换机）等革命性技术更新，来进一步实现数据中心（data center）的巨大算力集群的快速扩张和提效。
  
  而在AI迈入“推理”时代而对算力愈加渴望之际，英伟达“纵向”和“横向”的扩展将打造新一代AI强大的算力生态和架构，这就是黄仁勋想讲的新故事。
  
   任扬
   济容投资联合创始人：
   老黄几年前其实也在反复强调这个概念：以后计算单元不是GPU，甚至不是服务器，而是整个数据中心是一个计算单元。这是黄仁勋一直在试图去推动的方向吧。
  
  
  Chapter 1.1 Scale Up
  在讲纵向扩展前，我们先聊聊黄仁勋公布的之后几代芯片的路线图。
  在Keynote中，黄仁勋给出了非常清晰的英伟达长期路线图，包括从当前的Blackwell到未来的Blackwell Ultra、Vera Rubin、Rubin Ultra，最终到2028年的Feynman架构。
  每一代更新的芯片架构名字最后的数字，代表的是GPU的芯片数量，而每一个架构代表的是一个机架的整个性能。这个新命名方式也印证了黄仁勋想强调的叙事，已经从单个GPU变成了数据中心的算力集群系统。
  
  2025年下半年出货的Blackwell Ultra NVL72连接了72块Blackwell Ultra GPU，它的性能提升是前代GB200的1.5倍（这里要注意一下，黄仁勋在Keynote中又重新定义了“黄氏算法”：从Rubin开始，GPU数量是根据“封装中的GPU数量”，而不是“封装数量”来计算的；所以按新的定义，Blackwell Ultra NVL72算是有144个GPU）。
  以天文学家Vera Rubin命名的新一代GPU将于2026年下半年推出。Vera Rubin NVLink144的性能将是Blackwell Ultra（GB300） NVL72的3.3倍。
  英伟达预计Vera Rubin之后，下一代Rubin Ultra NVL576将于2027年下半年推出，其性能将是Blackwell Ultra（GB300） NVL72的14倍。
  
  Rubin之后的架构代号为“Feynman”，以理论物理学家查德・费曼命名，这已经是2028年之后的故事了。
  芯片从业人士告诉我们，英伟达的路线图和性能提升幅度并没有出乎外界的预期范围，但黄仁勋传达出的信号仍然非常积极，这就是：英伟达正在以及在未来几年都会稳健地给客户交付更好性能的产品。
  
  
   David Xiao
   CASPA主席
   资深芯片从业者
   ZFLOW AI创始人兼CEO：
   其实在我们芯片行业，以英伟达这样的节奏发布产品，已经是执行力非常强了。一般芯片公司从一款产品到下一款产品，芯片研发可能需要两年时间，再加上软件适配，可能就需要3到4年才能推出下一代芯片和系统，所以英伟达的这个节奏已经非常厉害。
   但这也会让公众的期望更高。比如去年年底的时候，Blackwell出现了散热和良率的问题，股市上的反应是非常强烈的。但对我们业内人士来说，这些问题是非常正常的。重新mask tap out（掩膜流片），再修正就可以了。
  
  
  
   任扬
   济容投资联合创始人：
   我觉得不管从产品的规划、定义，到最后的落地执行，英伟达都是非常稳健、且领先对手的。但是如果和投资人的预期相比，确实没有惊喜，也没有意外。
  
  以上就是黄仁勋所说的Scale Up（纵向拓展）的部分，也是嘉宾口中的与预期相同、没有惊喜的部分。接下来我们聊聊让大家惊喜的部分，也就是Scale Out（横向扩展）的布局。
  Chapter 1.2 Scale Out
  最能表现黄仁勋对“规模扩展”野心的，是采用集成硅光技术的NVIDIA CPO（Co-packaged Optics，光电一体封装交换机）。
  
  虽然老黄在演讲中展示的时候这些黄色的线被缠在了一起，弄了好久才弄开，但也是挺有话题度的，让大家对这几根线更好奇了。
  接下来我们聊聊，这几根线是怎么运作的？如何能让英伟达的数据中心纵向扩展呢？
  
  
   David Xiao
   CASPA主席
   资深芯片从业者
   ZFLOW AI创始人兼CEO：
   现在所有的Blackwell的机器，还是基于铜的互联（Copper），之后会转向光的互联。
  
  
  按照英伟达的说法，CPO交换机的创新技术，是将插拔式的光模块替换为与ASIC（专用集成电路）一体化封装的硅光器件。
  与传统网络相比，可将现有能效提高3.5倍，网络可靠性提高10倍，部署时间缩短1.3倍。这能极大程度增强英伟达数据中心的互联性能，对于实现未来百万级GPU的AI工厂的大规模部署来说至关重要。
  
  
   匿名采访
   早期CPO光学科研人员：
   OpenAI去年训练4o的时候经常会训练失败，因为当时的Frontier model（前沿模型）已经基本穷尽了大部分的数据，所以训练失败的次数很多。训练GPT-5失败的次数也非常多，因为失败的次数更多了，所以做需要做更多实验，而且每次实验的时间要尽可能短，公司是不能忍受一个实验做两个礼拜没消息的。如何能缩短时间？那就是提高通讯的速度。
  
  
  除了速度快之外，CPO交换机也能在能耗和价格上带来很多成本的节省。在GTC现场，英伟达的工作人员展示了CPO实物是如何运作的。
  
   Brian Sparks
   英伟达工作人员：
   这就是我们的新产品：Quantum-X光子交换机。 这款交换机采用了ASIC（专用集成电路），也是我们首次能够实现硅光子技术的CPO（光电混合封装）。过去需要一个光纤收发器用于连接网卡。但现在，光信号可以直接进入交换机的接口，不再需要光纤收发器。这样做有两个好处：首先降低了成本，因为光纤收发器价格相当昂贵；其次减少了功耗，因为传统光纤收发器大约消耗30到33瓦的功率，而我们现在能够将功耗降低到9瓦。
  
  
  我们的采访嘉宾认为，训练侧客户在意的是时间，推理侧客户在意的是成本。而CPO技术能在一定程度上同时这两种需求，提高训练与推理的效率。
  
   孙田浩
   美国二级市场投资人
   某新加坡联合家办资深分析师：
   你如果只有一个芯片，把它打造得再厉害也是没有用的。本质原因是我们现在做推理、训练，都是用几万个卡在一起的集群，比如Grok可能就一下就用 20 万个卡一起训练。重要的是怎么能让几万个、十万个 芯片高效地协同运作。在这个互联领域英伟达又再一次地领先了全球，因为它有CPO，它的机柜上有各种各样的新花样。所以我觉得从长线来看，英伟达在推理集群领域的优势也是更明显的。
  
  
  
   Brian Sparks
   英伟达工作人员：
   当进行推理时需要大量的计算资源，需要更多的计算能力，因此网络需要具备尽可能高的带宽，能够在每个端口上提供更多的性能，同时保持极低的延迟。通过去掉光纤收发器，就能离这个目标更进一步，并能减少功耗。
  
  
  Chapter 1.3 CPU发展史和早期八卦
  关于CPO，我们在采访期间还挖出一点点小八卦：黄仁勋在Keynote期间说CPO是他们发明的，但光学工程师们可能会有一些不同的意见。
  我们采访了非常早期的硅光技术CPO的研究者和业内从业者，他们表示，CPO这个技术从2000年左右在业界就已经开始研究了，而最开始主导这个技术的是英特尔。
  
  
   匿名采访
   早期CPO光学科研人员：
   当时我们提出来的这个技术叫做 Monolistic Integrated Phontonic IC（单片集成光子集成电路），那时候还不叫 Co-packaged Optics 。当时做这个事情是因为英特尔对Big Data（大数据）很感兴趣。
  
  
  这位资深的光学研究者告诉我们，大数据业务的驱动下，英特尔是20年前的硅光子学（Silicon Photonics）最大的研究支持机构。而之后发展出的CPO（Co-packaged optics）技术最早开始研发是为了解决光电系统短距离通信，也是光纤通信研究发展的必然结果。
  而在行业发展过程中，除了英特尔，其它小型企业也在尝试研发这项技术。但硅光子学技术的研发非常耗钱耗力，需要先有市场需求，才能倒逼技术研发。
  
  以上是Nathan评测的一部分节选，想看完整版的观众可以收看硅谷101视频或Nathan的微信视频号“硅谷AI领航”。
  
   匿名采访
   早期CPO光学科研人员：
   最开始的时候，CPO应用是大数据，就是数据中心之间的通信。但数据中心之间的通信不需要那么高的码率，100G之内都不需要CPO。直到2012年，当时Apache Spark（开源集群运算框架）出现了，而且Snowflake开始快速发展，在这一年数据库开始上云了。这就意味着大量数据存在一个地方，而读取和使用在另外一个地方，你需要做query（查询），数据的移动就变得非常得复杂，量也变得非常大。这时100G在数据中心之间的沟通已经不够用了，所以从2012年开始，Google提升到400G，到2020年疫情之前提到了800G。
  
  
  
   如果现在同样大的connector（连接器）要做 800G ，里面的集成度就要高很多。当集成度高了后，光纤系统设计就非常复杂。需要解决功耗、一致性等等问题。但这两个问题解决了以后，良率基本上是0。从100G到200G、 200G到400G、 400G到800G，每一代一出来良率都是0。而研发费用是非常贵的，基本是5个亿以上。
  
  
   以前没有新的应用就不会去研发，现在有了新的应用，数据仓库出现了，所以开始研发。在400G发展到800G的时候，Meta和Google的报告中已经开始广泛地使用POP（package on package）和PIP（package in package）这两个词，其实跟今天Co-package的概念基本上很接近了。
  
  
  为什么硅光子技术的良率会这么低，需要花费的研发费用又这么高呢？
  
   Cathy
   光学工程师：
   我们人的头发的尺寸大概是一个0.01平方毫米，已经是一个非常小的尺寸了。但在现实使用的Silicon Photonics Engine（硅光子引擎）里面，Microring resonator（微环谐振器）的尺寸比人的头发还要再小十倍。
   在制作的时候，哪怕是用非常先进的工艺，也很容易造成纳米级别的误差。而且即使是纳米级别的误差，都会使得通过的光的波长有所误差。所以稍微一个不留神，就会导致本来该通过的光完全彻底通不过。
   除此之外，我们需要精细到纳米级别的加工精度的控制，降到一个纳米基度的级别是非常困难的一件事情。
  
  
  
   另外因为需要控制温度，所以每一个Ring resonator（环形谐振器）都有自己的一个Heating Pad（加热垫）。然后加热垫连上一个精密的、有feedback（反馈）的温度调控。而同时温度调控又是一个时间的参数，因为光的通过速度非常快，所以需要一个非常精确、非常智能的温度控制系统。而且每一个小的Micro resonator（微型谐振器）都需要这样去调控，可以想象在一整个package（套件）里面有这么多的激光器，就需要非常复杂的一个温度调控的算法。最终这一切加起来导致的效果就是，硅基光子的良率非常的低。
  
  
  
   一位多年的从业者Mehdi Asghari和我提到过一句话：在电子制造之中，你不用提良率，因为良率都非常高，是99.999…（无数个9），只有良率高了大家才能赚钱。但在硅基光子的行业中也不用提良率，因为大家都知道良率非常低，稍微不小心就会导致良率崩盘。正是因为需要各种精确的控制，会让良率非常低，这也导致了硅基光子的成本下不来。所以必须有个行业，既需要快速、精确的控制，又能接受高成本，才能让硅基光子学发展起来。
  
  
   陈茜
   硅谷101视频主理人：
   后来是怎么把良率给提上去的呢？
  
  
  
   Cathy
   光学工程师：
   行业一点一点的磨合。英特尔在2000年就开始做了，在这方面像行业的先驱。虽然老黄在硅基光子学并不是最早的，但是老黄为大家找到了非常好的应用，能让这个技术应用在数据中心、AI大模型里面，有了实在的用武之地。
  
  根据嘉宾的说法，英伟达的光学通信系统技术，来自2019年收购的以色列芯片厂商Mellanox，而Mellanox的技术又源自于2013年收购硅光子公司Kotura。
  
  以上我们大概讲了讲CPO技术的发展史，和业内从业者对老黄说“CPO是英伟达发明的”一点challenge（挑战）。 也欢迎如果有硅光子产业的从业人员给我们留言说说你们对这个技术发展的八卦和故事。
  不过，正是因为黄仁勋看到了CPO在AI数据中心大规模的应用，才又一次通过市场应用来支持技术研发，将这个技术带到了大众的面前。
  
  
   匿名采访
   早期CPO光学科研人员：
   如果LLM（大语言模型）只是千亿美元级的市场的话，老黄根本就不会干这个事，因为研发太贵了。但现在LLM到了万亿美元级的市场，老黄就认为有市场了，就跟我之前说的800G数据仓库是一样的。既然LLM来了（市场来了），且这是一个不违反物理定律的事情，那只要钱堆得足够多，不违反物理定律的事情都是能做成的。
  
  虽然CPO技术不是英伟达独家的，很多大公司都掌握了这个技术。但我们的嘉宾认为，英伟达在内部大力推进CPO技术整合到生态中，将CPO做到竞品roadmap（路线图）的数倍，用快速的执行和研发效率，进一步加深了生态的护城河和壁垒。
  
  
   David Xiao
   CASPA主席
   资深芯片从业者
   ZFLOW AI创始人兼CEO：
   英伟达在光这块其实投入也很大，招了很多人，也从各大公司都挖了不少人，会进一步加深壁垒。
   因为其实有很多做硅光的公司可以做CPO的Module（模块），但是如果要跟AI芯片合在一起做，那一定要找这些AI芯片出货量最大的厂去合作。因为这里面涉及到芯片跟硅光模块codesign（共同设计） 的问题。而英伟达是in house（内部研发）的话，相比其他硅光公司跟AMD、Sarabas、Groq合作，会有很多的know-how（实际知识和性能）的优势。
  
  
  02 第二个CUDA
  我们再来说说英伟达在软件生态上的另外一个重要更新：Dynamo。这被我们的嘉宾认为是英伟达想在推理侧造就的“第二个CUDA”。
  
   黄仁勋
   英伟达创始人兼CEO：
   Blackwell NVLink72搭配Dynamo，使AI工厂的性能相比Hopper提升40倍。在未来十年，随着AI的横向扩展，推理将成为其最重要的工作内容之一。
  
  
  黄仁勋宣布在软件方面，英伟达推出了Nvidia Dynamo。这是一款开源的AI推理服务软件，被视为Nvidia Triton推理服务器的“接班人”，旨在简化推理部署和扩展。而它的设计目标也很明确：以更高效和更低的成本来加速并扩展AI模型的推理部署。
  简单来说，Dynamo就像AI工厂中的“大脑和中枢”，负责协调成百上千张GPU的协同工作，确保每一次AI模型的推理请求都能用最少的资源、最快的速度得到处理，从而让部署这些模型的企业花更少的钱去办更多的事。
  一些美股分析师认为：如果说CUDA是英伟达最强大的软件生态护城河，那么Dynamo就是英伟达在推理侧想搭建的第二道护城河。
  
  
   孙田浩
   美国二级市场投资人
   某新加坡联合家办资深分析师：
   英伟达60%以上的护城河都来自于软件。这一次推出的Dynamo，相当于是在大模型AI领域又再造了一个CUDA。因为Dynamo是能给推理降本的，而且还开源了。Dynamo早期在未来新方向的布局上和CUDA是一样的；从长线来说，可能英伟达能再造一个CUDA，这对于它的在AI这个领域的护城河的帮助是非常强的。这是我比较看好的一个更新。
  
  
  Dynamo带来的最大亮点之一，就是大幅提升了推理性能和资源利用率，同时降低了单位推理任务的成本。
  做一个类比，Dynamo就像一家餐厅的智能调度经理，在忙时能迅速增派更多厨师（也就是GPU）上灶，在闲时又让多余的厨师休息，不让人力闲置，从而做到高效又节约。
  根据英伟达官网，Dynamo包含了四项关键创新，来降低推理服务成本并改善用户体验。
  
  1.GPU 规划器 (GPU Planner)：这是一种规划引擎，可动态地添加和移除GPU，以适应不断变化的用户需求，从而避免GPU配置过度或不足。这就像我们刚才说的厨房遇到就餐高峰的时候，就加派厨师人手、加开新的厨房，而客人少的时候就关掉部分厨房，Dynamo希望确保GPU不闲着也不堵车，始终在最佳负载下运行。这样每一块 GPU 都被充分利用，集群整体吞吐量随之提高。
  2.智能路由器 (Smart Router)：这是一个具备大语言模型 (LLM) 感知能力的路由器，它可以在大型 GPU 集群中引导请求的流向，从而最大程度减少因重复或重叠请求，而导致的代价高昂的GPU重复计算，释放出GPU资源以响应新的请求。这有点像客服中心里把老客户直接转接给之前服务过他的座席员，因为那位座席员已经有客户的记录（缓存），可以免去重复询问，更快给出回答。而Dynamo正是利用这种机制，将过往推理中产生并存储在显存里的“知识” (KV缓存) 在潜在的数千块 GPU 间建立索引映射，新请求来了就路由到握有相关缓存的 GPU 上。这样一来，大量重复的中间计算被省略，让GPU 算力主要服务新的独立请求。
  
  3.低延迟通信库 (Low-Latency Communication Library)：这个推理优化库支持先进的GPU到GPU通信，并简化异构设备之间的复杂数据交换，从而加速数据传输。
  4.显存管理器 (Memory Manager)：这是一种可在不影响用户体验的情况下，以智能的方式在低成本显存和存储设备上，卸载及重新加载推理数据的引擎。这类似于把不常用的工具先放入仓库，需要时再拿出来，留出昂贵的工作台空间（高性能显存）给当前最紧要的工作。这种分层存储和快速调取的策略，让GPU显存的利用更高效，推理成本能随之下降。
  
  而有了以上的这些优化路径，黄仁勋想在AI逐渐转向推理时代之际，让英伟达依然保持AI芯片的霸主地位。
  根据英伟达的官方数据，在相同数量的 GPU 下，使用NVIDIA Hopper架构的GPU跑的Llama大模型，在采用Dynamo后的整体推理性能和产生的结果数量直接翻倍，在由GB200 NVL72机架组成的大型集群上运行DeepSeek-R1模型时，Dynamo让每张 GPU每秒能生成的token数量提升了超过30倍。
  
  
   孙田浩
   美国二级市场投资人
   某新加坡联合家办资深分析师：
   英伟达在这条路上走得比其他人越来越远了，所以我觉得它传递的Key Message（重要信息） 就是all in推理。它把所有的精力都花在推理这条线上，然后让其他人追不上它。
  
  在今年的Keynote中，老黄的名句也变了：从“The more you buy, the more you save”（买得越多，省得越多），变成了“The more you buy, the more you make”（买得越多，赚得越多）。
  
  这意味着英伟达的AI数据中心已经准备好服务推理侧的客户，帮助客户省钱提效。也意味着，英伟达想在推理侧继续成为算力霸主。
  03 数据中心基建
  要配合这样更大规模集群的建设，相关的数据中心基建和上下游也需要随之更新了。
  上文我们提到过，芯片架构的取名方式更新，代表着黄仁勋对“集群”生态的强调，而非单芯片。而对应的，数据中心中的机架架构也将升级为“Kyber”，通过计算托盘旋转90度，从而实现更高的机架密度。
  
   Kyber 现场展示
   这个是我们未来的Kyber Generation，是下一代产品。这就是一个72个GPU的GB200，总共有288个GPU（72*4） 。
  
  
  除了机架的更新之外，整个数据中心的制冷、供电也都需要为新一代的芯片升级。
  
   Mark Luxford
   Vertiv工作人员：
   正如黄仁勋在主题演讲中宣布的，我们将推出Vera Rubin和Vera Rubin Ultra（配套基建设施）。我们平时与英伟达的合作非常紧密，我个人每周与他们沟通四次，来共同制定了这代产品的参考设计。
  
  
  
   每代产品都这意味着需要更高功率，会需要更强的冷却能力，我们正在响应这一需求，同时确保系统架构和冷却管道能够正常运行，CDU（冷却分配单元）能够扩展以满足新的需求。就比如我们已经把CDU从1兆瓦升级到了2.3兆瓦，这将非常适合Vera Rubin Ultra，能毫无压力地处理600千瓦功率的机架。
  
  
  
   这只是系统的一部分，我们还需要重新设计风冷系统。我们会在机架级别的服务器中提取热量，并通过CDU与设施电路进行热量交换。然后通过冷冻机、冷却塔、干式冷却器甚至通过热泵将热量排放到空气或大气中，或者将其用于城市供暖等用途。
  
  
  硅谷101真正密切关注着数据中心的基建、电力系统、上下游供应链等方向，未来会更深度地聊聊。
  04 推理时代：群雄逐鹿还是单一霸主？
  在AI训练侧，英伟达是绝对的霸主地位，但在AI进入推理侧之际，AMD、Groq、谷歌TPU还有ASIC这些玩家有机会分掉英伟达的蛋糕吗？
  
   David Xiao
   CASPA主席
   资深芯片从业者
   ZFLOW AI创始人兼CEO：
   在2023年的时候，我们请黄教主到华美半导体协会，我当时还挑战性地问了一个问题。因为我自己做AI芯片很多年，我就问他：GPU架构在很多应用场景下的效率其实不高，而我们在做各种定制的AI芯片，比如稀疏化的（Sparsity）、基于RISC-V的，或者像Cerebras这种基于wafer-scaling（晶圆微缩）的大芯片等，那我们是不是还有机会？老黄对于我这个问题的回答是：“大家都有机会，但是你们的机会不大。”
  
  
  在我们采访的嘉宾中，无论是投资人、还是芯片领域的人，对于“大家都有机会，但机会不大”这个结论都基本赞同。
  原因是英伟达目前的生态已经太完整，护城河已经太高了，不仅仅是单个GPU的性能，而是整个大集群的高效联通，以及CUDA软件层面的优化和支持。并且如我们上文所说的，英伟达在领先对手的情况下，还在不停地加固新的护城河。
  
  比如说大家非常关注的“千年老二”AMD，一直没有能在AI GPU这方面取得突破性的市场份额，在过去一年，股价也下滑了超过40%。归根结底，还是软件方面追赶不上英伟达。
  
   孙田浩
   美国二级市场投资人
   某新加坡联合家办资深分析师：
   AMD的MI300发的时候，对标的是英伟达的H100、H200。H100的内存是80G，但MI300直接是128G；MI350是192G，英伟达的B卡才190G。AMD不仅卡的内存高，而且还比英伟达便宜40%。虽然它参数看起来都很厉害，但我去测试的时候发现，AMD的实际的性能远低于它写的参数。
  
  
  
   原因有两个：第一，真的去开发、测试ROCm（AMD的软件，CUDA的对标品）的时候，软件全是bug（故障），根本就跑不通模型，推不出来。第二，AMD目前做得比较成熟的就是8张卡互联，我都没见到过64个卡互联。但英伟达在2027年都要576个卡互联了，这之间的差距已经没办法去弥补了。
   更何况英伟达有NV Switch，AMD是没有相应的芯片的，没有做出类似成型的东西。AMD虽然有替代NVLink的东西，但是它稳定的效率是NVLink的二分之一。而没有NV Switch它又做不了集群，只能8个卡互联，所以我觉得在互联的差距更大，更赶不上。
  
  
  但并不是说AMD在一些特定的市场没有机会。二级市场投资人们认为，客户们不可能接受一家独大，一定会给予AMD和其它芯片厂商一些机会。但在端模型起来之前，最大的份额可能依然会被英伟达所占据。
  而至于ASIC这样的专用集成电路，虽然也会有它们特定的市场，但可能也占据不了太多英伟达的份额。
  
   David Xiao
   CASPA主席
   资深芯片从业者
   ZFLOW AI创始人兼CEO：
   AMD在大力推AI PC，包括也在推它的GPU。但是它推的方式，可能是去跟一些大模型的厂商直接合作，比如说某一个大模型在它这个场景下用得很好，而且这个应用场景又非常广，那在这种情况下也是有机会的。
  
  
  
   孙田浩
   美国二级市场投资人
   某新加坡联合家办资深分析师：
   AMD的故事是在三到五年以后，当端侧的东西都起来了，C端的应用大模型的成本已经非常低的时候，比如一个电脑、一个GPU也可以去训练大模型、做AI的时候。可以这么理解，在GPU这个领域，除了英伟达以外，只有AMD配在这个市场上活着，所以它就能吃那些中长尾的份额。
  
  
   陈茜
   硅谷101视频主理人：
   Groq呢？ASIC呢？他们不配活着吗？
  
  
  
   孙田浩
   美国二级市场投资人
   某新加坡联合家办资深分析师：
   ASIC落地的难度是非常高的，而且通用性很窄。第一是它量产很难，谷歌的TPU核心计算单元的transistor（晶体管），大小比英伟达要大2～4倍，背后的原因是它设计能力的不足，而芯片做大后，会导致良率下降，所以谷歌的TPU的良率90%都不到，英伟达的可能是99%，结果就是TPU量产很难，很多时候只能满足大厂一两个需求。
   第二，ASIC的核心是根据客户的业务来设计芯片，当然中间很复杂，需要先了解客户的业务、知道客户的是代码怎么写的，再根据这些代码去设计硬件的芯片。谷歌的芯片只能在谷歌的生产里用，亚马逊的芯片只能在亚马逊的生产里用。
  
  
  
   所以我觉得未来的推演，ASIC和GPU是共存的。英伟达会拿绝大部分通用的计算需求，然后ASIC它可能会拿走一些大厂部分的业务场景。比如谷歌有那么多TPU，但是它也采购了大量的英伟达的卡，因为它那些英伟达的卡是要用到它自己的云上面给客户用的，它的TPU只用在训练或者搜索上，应用场景还是比较局限的。
  
  所以看起来，就像老黄说的，无论在训练侧还是在推理侧，“大家都有机会，但机会不大”。英伟达不可能吃掉整个算力蛋糕，特别是当我们进入推理时代，出现越来越多特定环境的应用需求，越来越多端侧的需求，这时候市场是足够大的，能容忍多个玩家。
  
  
   任扬
   济容投资联合创始人：
   如果咱们只从这个算力的一个角度来说，我觉得Inference（推理）的竞争会比Training（训练） 更激烈。如果把这个视角放大一点的话，Nvidia其实不是在和AMD、Groq或者ASIC这些去竞争，它其实是在和云计算厂商去竞争，比如Amazon、Microsoft，而算力是这里面非常重要的一个子战场。
  
  
  
   David Xiao
   CASPA主席
   资深芯片从业者
   ZFLOW AI创始人兼CEO：
   老黄有个策略是，可以用上一代的旧卡做推理，新一代卡做训练。因为旧卡有折扣了，跟其他AI芯片公司在推理场景中竞争时是有优势的。同时对很多人来说，如果训练跟推理的软件框架是一致的，后面软件部署的成本也会降低，这也是英伟达旧卡在推理市场的优势。
   英伟达有很多的打法，它可以去定制推理卡。也可以在产能受限的情况下，只用旧卡来做推理，针对训练做这种又大、又能够横向拓展的新卡。老黄手里面的牌还是非常多的，完全可以选择做或者不做ASIC。
  
  
  业内人士们依然对英伟达的护城河和市场优势抱有非常大的信心，但同时我们确实也感觉到，英伟达的股价在最近受到不少压力。有美股机构投资人对我们表示，除了宏观大环境的压力之外，GPT-5这样的大模型性能表现依然是影响市场的重大因素。
  
  
   刘沁东
   济容投资首席投资官：
   因为投资人都是一帮简单粗暴的人，我觉得能够给投资人信心的，就是GPT-5出来后，让大家看到：堆算力还是有效，而且把模型带到了下一个境界。那英伟达的股价可能就又都冲回来了。如果没有的话，我觉得要花相当长一段时间，让世界理解了英伟达在生态链中的重要性，英伟达的股价才会慢慢到它该有的位置。
  
  
  05 全生态超级碗模式
  我们此前的数期节目都提到，黄仁勋是一个眼光非常长远的CEO。而他这次传递出的一个重要信号，就是“全生态布局”：今后任何一个需要加速计算的领域，他都不会错过。
  
  让我们记忆很深刻就是：在这一次的演讲当中，黄仁勋背后出现这一排像塔罗牌一样的全生态布局，标题是“为每一个产业服务的CUDA-X”。包括数值计算、计算光刻、5G/6G 信号处理、决策优化、基因测序、医学成像、天气分析、量子计算、量子化学、深度学习、计算机辅助工程、数据科学和处理、物理学等等。
  其中，量子计算、自动驾驶和机器人赛道中的仿真平台和算法，也是英伟达目前着重布局的方向。总的结论是：黄仁勋不会放过任何一个需要算力的市场。
  
  而黄仁勋也发出了很强劲的信号，他说2024年GTC大会就像一个Rock Concert，一个秀肌肉、炫酷的摇滚音乐会。而2025年的GTC大会是美国橄榄球Super Bowl（超级碗）。因为Super Bowl号称“美国春晚”，里面的所有人，包括两个参赛的队伍、广告商、转播商、观赛游客，每个人都是赢家。
  黄仁勋讲的“全生态超级碗模式”的故事是“Nvidia is gonna make everyone a winner.”也就是说，在英伟达生态中每个人都是赢家。
  
  
   黄仁勋
   英伟达创始人兼CEO：
   我们制定了一套年度路线规划图供大家参考，以便大家更好地规划建设AI基础设施。同时，我们正在构建三大AI基础设施：云端AI基础设施、企业级AI基础设施以及机器人AI基础设施。
  
  
  黄仁勋预测2028年数据中心支出将会突破1万亿美元，而到那时，AI生态会如何发展？英伟达的霸主地位，是否如我们节目中嘉宾们预测的那样将持续保持？而剩下的蛋糕中又会有什么新机会？硅谷101会持续为大家关注未来的动向。
  注：部分图片来源于网络
"