近日，创始超越成全场年SemiAnalysis创始人Dylan Patel做客红杉资本播客《Training Data》，人推深度剖析了AI基础设施的理或力未来走向。从推理市场的石油数据爆发式增长、算力效率的球最球算跃升，到硬件架构的大市导全激烈竞争及英伟达的战略布局，Patel提出了多项颠覆性观点。太空

他预测，中心AI推理将成为全球最大市场之一，将主占据GDP显著比重；至2030年，创始超越成全场年OpenAI与Anthropic的人推算力需求合计将突破100吉瓦。尽管未来3-5年太空算力影响微乎其微，理或力但到2040年，石油数据太空数据中心将承载全球超过半数新增算力。球最球算此外，大市导全他指出英伟达CEO黄仁勋大力扶持新兴云厂商，实则是为了打破垄断，构建多极化的算力生态。

推理市场将超越石油：算力短缺是长期常态

Patel断言：“无论是开源还是闭源模型，AI推理都将是全球最大的市场之一，规模远超石油，并将占据GDP的若干个百分点。”

其核心逻辑在于模型迭代速度与算力供给之间的剪刀差：
* 任务价值指数级扩张：模型每次升级，其能执行的有效任务数量和价值呈非线性增长。以Anthropic的Claude Opus为例，Patel指出，新一代模型（如Meetos 5/Claude 4级别）的能力并非Opus的简单两倍，而是质的飞跃。
* 供给永远滞后：全球算力并未在同一周期内实现同等幅度的翻倍。

因此，算力短缺将成为长期结构性问题，因为模型扩展有价值工作的速度，始终快于算力的物理增长。

2040年：超半数增量算力将迁移至太空

对于太空数据中心，Patel给出了明确的时间表：
* 短期（未来3-5年）：太空数据中心尚无实质意义。
* 中期（2030年）：仅OpenAI和Anthropic两家公司的算力需求就将超过100吉瓦，加上Meta、Google等巨头，推理算力体量巨大，但太空占比不足1%。
* 长期（2040年）：算力规模可能达到太瓦（Terawatt）级别，超过50%的新增算力将部署在太空。

核心驱动力：地面能源与土地资源的瓶颈。当地面部署的经济性劣势超过太空部署时，算力向太空迁移将成为必然趋势。

硬件软件协同设计：真正的“百倍增益”来源

Patel强烈反驳了“过去三年算力提升主要源于硬件”的观点，强调协同设计（Co-design）才是关键。

• 硬件提升有限：从Hopper到Blackwell，在最优部署下性能提升约30倍，主要归功于硬件。
• 整体效率跃升：过去三年，整体智能效率提升远超30倍，大部分增益来自模型层与软件层的协同优化。
• 乘数效应：如果各层独立优化，2倍×2倍×2倍仅得8倍；但若跨三层（模型、内核、芯片）协同优化，实际增益可达100倍。

案例对比：
* DeepSeek：其专家混合模型（MoE）形状专为英伟达Hopper架构优化，因此在Hopper上表现卓越，但在TPU上表现不佳。
* Anthropic：模型更“稠密”，更适合TPU架构。
* OpenAI：模型更“稀疏”，偏向GPU路线。

Patel指出，所谓的“CUDA护城河”并非源于CUDA本身，而是源于开源生态中模型形状对GPU的深度优化。DeepSeek、Kimi、阿里、腾讯等开源模型均为GPU协同设计，导致在TPU上运行效果较差。Google必须通过Gemma系列建立自己的开源模型生态以对抗这一效应。

黄仁勋的战略：打造多极化算力格局

对于英伟达为何大力扶持新兴云计算商（Neo Clouds），Patel揭示了黄仁勋的深层战略：

1. 厌恶垄断：黄仁勋极度反感超大规模云厂商（如Google、Amazon）垄断一切的局面。
2. 构建多极世界：通过向新兴AI实验室和云厂商（如Crusoe、CoreWeave）注资和游说，创造一个多极化的市场格局。
3. 长期利益：如果市场仅由OpenAI、Anthropic和Google主导，英伟达将陷入被动。扶持新兴云厂商，旨在削弱Google TPU和Amazon Trainium未来的市场地位，确保英伟达在长期竞争中的主动权。

InferenceX：揭示推理成本每年下降60倍的真相

Patel团队构建了名为InferenceX的实时推理基准测试系统，已获得CoreWeave、Oracle、微软、亚马逊、谷歌、OpenAI等机构捐赠的超5000万美元硬件支持。

核心发现：
* 成本骤降：在等效质量下，推理成本每年下降约60倍。
* 能效提升：每瓦智能（Intelligence per Watt）改善约40倍。
* 帕累托最优曲线：InferenceX输出了响应延迟（Interactivity）与批处理吞吐量（Throughput）之间的最优配置曲线，并开源供行业使用。

这条曲线解释了为何Anthropic的Claude Code快速模式价格高昂，以及OpenAI优先队列的商业逻辑——用户愿意为低延迟支付溢价，而批量处理则追求极致性价比。

从汽车旅馆到半导体智库：Dylan Patel的逆袭之路

Dylan Patel的成长轨迹极具传奇色彩：
* 早期启蒙：在父母经营的汽车旅馆长大，8岁时因修理Xbox 360“红圈死亡”故障而踏入硬件世界。
* 自学成才：12岁起活跃于技术论坛，大学毕业后曾在量化风险公司工作，因不满成果被抢功而离职。
* 创立SemiAnalysis：2020年，在经历人生低谷（亲人离世、疫情隔离）后，他改用真名创立SemiAnalysis。曾开着皮卡、睡在车顶帐篷里，在美国国家公园流浪半年，边旅行边写作。
* 今日成就：SemiAnalysis已成为半导体与AI基础设施领域最具影响力的研究机构之一，团队近90人，年营收据传接近1亿美元。

访谈精华实录

节目简介
* 主题：Dylan Patel谈硬件软件协同设计：AI真正的百倍提升
* 来源：Sequoia Capital · Training Data · 2026年6月30日
* 主持人：Shaun Maguire 与 Sonya Huang（红杉资本合伙人）

核心观点摘要

说话人1（Dylan Patel）：
* 关于起源：我训练的第一个“神经网络”是根据顾客外貌预判他们要买哪种烟，因为烟在货架顶端，我需要提前预判以节省时间。
* 关于硬件入门：8岁时，我不得不拆开Xbox 360，短接温度传感器以修复“红圈死亡”故障，这打开了硬件世界的大门。
* 关于创业契机：2020年，因外祖母去世、工作被抢功及疫情隔离，我陷入低谷。被人肉搜索后，我决定用真名创立SemiAnalysis，并在24岁生日那天发布首篇文章。
* 关于调研方式：我曾开着皮卡在美国国家公园流浪半年，边旅行边写博客。后来旅居拉丁美洲，每年参加40多场全球供应链会议，通过与一线专家对话积累深度认知。

说话人1（Dylan Patel）：
* 关于推理市场：Token的使用将是最大的市场。AI推理将占到GDP的相当比重，比石油市场更大。
* 关于InferenceX：静态基准测试已失效。我们建立了动态运行的基准测试，每天在最新硬件上运行最新模型。目前已有超5000万美元硬件捐赠，涵盖15种芯片类型。
* 关于帕累托曲线：这是硬件、基础设施、模型、应用层决策的上游。例如，Anthropic的快速模式和OpenAI的优先队列，本质都是这条曲线的商业化体现。

说话人1（Dylan Patel）：
* 关于太空算力：未来3-5年太空数据中心无实质影响。但到2040年，超过一半的新增算力将部署在太空。关键变量是地面电力建设成本。
* 关于每瓦智能：成本每年下降60倍，每瓦智能提升约40倍。虽然距离人类大脑仍有数量级差距，但计算机可以投入更多电力，无需应对疾病或睡眠问题。

说话人1（Dylan Patel）：
* 关于协同设计：我完全不同意“收益主要来自硬件”的观点。从Hopper到Blackwell性能提升约30倍，但整体智能效率提升远超此数。真正的突破来自模型、内核与芯片的协同优化，可实现100倍跃升。
* 关于DeepSeek与TPU：DeepSeek的专家模型形状专为Hopper优化，因此在TPU上表现不佳。TPU虽优秀，但无法完美运行为GPU优化的模型。
* 关于CUDA护城河：护城河不在CUDA本身，而在下游模型对GPU的深度优化。Google需通过Gemma建立自己的开源生态来对抗。

说话人1（Dylan Patel）：
* 关于黄仁勋的战略：Jensen厌恶超大规模云厂商垄断。他扶持新兴云厂商（如Crusoe、CoreWeave）和中国AI实验室，旨在构建多极化世界。如果只有OpenAI、Anthropic和Google主导，英伟达将陷入被动。
* 关于GPU vs TPU：两者各有优势，取决于软硬件协同设计。OpenAI的稀疏模型可能更适合GPU，而Anthropic的密集模型可能更适合TPU。没有绝对的优劣，只有适配与否。

说话人1（Dylan Patel）：
* 关于算力短缺：模型可处理的工作量扩张速度超过算力增速，导致价格持续上涨。Anthropic等公司已实现盈利，有能力以高价购买GPU。
* 关于数据中心质量：数据中心之间存在巨大差异。谷歌等巨头能通过精细化管理电力，实现1吉瓦额定容量下的满负荷运行，甚至临时超负荷，从而收取更高溢价。
* 关于新兴云厂商的机会：超大规模云厂商的传统优势（如Nitro网卡、多租户隔离）在AI场景下反而成为负担。新兴云厂商凭借高杠杆、快速交付和专注AI的特性，获得了市场机会。

说话人1（Dylan Patel）：
* 关于未来押注：太空数据中心、小行星采矿令我兴奋。半导体层面，共封装光学（Co-package optics）将在十年内实现。
* 关于生态系统终局：每家超大规模云厂商都会尝试自研芯片，但供应链能力和技术引入决定了上限。行业将趋向多元化，但英伟达的通用平台仍将占据重要市场，因为其能兼顾更多需求，避免陷入局部最优。