在AI浪潮中，模型参数增长和算力堆叠一度成为竞逐焦点。不过站在当下时点 ，当生成式AI开启规模化落地 ，战场已经转向推理：真实场景中海量数据的瞬间调用 、百万Token的连续推理 、长上下文的高效处理，在提升了算力需求的同时 ，也重新定义了算力基建的价值链 。
在日前的AI基础设施峰会上 ，英伟达发布了全新Rubin CPX GPU 。据官方介绍，这颗芯片专为长上下文推理负载设计，是英伟达首颗专为需要一次性处理大量知识（数百万级别tokens）并进行AI推理的模型构建的芯片。
英伟达称 ，这颗芯片可以为客户带来“前所未有的投资回报率”——每部署价值1亿美元的新芯片 ，将带来50亿美元收入，投资回报率约50倍 ，远超GB200 NVL72的约10倍回报率 。此外 ，公司宣布GB300 NVL72机架级系统在最新MLPerf推理基准测试中创造了新推理基准记录 。
花旗研究指出，在ASIC竞争加剧的环境下 ，英伟达曾经一年一度的产品发布脚步开始提速 ，Rubin CPX在产品路线图中“插队 ”，标志着“推理时代 ”已经到来。
分析师进一步指出 ，Rubin CPX的发布和MLPerf新纪录都展现了英伟达在AI基建领域的持续创新能力。随着AI推理需求、特别是长语境推理需求爆发 ，英伟达的新品组合有望带动收入显著增长 。
值得注意的是 。本周引发全球市场瞩目的甲骨文，也提到了推理市场需求的爆发。
在业绩会上 ，公司创始人Larry Ellison明确指出 ，AI正从根本上改变甲骨文，AI推理市场将“远大于”AI训练市场，而市场上的推理算力正在被耗尽 。
虽说甲骨文指数级别的订单爆炸性增长 ，以及随之而来对OpenAI依赖性的质疑 ，让其股价在飙升之后连跌两天 。但摩根大通也表示，承认甲骨文在获取OCI业务方面取得了“令人印象深刻的成就 ” ，并认可其在AI领域的长期潜力。
▌算力基础设施进入长上下文推理新阶段
实际上拉长时间线就能发现 ，海内外大厂Token调用量已出现明显加速拐点，推理端算力需求快速增长 。
今年5月Google I/O大会的数据显示 ，Google的Token月均调用量从去年4月的9.7万亿增长至今年4月的480万亿 ，增长50倍 。根据微软三季度电话会数据，Azure AI基础设施在今年一季度处理了超100万亿Token ，较去年同期增长5倍 ，其中3月份单月Token调用量达50万亿。国内互联网大厂来看，今年5月字节火山引擎Token日均调用量为16.4万亿（月均508T） ，是去年5月的137倍 。
过去一年 ，随着生成式AI进入规模化落地阶段，行业对“长上下文 ”的需求快速上升 。无论是企业级知识库问答 、代码生成，还是多模态长视频生成 ，均需要模型在极大输入序列下保持推理准确性与计算效率。然而 ，现有GPU在应对超长上下文时普遍存在内存带宽瓶颈与计算冗余，导致算力利用率不足 。
东吴证券指出 ，从产业角度来看 ，Rubin CPX的推出不仅是英伟达产品线的升级，更意味着海外算力基础设施进入“上下文与生成分工协作”的新阶段 。随着百万Token推理与长视频生成成为AI应用的标配需求 ，硬件和软件的耦合度显著提高 ，算力产业链的价值量同步上升。无论是GPU 、存储、网络，还是配套的高速PCB、光模块与封装工艺 ，相关厂商都有望深度受益。
股票怎么样融资:手机股票分析软件排行榜-美政府可能入股台积电？国台办回应
正规股票杠杆软件有哪些:如何加杠杆-十大券商策略：持股过节性价比较高！10月新一轮上行正在蓄势
股票开户了要怎么买股票:手机怎么买股票详细步骤-6G传来重磅消息 概念股集体异动 通信产业利好消息不断
股票分析软件排行榜前十名:股票软件排行榜前十名-疯狂闪崩！2000亿大绞杀！50倍大牛股腰斩 主营为0元
股票账户怎么配资:股票软件app排行榜-存储新一轮涨价潮开启？美光暂停报价 或调涨20%-30%
怎样用手机购买股票:股市加杠杆操作-特朗普宣布：暂无计划因中国购买俄罗斯石油而对中国产品加征关税
同创优配-同创优配官网-炒股配资门户提示：文章来自网络，不代表本站观点。
同创优配-同创优配官网-炒股配资门户㉖我们关注客户体验的细节，从细节处提升服务质量，为客户创造更好的投资体验。
6月27日，沪指盘中震荡下探，上证50指数跌逾1%，创业板指相对强势，场内近3400只股飘红。 行业板块涨多跌少，...
界面新闻记者|龙力随着上市公司年报的披露，私募2024年第四季度的“新宠”也陆续浮出水面。Wind数...
外交部发言人宣布： 8月18日至20日，中共中央政治局委员、外交部长、中印边界问题中方特别代表王毅将应邀访问印度并...
1—5月份，全国规模以上工业企业实现利润总额27204.3亿元，同比下降1.1%（按可比口径计算，详见附注二）。 ...
作者：ACE1.对于中国的互联网大亨来说，刚刚过去的2021年，是被载入史册的一年。只不过，载入...
界面新闻编辑|江怡曼近期，多家A股上市公司披露2024年度分红计划，其中不乏大额分红预案。4月10日...
关于调整碳酸锂期货LC2509合约交易限额的通知 广期所发〔2025〕243号 各会员单位： 根据《广州期货交...
记者辛圆猪价近期呈现疲弱态势。农业农村部监测数据显示，2月份全国猪肉价格连续4周下降。另据中国养猪网数...
界面新闻记者|张艺去年更名易主的海南华铁（603300.SH）站上了算力风口，算力服务业务爆发式增长。...
实习记者|章宇璠记者|张一诺2024年，巴菲特连续四年《福布斯》位居美国最慷慨的25位亿...
文丨财联社《中国好声音》母公司港股星空华文(06698.HK)股价午后一度跌近20%，截至发稿，该股跌1...
界面新闻记者|邹文榕政策引导叠加企业融资需求旺盛，界面新闻记者关注到，开年以来，产业债一级市场发行量较往年明...
界面新闻记者|张艺PCB（印制电路板）龙头胜宏科技（300476.SZ）近期上演业绩股价“戴维斯双击”。在A...
根据新股发行安排，今日有2只新股申购，新亚电缆（001382.SZ）发行价格为7.40元/股；矽电股份（301629.S...
界面新闻记者|陈靖杜萌3月6日，证监会主席吴清出席十四届全国人大三次会议经济主题记者会，并就相关问题回答中...
