9415 
小字号
开启存储下一个大机会！,韩媒详解黄仁勋“神秘推理上下文内存平台”|推理_新浪财经_新浪网
乱人伦❌❌国语对白海角社区的惊世秘闻，隐藏在表象下的丑陋真相，挑战道德底线的讨论热烈。
炒股就看金麒麟分析师研报，权威，专业，及时，全面，助您挖掘潜力主题机会！（来源：网易科技）在1月5日的2026年国际消费电子展（CES）上，英伟达首席执行官黄仁勋发布了名为“推理上下文内存平台”（ICMS）的全新硬件，旨在解决人工智能推理阶段爆炸式增长的数据存储需求。此举标志着AI硬件架构的重心正从单纯的算力堆叠向高效的上下文存储转移，NAND闪存和SSD有望接棒HBM，成为下一个关键的增长引擎。《韩国经济日报》在1月24日的文章中介绍，黄仁勋在演讲中展示了一个被称为“推理上下文内存平台”（Inference Context Memory Platform，简称ICMS）的神秘黑色机架。这并非普通的硬件更新，而是一个旨在解决人工智能推理阶段数据瓶颈的关键创新。记者敏锐地捕捉到，这可能是继HBM（高带宽内存）之后，存储行业的下一个爆发点。这一平台的核心逻辑在于解决AI推理中的“KV缓存”（键值缓存）问题。随着AI从单纯的学习阶段转向大规模推理应用，数据量呈爆炸式增长，现有的GPU显存和服务器内存架构已难以满足需求。英伟达通过引入全新的数据处理单元（DPU）和海量SSD（固态硬盘），构建了一个庞大的缓存池，试图打破这一物理限制。这一技术变革对于韩国存储巨头三星电子和SK海力士来说，无疑是一个巨大的利好消息。报道认为，随着ICMS的推广，NAND闪存将迎来类似HBM的“黄金时代”。这不仅意味着存储容量需求的激增，更预示着存储架构的根本性变革——GPU将可能绕过CPU，直接与存储设备进行高速通信。KV缓存爆炸式增长引发存储焦虑韩媒文章指出，黄仁勋引入ICMS技术的核心动因在于“KV缓存”的激增在AI推理时代，KV缓存是AI理解对话上下文、进行逻辑推理的关键。例如，当用户向AI询问关于G-Dragon的复杂主观问题时，AI需要调用模型内部数据和历史对话上下文（即KV缓存）进行权重分配和推理，以避免重复计算和幻觉。随着AI从单纯的学习转向推理，以及应用场景向多模态扩展，所需处理的数据量呈现不规则且爆炸式的增长。英伟达发现，仅靠昂贵的HBM或常规DRAM已无法容纳海量的KV缓存，而现有的服务器内部存储架构在应对未来推理时代时显得捉襟见肘。因此，一种能承载海量数据且保持高效访问的专用存储平台成为刚需。DPU驱动的9600TB巨量空间据韩媒文章，ICMS平台的核心在于将DPU与超大容量SSD相结合。文章转述英伟达介绍，该平台采用了新的“BlueField-4”DPU，充当数据传输的“行政后勤官”，以减轻CPU负担。一个标准的ICMS机架包含16个SSD托架，每个托架配备4个DPU并管理600TB的SSD，使得单个机架的总容量达到惊人的9600TB。这一容量远超传统GPU机架。相比之下，一套包含8个机架的VeraRubin GPU平台，其SSD总容量约为4423.68TB。黄仁勋表示，通过ICMS平台，虚拟层面上将GPU的可用内存容量从以前的1TB提升到了16TB。同时，借助BlueField-4的性能提升，该平台实现了每秒200GB的KV缓存传输速度，有效解决了大容量SSD在网络传输中的瓶颈问题。开启NAND闪存黄金时代文章指出，ICMS平台主要利用的是SSD，这直接利好NAND闪存制造商。过去几年，虽然AI火热，但镁光灯主要集中在HBM上，NAND闪存和SSD并没有受到同等程度的关注。英伟达将该平台定位为介于服务器内部本地SSD和外部存储之间的“第3.5层”存储。与昂贵且耗电的DRAM相比，由高性能DPU管理的SSD具备大容量、速度快且断电不丢失数据的优势，成为存储KV缓存的理想选择。这一架构变革直接利好三星电子和SK海力士。由于ICMS对存储密度的极高要求，市场对企业级SSD和NAND闪存的需求将大幅攀升。此外，英伟达正在推进“Storage Next”（SCADA）计划，旨在让GPU绕过CPU直接访问NAND闪存，进一步消除数据传输瓶颈。SK海力士已迅速响应这一趋势。据报道，SK海力士副总裁金天成透露，公司正与英伟达合作开发名为“AI-N P”的原型产品，计划利用PCIe Gen 6接口，在今年年底推出支持2500万IOPS（每秒读写次数）的存储产品，并预计到2027年底将性能提升至1亿IOPS。随着各大厂商加速布局，NAND闪存和SSD有望在AI推理时代迎来量价齐升的新周期。 .appendQr_wrap{border:1px solid #E6E6E6;padding:8px;} .appendQr_normal{float:left;} .appendQr_normal img{width:100px;} .appendQr_normal_txt{float:left;font-size:20px;line-height:100px;padding-left:20px;color:#333;} 海量资讯、精准解读，尽在新浪财经APP
乱人伦❌❌国语对白海角社区的惊世秘闻，隐藏在表象下的丑陋真相，挑战道德底线的讨论热烈。
分享让更多人看到 
人民日报
人民日报少年
人民网出品+
手机人民网出品
领导留言板
人民视频
人民智作
第一时间为您推送权威资讯 
报道全球 传播中国 
关注人民网出品，传播正能量 
