点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:2026 CCF高性能计算大会|存算融合破解AI推理“内存墙”
首页> 科技频道> 创新创业 > 正文

2026 CCF高性能计算大会|存算融合破解AI推理“内存墙”

来源:光明网2026-10-20 08:28

  10月18日,以“超智深融 算力圳浓”为主题的2026 CCF全国高性能计算学术大会在深圳举行。其间,联想以“混合词元工厂”为主线,集中展示万全异构智算、海神液冷、超节点等算力解决方案,系统呈现了AI时代联想基础设施的前沿技术与创新成果。

  联想集团首席科学家肖利民围绕《存算融合加速大模型推理的探索实践》发表演讲,系统介绍了联想在CXL内存池与近存计算融合方面的技术创新,为降低Token综合成本提供了参考路径。

2026 CCF高性能计算大会|存算融合破解AI推理“内存墙”

  联想集团首席科学家肖利民

  随着Agentic AI加速落地,大模型应用正从单一的对话工具走向具备感知、规划与执行能力的智能体,AI算力需求也从训练进一步向推理延伸。市场研究机构Fortune Business Insights预测,全球AI推理市场规模将从2026年的约1178亿美元增长至2034年的约3126亿美元。

  但大模型推理市场高速增长的背后,技术性能瓶颈日益凸显,推理请求和上下文长度不断增加,使模型运行过程中产生的KV Cache快速增长。有限的GPU显存难以兼顾模型权重、KV Cache存储和高并发推理;转存至主机内存,又会面临访问带宽不足、延迟较高等问题,如何拓展KV Cache存储可用容量、降低访存开销,成为大模型推理基础设施亟待解决的关键问题。

  针对这一挑战,肖利民系统分享了联想在内存扩展与近存计算融合方面的探索实践。一方面,基于CXL内存池扩展可用内存容量,让KV Cache能够分层存储,并支持多个推理实例共享公共前缀,减少重复存储和重算;另一方面,在内存侧配置近存计算引擎,将Attention等适合的计算任务与KV数据一起下沉至内存侧,借助近存计算让数据就近处理、减少KV跨设备搬运,从而破解“内存墙”问题。

  肖利民表示,验证数据表明,存算融合推理加速系统可显著降低大模型推理延迟,大幅提升系统吞吐量。分项验证中,对比NVMe层,内存池在固定输入长度场景TTFT降低3.5倍,在多轮对话场景TTFT降低2.4倍,且随着对话轮次变多,延迟上涨幅度相对平缓,优势更加明显。

  借助内存池实现KV复用,相比完全重计算,首Token延迟加速12至28倍;对比RDMA架构内存池,也可以实现2至3倍的加速。把注意力计算下沉内存池侧,解码延迟降低约2.5倍,同时腾出大量显存,可用于支持更长上下文、更大规模模型。

  端到端推理延迟方面,与RDMA内存池基线对比,取得了2至3倍的端到端加速,且上下文越长,加速效果越明显;系统吞吐量提升更加可观,随着上下文变长,系统吞吐量提升6至20倍。

  活动现场,联想正式发布聚焦词元工厂、海神液冷、AI存储的三卷《联想算力基础设施差异化优势非凡箓》,并重点展示的绿色液冷落地技术与前沿方案。

2026 CCF高性能计算大会|存算融合破解AI推理“内存墙”

  据介绍,目前,海神液冷技术解决方案已在多个重点行业应用落地。在制造领域,联想基于海神温水水冷高性能计算解决方案,构建了吉利星睿智算中心·智能仿真平台,为车型研发提供强劲算力支持,该平台可支持吉利汽车开展超1.2万次全场景虚拟碰撞试验、超过72万公里的虚拟道路耐久测试,并大幅提升研发仿真计算效率,数据中心PUE为1.1062,一年满负荷运行可减少约3179吨碳排放。

  在教育领域,联想面向教科研HPC和AI4S混合场景,实现HPC与AI异构算力融合,提升CPU、GPU资源利用率,解决数据共享难题,支撑了辽宁大学、上海交通大学等众多高校在科学前沿领域的研究。

  在气象领域,联想为北京气象局搭建了由800台服务器组成的温水水冷高性能计算系统,支持7×24小时天气、气候和环境气象业务,这一系统曾服务北京冬奥会的气象保障,支撑了分钟级、百米级的气象预报需求。(鸣耒)

[ 责编:战钊 ]
阅读剩余全文()

相关阅读

您此时的心情

光明云投
新闻表情排行 日/周
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 乘“蛟龙”入深海

  • 西藏山南萨热路跨江大桥全线合龙

独家策划

推荐阅读
城市是人民美好生活的载体,人民群众是城市建设的主体和城市发展的动力源泉。
2026-10-19 09:32
当你出门后,扫地机器人根据你的清洁习惯自己排定工作时间、规划好路线;自研的快充技术,让它边充边扫、无限续航。这个颇具科幻意味的场景,已被第140届中国进出口商品交易会(广交会)上的一款产品实现。
2026-10-19 09:35
“可信工具”这一重要提法精准抓住了人工智能发展的一个根本问题:我们不能只问人工智能是不是更聪明、更高效、更强大,还要追问它是否真正可信。
2026-10-19 09:31
让从农田到餐桌的全过程均有标准可依,并积极推广应用食品数字标签,让食品信息获取更便捷高效。
2026-10-19 09:18
推动卫生与健康事业高质量发展,不断提高人民健康水平,确保健康中国建设取得决定性进展。
2026-10-19 09:16
当前全球生态环境挑战日益严峻,科技创新是应对可持续发展挑战的核心力量。
2026-10-16 16:29
10月16日是第四十六个世界粮食日,所在周是全国粮食安全宣传周,主题为“创新当下,粮安未来”。从良种选育、智能农机到数字农业、精准储运,创新正成为粮食增产、节粮减损、营养提升的关键引擎。即日起,光明网联合科普中国推出系列科普视频,深入解读科技创新绘就的粮安答卷。
2026-10-16 08:46
在显示技术升级与人工智能赋能的双重驱动下,行业正跳出传统数字阅读的固有边界
2026-10-16 08:45
打造集技术研发、模型训练、系统验证及场景测试于一体的创新基地,推动人形机器人及具身智能技术从实验室研发阶段走向大规模产业应用。
2026-10-16 08:39
工业和信息化部、中央网信办、市场监管总局高度重视,在前期调查工作基础上,成立联合调查组开展核查,并依法依规处理。有关情况将及时公布。
2026-10-16 08:40
大会延续“零碳·科技”永久主题,以“智储新程 绿动全球”为年度主题
2026-10-16 08:35
“戈壁荒滩老风口,飞沙走石雁不留。托里县老风口蝶变的三部曲,为生态脆弱地区推动高质量发展、树立和践行正确政绩观,提供了深刻启示。树立和践行正确政绩观,就要算大账、算长远账、算整体账,既做显功、也做潜功,把生态优势转化为发展优势、民生福祉。
2026-10-15 09:51
常压下,水到0℃会结冰,这就是人们熟悉的相变,0℃即是相变的临界点。两篇论文的共同通讯作者、宁波东方理工大学助理教授余雪佳,把这个难题比作“在沸水中完好保存一件冰雕”。
2026-10-15 09:49
长久以来,古生物学界与教科书普遍认为琥珀皆源自种子植物(裸子或被子植物),最古老的确切记录定格在美国约3.2亿年前的石炭纪晚期。
2026-10-15 09:48
在芯片制造、航空发动机等高端硬核制造领域,技术迭代具有长周期、累积性、阶梯式特征,遵循循序渐进、层层突破的线性攻关规律。新征程上,持续深耕创新生态建设、迭代升级现代化创新体系,必能培育形成扎根中国、联通世界、内生增长、开放共生的创新新格局。
2026-10-15 09:46
受困于“小散弱”的格局,长期以来,我国科技期刊在国际学术传播体系中缺少属于自己的“拳头产品”与平台话语权——“在精品化发展方面,经过70余年积淀,我国已形成以《中国科学》《科学通报》《国家科学评论》等刊群为代表的高水平期刊方阵。
2026-10-15 09:45
AI时代,科研的“源头活水”是什么?不是算力,不是数据,而是人对未知世界的好奇与追问。
2026-10-14 11:28
截至8月末,三家基础电信企业的固定互联网宽带接入用户总数7.04亿户,比上年末净增1365万户;三家基础电信企业及中国广电的移动电话用户总数18.49亿户,其中5G移动电话用户13.11亿户。
2026-10-14 09:34
自然资源部会同国家发展改革委12日发布《矿产资源目录》。自然资源部矿产资源保护监督司负责人表示,矿产资源目录是矿产资源管理制度的重要基础,是制定矿产资源规划、实施矿业权管理、规范矿产资源勘查开采行为、征缴矿产资源税费、制定产业政策等工作的依据。
2026-10-14 09:40
与共康村相邻的巴达村,是第一批参与试种的村,也是西藏首个高海拔水稻实测亩产破千斤的村子,村民把“海拔3175米种水稻”写进村史。一粒水稻种子,不只改写了亩产数字,更改变了“西藏水稻只能在察隅、墨脱海拔1500米以下种植”的历史,为高原水稻纳入地方主粮增添可能。
2026-10-14 09:41
加载更多