点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:紫光股份旗下新华三超节点助力万亿级大模型高效训推
首页> 科技频道> 综合新闻 > 正文

紫光股份旗下新华三超节点助力万亿级大模型高效训推

来源:光明网2025-12-01 11:49

    2025年,大模型走向“技术摸高”与“工程创新”并行的新阶段,以DeepSeek为代表的高参数量MoE大模型逐渐成为业内主流。随之而来的,是市场对高性能算力需求的爆发式增长。这意味着,谁能够在大模型训推效率上跑赢对手,谁就有可能在瞬息万变的AI时代抢得市场先机。因此,如何搭建更优、更稳、更强劲的AI算力基础设施变得尤为重要,在此背景下,算力更强、通信更快、效率更高的超节点产品,成为当前算力领域最受关注的技术热点。

    以网强算,超节点技术带来的大模型训推效率跃升

  在经历百模大战后的商用落地阶段,各大模型厂商在实现技术落地之外的首要考量便是每Token成本。虽然目前单台服务器内已经可以基于OAM标准实现最高8卡GPU的直接互联,但更大规模的算力需求下还是要依靠跨节点的Scale-out方式进行集群组网,在动辄百卡、千卡级的大模型训推需求下,巨大的通信开销会造成算力利用率的大幅下降,大量GPU的等待和空转使得传统组网在整体训推效率表现上显得越发吃力。因此,依靠Scale-up技术实现GPU多卡全互联的超节点产品,成为破局智算效率瓶颈的最优解。

  在万亿级参数量成为常态的当下,大模型训练阶段数据的传输量和传输频率激增,同时,张量并行、专家并行等训练模式以及超长序列多模态等技术场景也对GPU之间的带宽和时延提出了极高要求。基于Scale-up的节点内互联能够实现每个GPU之间的直接高速通信,相比跨节点的通信提高数倍带宽,从而大幅提升GPU利用效率,减少GPU空闲;同时,超高带宽、超低时延的互联网络,能够有效打破通信墙,大幅缩减以传统多机多卡方式布局训练的通信开销,真正实现以网强算。

  另一方面,在大模型推理阶段,为了提升GPU使用效率,PD分离(Prefill-Decode分离)技术被广泛应用。然而,由于大模型逐token生成的特性,在推理Decode阶段,需要频繁访问KV Cache,对显存容量和带宽要求极高‌。而超节点支持‌计算与存储资源独立扩展,为Prefill配置高算力节点,为Decode配置大内存节点,避免资源浪费,同时‌其多卡部署、卡间高速直联的特性,能够大幅度降低推理的时延,确保KV Cache快速同步‌,天然适配PD分离场景。

  兼顾性能与稳定,新华三超节点为AI提供强劲可靠的算力效能

  基于在ICT领域的深厚积淀,紫光股份旗下新华三集团以“算力×联接”理念为技术依托,于近期推出了H3C UniPoD S80000超节点产品。作为面向万亿级参数模型训推场景的超节点产品,H3C UniPoD S80000以算力芯片多元化、互联协议标准化、基础设施集成化为核心设计理念,实现了更高性能、更高密度、更高效率的三重进化。柜内卡间全互联通信,相比传统8卡服务器组网,卡间互联带宽提升8倍,单卡推理效率提升80%。同时,H3C UniPoD S80000采用液冷高密部署,单柜可支持64卡超节点部署,并兼容下一代高性能AI加速卡。

紫光股份旗下新华三超节点助力万亿级大模型高效训推

  新华三超节点H3C UniPoD S80000

  在确保大模型训推效率的基础上,新华三超节点还深度考量了产品的稳定性和可维护性,在大模型训练进程中,任何一次中断都可能导致训练进度丢失、资源浪费甚至模型性能退化,因此,AI基础设施不仅要考虑训练性能的提升,更要确保训练连续性,避免时间与金钱的双重损耗。对此,除了通过软硬件的协同调优来保障产品上线后的长稳训练不中断,硬件本身的稳定可靠至关重要。目前,在数百卡以上的超节点规模下,通常需要引入电+光的二层网络架构,新华三也在积极投入节点级的光互联技术研发和测试,在充分利用光技术带来的高速率、低延迟和低能耗优势的同时,尽可能降低光学器件一直以来的高故障率,为客户提供真正具备稳定性、可靠性的商用产品,保障大模型训练的长稳续航。

  目前,紫光股份旗下新华三超节点产品已完成在多个大型项目的集群化部署,支持多款国内外主流GPU的兼容适配,并持续开展与上下游生态伙伴的软硬件协同开发和调优工作,积极布局1024卡及以上更大规模超节点产品的研发和落地,持续提升智算集群规模和效率。

  AI技术持续进化,多元算力百花齐放,AI产业的繁荣依托基础设施的稳固与强劲。面向崭新的AI时代,紫光股份将以超节点技术为全新路标,持续深化“算力×联接”技术理念,全面拥抱产业变革,不断构建性能强劲、多元开放、持续进化的算力基础设施,以技术聚合之力,加速百行百业智慧跃迁。(林峰)

[ 责编:焦子原 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 2025年中国国际海事会展在沪开幕

  • 山东部分地区迎降雪

独家策划

推荐阅读
布局“未来产业”,“十五五”规划建议为什么“点名”量子科技、生物制造等6项产业?如何挖掘中国未来产业的应用价值?
2025-12-03 09:52
记者从工业和信息化部获悉:截至10月末,我国5G基站总数达475.8万个,比上年末净增50.7万个,占移动基站总数的37%。
2025-12-03 09:44
利用美国宇航局“毅力”号火星车捕捉到的声音和电信号,法国科学家提出了火星存在闪电的证据。
2025-12-03 09:41
11月30日,内蒙古自治区乌海市,我国装机规模最大的半固态锂电池电网侧独立新型储能项目成功并网。
2025-12-03 09:34
近日,由中国科学院院士、中国科学院青藏高原研究所研究员丁林领衔的大陆碰撞与高原隆升团队,系统梳理了青藏高原隆升的历史细节。
2025-12-03 09:28
建设教育强国,基点在基础教育。 特别值得一提的是,我校教师创新性地构建了以跨学科项目学习为核心、贯通小初高认知发展,融合科学家精神、工程师思维与设计师视角的科学教育“PRIDE项目式课堂”模式。 此外,科学教育联合培养共同体,也是学校科技教育的有力支撑。
2025-12-02 10:09
今年12月2日是第十四个全国交通安全日,相关部门将围绕“文明交通 礼行天下”主题开展一系列活动。”  公安交管部门提醒:重载车辆、新手驾驶人等慢速群体尽量使用右侧车道通行,减少因较大速度差导致交通拥堵或事故。
2025-12-02 10:08
作为国内单机容量最大、效率最高燃气机组,与传统燃煤机组相比,应急调峰能力大幅提升,能源利用更高效。其碳排放强度仅为百万千瓦燃煤机组的40%,且几乎不产生颗粒物和二氧化硫,从源头减少污染。
2025-12-02 10:08
近日,法国空中客车公司与欧盟航空安全局相继发布声明,要求全球约6000架空客A320系列飞机紧急停飞维修。“此次事件的核心原因是受到单粒子翻转的影响,同时也暴露出航空电子设备对高空飞行环境中太阳辐射影响应对不足。
2025-12-02 10:07
转录组测序显示,受体植物中茉莉酸信号通路被激活;高效液相色谱-质谱检测证实,受体植物根系中茉莉酸及活性衍生物JA-Ile含量增加。”  该团队发现,茉莉酸甲酯处理能模拟菌根网络介导的互作效应,激活植物茉莉酸通路,改变根际微生物组,富集有益菌。
2025-12-02 10:06
中国科学技术大学教授潘建伟、朱晓波、彭承志、龚明等与山西大学教授梅锋等合作,基于可编程超导量子处理器“祖冲之二号”,首次在量子体系中实现并探测了高阶非平衡拓扑相。
2025-12-01 09:33
在距离海平面千米的深海,阳光无法抵达,海水冰冷,压力极大。然而,在环境极端的“海底沙漠”中,却生长着形态各异、结构复杂的深海珊瑚,构建起生机勃勃的海底“秘密花园”。
2025-12-01 09:32
推动科技创新和产业创新深度融合,是加快发展新质生产力、建设现代化产业体系的内在要求,也是塑造高质量发展新动能新优势的战略抉择。
2025-12-01 09:23
红小豆又名赤豆、小豆,是中国老百姓餐桌上一种颇受欢迎的杂粮,但科学家对其基因组的了解还不够深入。
2025-12-01 09:23
在“梦想”号问世之前,中国科学家想要开展深海大洋钻探研究,只能“借船出海”。
2025-12-01 09:22
11月28日晚,2025中国・E-TOWN电竞节超级冠军杯开幕式在位于北京经济技术开发区(又称“北京亦庄”)的北京智慧电竞赛事中心举行。
2025-11-28 20:51
加强重点液态食品道路散装运输监管,守护“舌尖上的安全”;督促连锁餐饮企业落实食品安全主体责任,规范一些连锁餐饮企业“只开店、不管店”问题;“旧国标”电动自行车全面停售……12月新规,一起来看!
2025-11-28 17:11
从神舟二十号乘组换乘返航的刷屏热搜,到“太空烧烤”的温情热议;再到“十五五”期间中国计划发射4颗科学卫星任务……近期中国航天事业的新进展层出不穷。
2025-11-28 09:15
人工智能是引领新一轮科技革命和产业变革的战略性技术,其标准化建设直接关系到关键核心技术自主可控、智能成果普惠于民以及在全球科技治理中赢得话语权。
2025-11-28 05:00
在黑龙江省齐齐哈尔市甘南县东阳镇隆胜村树莓园,凛冽寒风中,东北农业大学园艺园林学院教授霍俊伟正蹲在田埂上仔细查看果树修剪情况。
2025-11-28 05:00
加载更多