点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:紫光股份旗下新华三超节点助力万亿级大模型高效训推
首页> 科技频道> 综合新闻 > 正文

紫光股份旗下新华三超节点助力万亿级大模型高效训推

来源:光明网2025-12-01 11:49

    2025年,大模型走向“技术摸高”与“工程创新”并行的新阶段,以DeepSeek为代表的高参数量MoE大模型逐渐成为业内主流。随之而来的,是市场对高性能算力需求的爆发式增长。这意味着,谁能够在大模型训推效率上跑赢对手,谁就有可能在瞬息万变的AI时代抢得市场先机。因此,如何搭建更优、更稳、更强劲的AI算力基础设施变得尤为重要,在此背景下,算力更强、通信更快、效率更高的超节点产品,成为当前算力领域最受关注的技术热点。

    以网强算,超节点技术带来的大模型训推效率跃升

  在经历百模大战后的商用落地阶段,各大模型厂商在实现技术落地之外的首要考量便是每Token成本。虽然目前单台服务器内已经可以基于OAM标准实现最高8卡GPU的直接互联,但更大规模的算力需求下还是要依靠跨节点的Scale-out方式进行集群组网,在动辄百卡、千卡级的大模型训推需求下,巨大的通信开销会造成算力利用率的大幅下降,大量GPU的等待和空转使得传统组网在整体训推效率表现上显得越发吃力。因此,依靠Scale-up技术实现GPU多卡全互联的超节点产品,成为破局智算效率瓶颈的最优解。

  在万亿级参数量成为常态的当下,大模型训练阶段数据的传输量和传输频率激增,同时,张量并行、专家并行等训练模式以及超长序列多模态等技术场景也对GPU之间的带宽和时延提出了极高要求。基于Scale-up的节点内互联能够实现每个GPU之间的直接高速通信,相比跨节点的通信提高数倍带宽,从而大幅提升GPU利用效率,减少GPU空闲;同时,超高带宽、超低时延的互联网络,能够有效打破通信墙,大幅缩减以传统多机多卡方式布局训练的通信开销,真正实现以网强算。

  另一方面,在大模型推理阶段,为了提升GPU使用效率,PD分离(Prefill-Decode分离)技术被广泛应用。然而,由于大模型逐token生成的特性,在推理Decode阶段,需要频繁访问KV Cache,对显存容量和带宽要求极高‌。而超节点支持‌计算与存储资源独立扩展,为Prefill配置高算力节点,为Decode配置大内存节点,避免资源浪费,同时‌其多卡部署、卡间高速直联的特性,能够大幅度降低推理的时延,确保KV Cache快速同步‌,天然适配PD分离场景。

  兼顾性能与稳定,新华三超节点为AI提供强劲可靠的算力效能

  基于在ICT领域的深厚积淀,紫光股份旗下新华三集团以“算力×联接”理念为技术依托,于近期推出了H3C UniPoD S80000超节点产品。作为面向万亿级参数模型训推场景的超节点产品,H3C UniPoD S80000以算力芯片多元化、互联协议标准化、基础设施集成化为核心设计理念,实现了更高性能、更高密度、更高效率的三重进化。柜内卡间全互联通信,相比传统8卡服务器组网,卡间互联带宽提升8倍,单卡推理效率提升80%。同时,H3C UniPoD S80000采用液冷高密部署,单柜可支持64卡超节点部署,并兼容下一代高性能AI加速卡。

紫光股份旗下新华三超节点助力万亿级大模型高效训推

  新华三超节点H3C UniPoD S80000

  在确保大模型训推效率的基础上,新华三超节点还深度考量了产品的稳定性和可维护性,在大模型训练进程中,任何一次中断都可能导致训练进度丢失、资源浪费甚至模型性能退化,因此,AI基础设施不仅要考虑训练性能的提升,更要确保训练连续性,避免时间与金钱的双重损耗。对此,除了通过软硬件的协同调优来保障产品上线后的长稳训练不中断,硬件本身的稳定可靠至关重要。目前,在数百卡以上的超节点规模下,通常需要引入电+光的二层网络架构,新华三也在积极投入节点级的光互联技术研发和测试,在充分利用光技术带来的高速率、低延迟和低能耗优势的同时,尽可能降低光学器件一直以来的高故障率,为客户提供真正具备稳定性、可靠性的商用产品,保障大模型训练的长稳续航。

  目前,紫光股份旗下新华三超节点产品已完成在多个大型项目的集群化部署,支持多款国内外主流GPU的兼容适配,并持续开展与上下游生态伙伴的软硬件协同开发和调优工作,积极布局1024卡及以上更大规模超节点产品的研发和落地,持续提升智算集群规模和效率。

  AI技术持续进化,多元算力百花齐放,AI产业的繁荣依托基础设施的稳固与强劲。面向崭新的AI时代,紫光股份将以超节点技术为全新路标,持续深化“算力×联接”技术理念,全面拥抱产业变革,不断构建性能强劲、多元开放、持续进化的算力基础设施,以技术聚合之力,加速百行百业智慧跃迁。(林峰)

[ 责编:焦子原 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 2026北京国际商业航天展开幕

  • 杭州:逛庙会 迎腊八

独家策划

推荐阅读
我国结核病防治虽成效显著,疫情持续下降,但当前形势依然严峻,防治工作任重道远。作为一名从业30多年的结核科医生,我一直专注于结核病的临床诊治与防控,从未想过自己会与结核病防治历史结缘——直到十余年前。
2026-01-23 10:13
每到冬天,许多人都会感到手脚冰凉,即使穿得很厚,也难以真正暖和起来。为什么会有这种现象?该如何有效改善?
2026-01-23 10:06
“设立教育基金是我多年的心愿,希望为学校年轻人的培养作一点贡献。”
2026-01-23 10:01
1月22日,中科宇航将微重力金属增材制造返回式科学实验载荷交付于中国科学院力学研究所。这台由力学所自主研制的载荷,搭载于中科宇航力鸿一号遥一飞行器,于1月12日成功开展我国首次太空金属增材制造(即“3D打印”)实验。据悉,这是我国首次基于火箭平台实施太空金属增材制造返回式科学实验。
2026-01-23 09:48
团队所制备的“纤维芯片”中,电子元件(如晶体管)集成密度达10万个/厘米,通过晶体管高效互连,可实现数字、模拟电路运算等功能。而在虚拟现实领域,基于“纤维芯片”所构建的智能触觉手套适用于远程手术组织硬度感知、虚拟道具交互等场景,有望极大提升用户与虚拟环境的交互体验。
2026-01-23 09:48
扎实推进科普智库各项建设工作,为实现2035年“终结结核病流行”目标注入强劲的思想动力与坚实的行动支撑。
2026-01-22 18:44
国家能源局21日发布的数据显示,截至2025年12月底,我国电动汽车充电设施数量达2009.2万个,突破2000万大关。方案提出,到2027年底,将在全国范围内建成2800万个充电设施,提供超3亿千瓦的公共充电容量,满足超过8000万辆电动汽车充电需求,实现充电服务能力的翻倍增长。
2026-01-22 09:31
正因如此,团队创新性转向了模拟计算这一新兴赛道,成功研制出基于阻变存储器的非负矩阵分解模拟计算求解器。“这项工作为非负矩阵分解这类约束优化问题的实时求解开辟了新路径,展现了模拟计算处理现实复杂数据的巨大潜力。
2026-01-22 09:28
对于成千上万的心脏病患者来说,植入心脏起搏器是维持生命节律的重要方式。该起搏器设计极度微型化,生物相容性优异,可通过微创导管经股静脉植入心脏内部,大大降低了手术创伤。
2026-01-22 09:27
这是一种生物分子磁敏感荧光蛋白(MFP),能与磁场和无线电波相互作用,其特性正源于蛋白质内部的量子力学效应。研究团队首先开发出一种原型成像仪器,能够利用类似磁共振成像(MRI)的原理,对经过人工改造的蛋白质进行体内定位。
2026-01-22 09:44
20日,海南省脑空间信息学与脑机接口技术创新中心揭牌。据了解,海南大学近年来在全脑成像技术研发、脑图谱绘制等领域取得多项重大突破,并成功研发了高通量低功耗采集及刺激芯片、高自由度神经刺激芯片等多款脑机接口专用芯片,还构建了神经系统疾病灵长类动物模型研发技术体系,为脑科学基础与转化研究、脑机接口技术发展提供了技术支撑。
2026-01-22 09:30
光明日报北京1月21日电 记者王美莹、通讯员丁艳青从中国地震局获悉,近日,我国地震行业首个国家级与省级联动的网络安全管理平台正式建成并投入使用。目前,该平台已投入业务运行,显著提升了全国地震行业网络安全的整体防护水平,为业务平稳运行提供了坚实保障。
2026-01-22 09:29
随着中国第42次南极考察队队员陈龙耀从东南极西福尔丘陵地区裸露的岩壁敲下第一块岩石样本,中山站度夏地质考察工作正式启动。
2026-01-21 09:08
这套“地震断层模拟试验装置”由中国工程院院士、中国地震局工程力学研究所名誉所长谢礼立领衔的团队历时4年攻关研制完成,已成功通过验收。
2026-01-21 09:02
长期以来,半导体面临一个难题:我们知道下一代材料的性能会更好,却往往不知道如何将它制造出来。这项材料工艺革新解决了从第三代到第四代半导体都面临的共性散热难题,为后续的性能爆发奠定了关键基础。
2026-01-21 09:01
该团队通过对比研究嫦娥六号月球背面样品与嫦娥五号月球正面样品,发现嫦娥六号样品中的碳结构具有更明显的缺陷特征,这可能与月球背面经历的更强烈的微陨石撞击历史有关。
2026-01-21 09:00
近日,在国新办举行的新闻发布会上,海关总署相关负责人介绍,2025年中国高技术产品出口增长13.2%,工业机器人出口增长48.7%,并首次超过进口,我国成为工业机器人净出口国。
2026-01-21 08:56
2025年C919安全载客超过400万人次,而且今年又新开了广州往返南京的航线。
2026-01-20 07:00
工业和信息化部、国家发展改革委等五部门日前联合印发《关于开展零碳工厂建设工作的指导意见》。
2026-01-20 03:25
工业和信息化部日前印发最新修订的《优质中小企业梯度培育管理办法》,将科技型中小企业纳入优质中小企业梯度培育范围。办法自2026年4月1日起实施。
2026-01-20 03:20
加载更多