点击右上角微信好友
朋友圈
请使用浏览器分享功能进行分享
10月24日,元脑服务器第八代新品发布会在京举行。会上,浪潮信息发布元脑服务器第八代算力平台,基于开放架构设计,实现“一机多芯”,同一架构支持英特尔至强6处理器及AMD EPYC 9005系列处理器,在促进多元生态共进的同时,具备更全面的智能能力和更高能效,更好支撑AI大模型开发与应用创新。实测数据表明,在LLaMA2大模型AI推理场景中,整机性能较上代最大提升3倍。
据了解,元脑服务器第八代算力平台拥有23款新品,基于先进的计算、存储架构创新,在CPU总线互联带宽、内存带宽及容量上全面优化,单机核心数最多到576C,主频高达5.0GHz,内存带宽提升高达136%。
元脑服务器第八代算力平台实现了全面的智能增强,通过搭载自研服务器操作系统KOS、AIOps智能运维管理平台以及AI软件堆栈,从服务器智能,到快速构建AI开发环境,到作业调度和资源统一纳管,乃至智算中心智能运维,提供全面的平台软件与工具软件支持。
新平台在预警、散热、管理等方面进行了全新的智能化升级。其中,在智能预警方面,全新升级内存故障智能预警修复技术MUPR,基于对上万台服务器故障数据的建模分析和AI模型算法的训练,实现内存故障提前预警、内存错误实时隔离、内存故障智能修复,降低内存导致宕机故障率80%。在智能管理方面,通过RTOS实时操作系统,实现开机3秒内智能管理调控风扇转速,降低30%的噪音,确保散热安全。
面向大模型部署难题,新平台与服务器操作系统KOS实现软硬协同优化,自研KOS AI定制版简单2步即可实现大模型训练环境搭建,200节点训练集群开发环境,采用AI定制版20分钟即可完成部署上线可用,极大提升了大模型开发部署效率。(任铭)