点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:大模型发展如何打破算力瓶颈?院士专家“问诊”超智融合
首页> 科技频道> 综合新闻 > 正文

大模型发展如何打破算力瓶颈?院士专家“问诊”超智融合

来源:光明网2024-07-23 08:43

  近日,由中国智能计算产业联盟与全国信标委算力标准工作组共同主办的2024中国算力发展专家研讨会在京召开。会议以“超智融合技术路线下的趋势与发展”为主题,院士专家们齐聚一堂,共同探索超智融合技术的发展路径。

  超智融合成为先进计算发展趋势

  “大模型的迅猛发展彰显出新质生产力的特质,但目前也遇到了算力瓶颈。鉴于中国在超算领域拥有深厚技术积累,希望超智融合能有效化解这一挑战。”中国科学院计算技术研究所研究员张云泉介绍研讨背景时说道。

  在当今数字化、智能化的时代浪潮中,算力已成为推动经济社会发展的核心驱动力。千行百业的计算场景纷繁复杂,单一计算架构无法应对。

  “现在的应用越来越复杂,不同应用需要不同的算法,对计算机也有不同的要求。”北京应用物理与计算数学研究所研究员袁国兴表示,超智融合兼具超算的强大处理能力与智算的算法优化能力,因此融合发展已是大势所趋。

  “超智融合是随着当前基础算力、智算算力、超算算力等的应用多元化发展而诞生的,即能否用混合型算力资源或者融合型算力体系,来解决同时满足多种不同算力的应用需求。”国家信息中心信息化和产业发展部主任单志广认为。

  实际上,超智融合技术也成为近年来全球计算领域热点话题。今年5月的国际超算大会上,在“重塑超算(Reinventing HPC)”这一主题下,超智融合相关方案已遍地开花,众多高性能计算(HPC)系统以异构架构设计思路集成了CPU、GPU以及NPU。

  对此,中国科学院院士钱德沛认为,“超智融合实践过程中,一方面是用AI的方法来求解传统超算问题,另一方面AI也在影响传统计算机的结构,包括在做的算网融合,将来也应该是在AI赋能的前提下发展的。”

  在我国,超智融合技术已被应用于超算互联网的建设中。通过链接全国超算、智算中心,智能调度各类算力资源,并深度整合计算资源、软件资源、应用解决方案资源,构建起一体化算力服务平台,为社会提供高效、便捷的算力服务。

  国家超算互联网4月正式上线以来,已有超过200家应用、数据、模型等服务商入驻国家超算互联网,并提供超过3200款商品。这些商品覆盖科学计算、工业仿真、AI模型训练等领域,可满足全社会对先进计算服务的需求。

  超智融合的挑战与应对

  超智融合虽展现出美好的发展前景,但当下仍面临一些挑战。

  首先,要实现超算与智算深层次的有机融合,基础理论还有待突破。“大模型与智算的发展,不只是应用层面的模型和算法上改进,还需要从基础理论角度去有所突破。”陈润生认为,“一味地堆芯片并不可取,根本上还要向人脑学习,以更低能耗实现更高性能。”

  在钱德沛看来,超智融合也需完整的AI软件栈支撑,要从形成大模型的基本理论开始。

  其次,在技术路径上,需要从底层技术与体系结构,完成软硬协同创新。“超算和智算差别极大,两者本质是不同的系统。”陈润生剖析道,“超算依靠时间复杂度,跑完程序结果就出来了;而智算依靠的是空间复杂度,需要先把所有的知识训练好。”

  “传统超算和智算的训练,对底层基础设施要求并不一样,也需要判断在什么场景下应实现兼容统一,又在哪些场景下需凸显其独特性。”中国信通院云计算与大数据研究所所长何宝宏补充道。

  在中国工程院院士郑纬民看来,目前大模型训练中,虽然一些国家超算中心已经能够提供支撑,但还应该重点围绕国产算力芯片发展十大关键软件,进一步实现软硬件协同优化。

  “未来一体化算力体系的构建,要避免‘分解谬误’和‘合成谬误’,做好算力资源和业务应用的统筹衔接,避免没有有效应用需求、缺乏网络QoS保证、没有成熟调度体系的普遍性算力互联,以及脱离实际应用需求的异地计算和远地计算算力设施布局,从算力资源供给侧和业务应用需求侧两个维度进一步深化研究。”单志广表示。

  专家们认为,未来在技术路线通用性和专用性的选择上,更倾向于保持一定的通用性。尤其在技术和方法论仍在持续发展的背景下,应保持芯片、系统与软件的普适性,为研究提供广阔空间,深化底层理论与方法的探索。

  “超智融合的进程将沿着超算支撑AI应用(for AI),用AI技术改进超算(by AI),超智实现内生融合(being AI)三个阶段清晰演进。在最终的being AI阶段,计算机系统将呈现内在的智能特性,人工智能不再是一种外加的能力,而成为计算机的核心属性和基本组成,可能计算的能力或者智能化的水平,会远远超过我们今天的超算或智算。”对于未来计算技术发展,钱德沛勾勒出美好蓝图。

  会上,还举办了主权级大模型创新联合体成立仪式,并启动了《2024中国算力发展研究报告之超智融合技术路线与趋势》编撰工作。(宋雅娟)

[ 责编:肖春芳 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 天舟九号货运飞船发射任务取得圆满成功

  • 景德镇陶阳里:城市更新激发文旅新活力

独家策划

推荐阅读
新时代新征程,以中国式现代化全面推进强国建设、民族复兴伟业,实现新型工业化是关键任务。
2025-07-15 04:10
现阶段,人工智能赋能新型工业化已取得明显成效,但仍存在人工智能关键硬件与开源软件储备不足、人工智能在重点行业领域应用率偏低、人工智能领域人才短缺且结构不合理、缺乏适应人工智能发展的标准体系和法律法规等问题。
2025-07-15 04:10
2025年可谓人形机器人的“破圈”之年。从蛇年春晚舞台的机器人扭秧歌,到北京亦庄的机器人马拉松,再到浙江杭州的机器人格斗赛……人形机器人正从“实验室”迈向各类“应用场”。
2025-07-15 02:55
科考船在狂风巨浪中剧烈摇摆,寻找渺小的目标如同大海捞针。回收沉睡海底半年的海底地震仪,是这次出海科研任务中最艰难的一环。“快看!在那儿!”随着一声疾呼划破沉寂,
2025-07-15 02:55
老北京人都知道,居家过日子,买剪刀要买王麻子的,吃腐乳要吃王致和的,穿布鞋要买内联升的…… 这是为啥?因为人家的这些物件,得劲儿呗!为啥得劲儿?匠心所致也!
2025-07-15 02:55
从27岁到60岁,33载深蓝搏击,马远良实现了中国航空声呐从无到有、从追赶到并跑乃至局部领先的壮举。
2025-07-14 08:49
何熙昱锦也表示,脑机接口技术涉及芯片、传感器、算法、应用等多个环节,需要上下游企业形成更紧密的合作关系。
2025-07-14 08:45
在论坛签约仪式上,中国、哈萨克斯坦、巴基斯坦、埃及等国家共签署12个数字经济合作项目,涉及跨境电商、智慧城市等领域。
2025-07-14 08:45
天然铀是重要的战略资源和能源矿产,铀资源勘查采冶位于核燃料循环体系的前端,是核工业发展的重要物质基础。
2025-07-14 08:42
这条从技术突破、场景深耕到生态协同的融合路径,正强劲驱动中国人工智能产业迈向高质量跃升。
2025-07-14 08:41
据国家统计局最新发布的数据,2025年全国夏粮总产量达到14973.8万吨,单位面积产量与去年基本持平,总体实现了夏粮生产的平稳运行。这一成绩的取得,
2025-07-14 04:15
从蓝莓大棚里的生长曲线,到肉牛项圈里的健康密码,广西的特色农业正被人工智能重新定义。
2025-07-14 04:25
7月13日,随着和田—民丰—且末—若羌750千伏输变电工程最后一相导线跨越和若铁路、国道315,稳稳抵达188号铁塔,历经15年建设的新疆环塔里木盆地750千伏输变电工程(以下简称“环塔工程”)全线贯通,进入投运倒计时。
2025-07-14 04:25
防晒,究竟该如何掌握分寸,才能在抵御伤害与拥抱健康之间找到平衡点?
2025-07-11 09:58
生命只有一次,心脏健康不容忽视。唯有提高对心梗症状的警觉性,掌握正确的急救方法,才能为生命筑起一道坚实的“心”防线。
2025-07-11 09:58
晒后背是一种传统的养生方法,符合中医“冬病夏治”的理论,其核心在于借助盛夏充沛的自然阳气,通过阳光照射背部,来提升人体自身阳气。
2025-07-11 09:58
截至7月10日,我国“北气南下”能源大通道累计输气量突破1000亿立方米,安全平稳运行超2000天,标志着这条纵贯南北的能源大动脉在保障国家能源安全、推动绿色转型方面取得重大进展。
2025-07-11 04:55
从自然资源部新一轮找矿突破战略行动办公室了解到,今年上半年,全国新发现矿产地38处,同比增长31%;新发现矿产地中,大中型矿产地25处。
2025-07-11 04:10
时下,智能手机已成为人们获取信息、社交娱乐的重要工具。多学科专家指出,当我们刷手机出现注意力极度涣散、缺乏独立思考能力、情绪化反应严重、深度学习能力下降、空虚感增加等症状时,就表明我们的大脑正在被“腐蚀”。所谓的“脑腐”,即因长期暴露于碎片化信息而引发的认知衰退与脑功能损伤。
2025-07-11 04:10
由于肉眼很难发现水污染的情况,洪水之后饮水需要特别注意,避免直接饮用自来水、山泉水、河水、湖水等。肖丹提醒,如果不适症状较为严重,出现持续高热、剧烈呕吐、严重腹泻、脱水、意识障碍等,或皮肤干燥、眼窝凹陷、少尿等情况,应及时就医。
2025-07-10 09:34
加载更多