点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:国产AI芯片系统应练好“内功”
首页> 科技频道> 综合新闻 > 正文

国产AI芯片系统应练好“内功”

来源:科技日报2023-12-21 09:46

  “大模型训练需要大量数据,因此对算力的要求很高。”在日前召开的首届“AI Tech Day(人工智能科技日)”峰会上,中国工程院院士、清华大学计算机科学与技术系教授郑纬民介绍,自去年12月份以来,大模型需要的AI芯片涨价一倍,国外芯片“一卡难求”。尽管国内数十家公司在AI芯片研制和生产方面取得了很大进步,但国产芯片尚未受到市场的广泛青睐。

  对此,与会专家呼吁,解决算力难题,应重塑大模型算力生态,助力国产AI芯片系统练好“内功”。

  加强底层研发,提升国产AI芯片“包容力”

  “如果基于国外芯片编写的软件能够很容易移植到我们的国产芯片系统上来,用户就会感觉到国产芯片好用。”郑纬民认为,但由于生态建设不完备,目前国产芯片在大模型训练相关软件移植方面表现不太顺畅,因此需要进一步加强底层研发,做好包括编程框架、并行加速、通信库在内的软件研发工作。

  “为了发展AI芯片的生态体系,一些国际大企业甚至可以放弃一些高利润的项目和方案。”英博数科CEO周韡韡介绍,营造生态需要发动整个行业的创新力量,例如国际企业曾通过主动开源部分软件的底层代码、让利给基于芯片的软件开发者,形成以AI芯片为核心的算力体系。

  相较于芯片本身的硬件性能提升,郑纬民认为,通过营造生态,提升国产AI芯片的“包容力”更加急迫。“如果算力生态做得非常好,即使国产芯片的硬件性能只有国外性能的60%及以上,大家也会喜欢用。”郑纬民说,但如果算力生态没做好,新型软件跑不起来、软件移植不顺畅,即便硬件性能达到国外的120%,照样难以转变为有效算力。

  为凝聚行业力量、改变当前的大模型算力生态,英博数科联合百川智能、中国计算机学会、清华大学等单位共同成立北京AI创新赋能中心技术委员会。作为该技术委员会的顾问,清华大学电子工程系教授汪玉表示:“在大模型领域,我们将同时从软件侧和硬件侧方面开展联合优化。在打造通用型人工智能服务平台的同时,推动高性能计算领域智能芯片和高模态电路关键技术的研发。”

  共建基础生态,推动现有算力融合创新

  “大模型兴起之前建设的算力,相对而言利用率较低,跟不上现阶段大模型对算力指数级发展的需求。”艾瑞咨询产业数字化研究院负责人徐樊磊介绍,为提升整体算力效率和满足差异化需求,应建立支撑大模型万亿量级参数计算的“智算中心”。“智算中心”可利用现有高质量数据中心,通过提升组网能力、协同能力、软硬件适配能力等实现部署。当前,“万卡”级别的智算中心正在主要节点城市发展起来。

  与会专家认为,推动现有算力融合创新将进一步提升当前算力使用效率。“1万块卡(AI芯片)应该怎么连?是不是每块卡和其他9999块直连?如果这样,中间的连接将需要1万乘以9999个连接卡,成本将非常高。”郑纬民说,通过最有效的连接支持模型并行、数据并行等不同的要求,是融合创新的关键。

  大模型背后运行的是更加复杂的网络架构和智能算法。如何在降本增效的同时,促进大模型算力使用门槛的降低?“‘云’模式是打通供需不对称、达成算力普惠的有效路径。”周韡韡表示,通过共享、共融集结现有算力,万卡平台及配备高效网络交互机制的大模型训练与推理平台,可以开放给大企业、小微企业共用。通过搭载数据迁徙、训练数据库等工具,云平台等基础生态的搭建有望让算力像水和电一样随取随用。(记者 张佳星)

[ 责编:张佳兴 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 习近平同巴西总统卢拉共同签署联合声明

  • 习近平同巴西总统卢拉共见记者

独家策划

推荐阅读
记者20日从中国航天科技集团一院获悉,该院抓总研制的长征十号系列火箭近日成功完成整流罩分离试验,标志着该系列火箭初样研制又迈出了坚实一步。
2024-11-21 09:14
作为战略性新兴产业,低空经济产业链条长,涵盖航空器研发与制造、低空飞行基础设施建设与运营、飞行服务与保障等产业,对构建现代产业体系具有重要作用。
2024-11-21 09:12
工业革命改变了世界面貌,为人类生产生活带来深远影响。当今世界,人工智能迅猛发展,推动人类社会深度变革。在此过程中,电力行业也在逐步向数字化和智能化转型。
2024-11-21 09:10
数据显示,2023年我国低空经济规模超5000亿元,增速超过33%,2030年有望达到2万亿元。2024年以来,全国已有超过26个省(区、市)将低空经济写进政府工作报告。
2024-11-21 09:09
日前,国际学术期刊《自然·通讯》在线刊发江西省农业科学院原院长颜龙安院士团队联合河北大学杜会龙教授团队的研究成果:首个稻属最全超级泛基因组图谱绘制成功。
2024-11-21 09:09
全海深光电缆绞车系统“海威GD11000”,日前随广州海洋地质调查局“海洋地质二号”船在我国南海完成了首个航次的深海调查任务。
2024-11-20 09:21
近日,中国科学院兰州化学物理研究所研究员何林团队与武汉大学教授雷爱文团队合作,在催化羰基化领域取得重要进展——成功利用一氧化碳或二氧化碳替代剧毒光气,高效合成含氮羰基化合物非对称脲。。
2024-11-20 09:24
这种菌能够迅速分解番茄、辣椒、娃娃菜等多种蔬菜尾菜,并具有促进作物生长、拮抗土传病原菌等功能特性。在此基础上,课题组进一步研发了“蔬菜尾菜+快速腐解菌+有机肥+功能菌”四位一体的原位还田技术。
2024-11-20 09:20
11月18日,在沪渝蓉高铁全线控制性咽喉工程崇太长江隧道内,我国盾构隧道智能建造V2.0技术体系正式在“领航号”盾构机成功应用
2024-11-20 09:19
19日,四川、重庆、贵州三省市同步首发动力型锂电池试运专列,这是我国铁路首次大规模试运输动力锂电池,将助力国产动力锂电池产品的全球流通。
2024-11-20 09:13
近年来,北京市延庆区大力发展低空经济,2023年相关产业产值达23.3亿元。天气渐冷,北京八达岭长城脚下,中关村延庆园内的低空经济产业园依旧热火朝天,一派繁忙景象。
2024-11-19 09:50
据最新一期《自然·化学》杂志报道,美国加州大学圣迭戈分校团队在最新研究中给出了一个涉及两种简单分子间反应的精妙解释。
2024-11-19 09:47
利用样地观测数据、空间分析和树线模型模拟,中国科学院青藏高原研究所研究员梁尔源等人系统分析了尼泊尔珠峰国家公园和安纳普纳保护区混交林树线,揭示了糙皮桦和喜马拉雅冷杉的种群更新动态和树线位置变化。
2024-11-19 09:46
机器人服务员、咖啡师、宠物……各种机器人让人目不暇接。自动载人飞行器,无人机、无人车、无人船……智能驾驶技术遍布“海陆空”。11月14日至16日,第二十六届中国国际高新技术成果交易会在广东深圳举行。
2024-11-19 04:55
近日,记者从湖北省神农架林区林业管理局野保科开展的陆生野生脊椎类动物普查中获悉,神农架现有陆生野生脊椎类动物710种,比原来的493种增加217种。
2024-11-19 05:00
北京时间11月15日23时13分,天舟八号货运飞船在文昌航天发射场由长征七号遥九运载火箭成功发射。自中国空间站建造以来,空间应用系统已在轨开展了百余项科学实验和应用试验,阶段性研究成果持续产出。
2024-11-18 10:27
中国科学院生物物理研究所王晓群研究员课题组、广东省智能科学与技术研究院张旭院士课题组和北京师范大学吴倩教授课题组合作,深入解析了人类背根神经节(DRG)发育过程中调控多种感觉神经元分化的多层级信号通路,并成功构建了人类DRG类器官(hDRGOs)模型。通过比较人类和小鼠的感觉神经元发育,研究人员发现两者在发育进程、基因表达谱和细胞亚型上存在差异。
2024-11-18 10:24
党的二十届三中全会提出,发展通用航空和低空经济。航空航天民航高校应发挥特色优势,形成“航空+”的多元化低空经济专业型人才培养模式,促进低空经济科技链、人才链、产业链的有机衔接。
2024-11-18 10:21
中北大学极端环境特种传感与测试创新研究团队成员正在围绕近期发射任务进行产品研发。日前,第28届“中国青年五四奖章”评选揭晓,中北大学极端环境特种传感与测试创新研究团队获“中国青年五四奖章集体”荣誉称号。
2024-11-18 10:16
据中国载人航天工程办公室消息,天舟七号货运飞船已于11月17日21时25分受控再入大气层。 天舟七号货运飞船于2024年1月17日在文昌航天发射场发射入轨,装载了航天员在轨驻留消耗品、推进剂、应用实(试)验装置等物资。
2024-11-18 10:14
加载更多