2457亿参数的巨量模型,意味着什么? _光明网

点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:2457亿参数的巨量模型,意味着什么?
首页> 科技频道> 综合新闻 > 正文

2457亿参数的巨量模型,意味着什么?

来源:光明网2021-10-08 13:21

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  光明网讯 2457亿个参数是什么概念?近期,人工智能研究院在京发布全球最大规模人工智能巨量模型“源1.0”。据悉,“源”的单体模型参数量达2457亿,超越美国OpenAI组织研发的GPT-3,成为全球最大规模的AI巨量模型。

  源1.0模型参数规模为2457亿,训练采用的中文数据集达5000GB,相比GPT3模型1750亿参数量和570GB训练数据集,源1.0参数规模领先40%,训练数据集规模领先近10倍。如此大规模的人工智能巨量模型诞生,意味着什么?

  浪潮研究院介绍,“源1.0”在语言智能方面表现优异,获得中文语言理解评测基准CLUE榜单的零样本学习和小样本学习两类总榜冠军。在零样本学习榜单中,“源1.0”超越业界最佳成绩18.3%,在文献分类、新闻分类,商品分类、原生中文推理、成语阅读理解填空、名词代词关系6项任务中获得冠军;在小样本学习的文献分类、商品分类、文献摘要识别、名词代词关系等4项任务获得冠军。在成语阅读理解填空项目中,源1.0的表现已超越人类得分。

  在对“源1.0”进行的“图灵测试”中,将源1.0模型生成的对话、小说续写、新闻、诗歌、对联与由人类创作的同类作品进行混合并由人群进行分辨,测试结果表明,人群能够准确分辨人与“源1.0”作品差别的成功率已低于50%。

  浪潮人工智能研究院首席研究员吴韶华表示,一方面,巨量模型可以推动产业界做一些杀手级应用,另一方面,对于前沿技术的探索也有重要意义。“人们一直在追求一种更通用、更好的模型,能够用于各种各样的场景,来解决各类问题,实现真正的通用智能。”

  全球范围内,巨量模型的发展也备受关注。斯坦福大学李飞飞教授等人工智能领域知名学者近期在论文中表示,这类巨量模型的意义在于突现和均质。突现意味着通过巨大模型的隐含的知识和推纳可带来让人振奋的科学创新灵感出现;均质表示巨量模型可以为诸多应用任务泛化支持提供统一强大的算法支撑。

  浪潮信息副总裁刘军将巨量模型比喻为“珠穆朗玛峰”,能够实现“见所未见”,对于科学发现和产业实践都有巨大价值。他认为,生命从简单进化到复杂,这种智能水平本身就是一种模型,如果把模型比作元宇宙中的生命,大模型的这种综合系统能力可能会决定未来数字世界和智能世界里的智能水平。

  “2457亿这个参数够不够多呢?实际上还不够多,人的神经元的突触超过100万亿,所以,我们距离这个水平还有很远的路要走。”在刘军看来,未来,人类需要更大的模型、更大的数据、更大的算力,这样才可以拥有更大的智能。

  源1.0中文巨量模型的发布,使得中国学术界和产业界可以使用一种通用巨量语言模型的方式,大幅降低针对不同应用场景的语言模型适配难度;同时提升在小样本学习和零样本学习场景的模型泛化应用能力。浪潮人工智能研究院表示,“源1.0”将面向学术研究单位和产业实践用户进行开源、开放、共享,降低巨量模型研究和应用的门槛,有效推进AI产业化和产业AI化的进步,切实为国家在人工智能研究创新和产业发展作出贡献。(战钊)

[ 责编:蔡琳 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 打卡仰韶村国家考古遗址公园

  • 第五届北京纪实影像周总日程正式发布

独家策划

推荐阅读
今年北京“超长汛期”的雨量充沛不同寻常。中国科学院大气物理所副研究员魏科表示,从气象学看,雨水偏多必然伴随着异常环流,如西太平洋副热带高压异常偏北,西风带扰动持续维持,充沛水汽输送等。
2021-10-18 13:55
素有“神箭”美誉的长征二号F运载火箭,是专门为我国载人航天工程研制的火箭,也是目前我国唯一一型载人运载火箭,由中国航天科技集团有限公司所属中国运载火箭技术研究院研制。
2021-10-18 11:19
“这叫穿梭机器人,别看它们个子不大,却能装着100公斤以内的货物穿梭自如,又快又方便。”在安远县鹤子镇杨功村的智运快线基站,村民郭爱金把自家生产的蜂蜜放进穿梭机器人中,关好盖子,随后只见机器人缓缓上升,沿着钢索驶向下一站。
2021-10-18 10:23
又到了姜广顺出发寻虎的日子。虽然还是秋天,但是东北林区的气温有时能逼近零下,这位东北林业大学野生动物与自然保护地学院教授、博士生导师裹上厚厚的羽绒服,带队朝密林进发,寻觅正为过冬做准备的濒危动物——东北虎。
2021-10-18 10:22

陇南市文县位于甘肃省最南端,这里是陇上最先迎春入夏的地方,风水宝地孕育了不少“宝贝”,“国宝”大熊猫便是其中之最。憨态可掬的“国宝”众所周知,但鲜为人知的是,它们背后有一群人默默奉献,将青春播撒在人迹罕至的大山深处。

2021-10-18 10:19
传统村寨建筑,如理县(羌族)的碉楼、寨子,这些都是人类文明的瑰宝。地域特色有利于这些地区实现乡村振兴。这些年,我带领团队做的,就是帮助地方守护这些“活化石”。
2021-10-18 10:17
德国科学家最近打破了实验室测量到的最低温度纪录!据美国趣味科学网站10月14日报道,他们让磁化气体从120米高的塔上落下,测得其温度仅比绝对零度(-273.15℃)高38万亿分之一摄氏度。
2021-10-18 10:12
瑞士洛桑联邦理工学院研究团队发现,我们每个人都有一个独一无二的大脑“指纹”,而且该指纹会随着时间推移而不断变化。他们的新技术只需1分40秒就可识别大脑“指纹”。相关论文发表在最近的《科学进展》杂志上。
2021-10-18 10:12
据《科学》杂志近日发表的一项最新研究,研究人员将人体血液中的数千种蛋白质数据与遗传数据相结合,绘出了蛋白质、基因组与人类疾病的网络关系图,显示了影响这些蛋白质的遗传差异如何将多种多样的相关疾病联系在一起。
2021-10-18 10:10
肌肉在被损伤或剧烈运动后,要依赖干细胞完成复杂的再生过程。葡萄牙分子医学研究所和西班牙庞培法布拉大学的研究人员最近发现了一种生理损伤后肌肉修复的新机制,该机制依赖肌纤维细胞核的重新排列,且独立于肌肉干细胞。
2021-10-18 10:08
为助力大数据企业成长,引导社会资本服务数字经济,日前,贵州省创新赋能大数据投资基金成立,该基金规模达20.21亿元,重点投向高成长性的大数据企业及数据中心、数字基础设施等领域。作为全国首个大数据综合试验区,贵州一直在先行先试,坚定不移地推进大数据纵深发展。
2021-10-18 10:07
金秋十月,硕果盈枝,一串串绿莹莹的葡萄挂在枝头,散发着清甜诱人的果香。在山东省聊城市冠县烟庄街道办事处东开河头村聚森葡萄基地,村党支部正在带领村民们进行采摘。
2021-10-18 10:06
今年7月20日,中国速度再次震撼世界。由中国中车承担研制、具有完全自主知识产权的时速600公里高速磁浮交通系统在青岛成功下线,标志着我国掌握了高速磁浮成套技术和工程化能力。
2021-10-18 10:06
此次比赛,来自9个国家和地区的31名运动员赛场竞技,中国花滑队斩获2枚金牌,5枚奖牌。“这是世界上可能出现的最好的场馆了!每次来到这个场地,我们都觉得很兴奋——这里是我们即将在冬奥会上战斗的场地啊!”中国选手隋文静感慨道。
2021-10-18 10:05
10月14日—16日,在北京召开的第二届联合国全球可持续交通大会上公布了这样的数据:迄今全世界仍有超过10亿人无法使用全天候道路,尤其是在特殊处境国家等发展中国家。在非洲,有70%以上的农村人口,即4.5亿人仍然使用不到交通基础设施和系统。
2021-10-18 10:03

这些年来,张连印为周边乡村、学校和部队无偿提供树苗30余万株。在他的无私付出和影响下,绿化荒山的队伍越来越壮大。左云县,曾是我国北方荒漠化土地集中分布区。现在,这里风沙没了,山也绿了。

2021-10-18 10:02
据中国载人航天工程办公室消息,10月17日9时50分,翟志刚、王亚平、叶光富三名航天员成功开启货物舱舱门,顺利进入天舟三号货运飞船。接下来,他们还将开启天舟二号货运飞船货物舱舱门,按计划开展货物转运等相关工作。
2021-10-18 09:52
所谓三千斤工程,是双季稻区实施“早稻+晚稻”组合周年亩产总产量达3000斤的目标。采用的攻关品种,根据南方稻区不同生态区域条件,主要采用超级杂交早稻,以及通过籼粳亚种间优势利用培育出的超优千号、第三代杂交水稻叁优一号等产量潜力有重大突破的水稻组合。
2021-10-18 09:50
据德国《图片报》报道,贝多芬管弦乐团上周末在波恩首演人工智能(AI)谱写完成的贝多芬未竟之作《第十交响曲》。
2021-10-15 13:27
今天,京东消费及产业发展研究院发布了《2021老年用户线上消费报告》。未来,京东将持续借助供应链优势和数字技术能力,为老年生活构建高品质、一站式生活及消费解决方案。
2021-10-15 13:11
加载更多