点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:2457亿参数的巨量模型,意味着什么?
首页> 科技频道> 综合新闻 > 正文

2457亿参数的巨量模型,意味着什么?

来源:光明网2021-10-08 13:21

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  光明网讯 2457亿个参数是什么概念?近期,人工智能研究院在京发布全球最大规模人工智能巨量模型“源1.0”。据悉,“源”的单体模型参数量达2457亿,超越美国OpenAI组织研发的GPT-3,成为全球最大规模的AI巨量模型。

  源1.0模型参数规模为2457亿,训练采用的中文数据集达5000GB,相比GPT3模型1750亿参数量和570GB训练数据集,源1.0参数规模领先40%,训练数据集规模领先近10倍。如此大规模的人工智能巨量模型诞生,意味着什么?

  浪潮研究院介绍,“源1.0”在语言智能方面表现优异,获得中文语言理解评测基准CLUE榜单的零样本学习和小样本学习两类总榜冠军。在零样本学习榜单中,“源1.0”超越业界最佳成绩18.3%,在文献分类、新闻分类,商品分类、原生中文推理、成语阅读理解填空、名词代词关系6项任务中获得冠军;在小样本学习的文献分类、商品分类、文献摘要识别、名词代词关系等4项任务获得冠军。在成语阅读理解填空项目中,源1.0的表现已超越人类得分。

  在对“源1.0”进行的“图灵测试”中,将源1.0模型生成的对话、小说续写、新闻、诗歌、对联与由人类创作的同类作品进行混合并由人群进行分辨,测试结果表明,人群能够准确分辨人与“源1.0”作品差别的成功率已低于50%。

  浪潮人工智能研究院首席研究员吴韶华表示,一方面,巨量模型可以推动产业界做一些杀手级应用,另一方面,对于前沿技术的探索也有重要意义。“人们一直在追求一种更通用、更好的模型,能够用于各种各样的场景,来解决各类问题,实现真正的通用智能。”

  全球范围内,巨量模型的发展也备受关注。斯坦福大学李飞飞教授等人工智能领域知名学者近期在论文中表示,这类巨量模型的意义在于突现和均质。突现意味着通过巨大模型的隐含的知识和推纳可带来让人振奋的科学创新灵感出现;均质表示巨量模型可以为诸多应用任务泛化支持提供统一强大的算法支撑。

  浪潮信息副总裁刘军将巨量模型比喻为“珠穆朗玛峰”,能够实现“见所未见”,对于科学发现和产业实践都有巨大价值。他认为,生命从简单进化到复杂,这种智能水平本身就是一种模型,如果把模型比作元宇宙中的生命,大模型的这种综合系统能力可能会决定未来数字世界和智能世界里的智能水平。

  “2457亿这个参数够不够多呢?实际上还不够多,人的神经元的突触超过100万亿,所以,我们距离这个水平还有很远的路要走。”在刘军看来,未来,人类需要更大的模型、更大的数据、更大的算力,这样才可以拥有更大的智能。

  源1.0中文巨量模型的发布,使得中国学术界和产业界可以使用一种通用巨量语言模型的方式,大幅降低针对不同应用场景的语言模型适配难度;同时提升在小样本学习和零样本学习场景的模型泛化应用能力。浪潮人工智能研究院表示,“源1.0”将面向学术研究单位和产业实践用户进行开源、开放、共享,降低巨量模型研究和应用的门槛,有效推进AI产业化和产业AI化的进步,切实为国家在人工智能研究创新和产业发展作出贡献。(战钊)

[ 责编:蔡琳 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 电缆成功修复入海 保障海岛群众供电

  • 第三届“家乡市集嘉年华”在港开幕

独家策划

推荐阅读
“全部科技史都证明,谁拥有了一流创新人才、拥有了一流科学家,谁就能在科技创新中占据优势。”习近平总书记始终关注着科技创新,始终牵挂着科技人才。
2025-05-30 12:19
在第九个全国科技工作者日到来之际,29日凌晨,带着人类对宇宙星辰的向往,天问二号探测器直冲霄汉,开启我国首次小行星探测与采样返回之旅,迈出了深空探测新一步。
2025-05-30 12:17
“背包问题”是计算机科学中经典的NP完全问题(非确定性图灵机多项式复杂度求解的决定问题),可应用在不同领域的决策,如寻找减少原材料使用、投资组合的选择、密钥产生等最优化搜寻路径。
2025-05-30 03:05
历时208天,总航程4万余海里,“雪龙2”号极地科考破冰船于28日抵达海南海口,标志着中国第41次南极考察队顺利完成全部考察任务。
2025-05-30 03:05
中国科学院分子细胞科学卓越创新中心研究员陈玲玲团队揭示了灵长类动物特有的细胞核应激小体(nSBs)的运作奥秘,为理解生命如何应对外界刺激、调节过度炎症反应打开新思路,也为脓毒血症诊疗提供了全新视角。
2025-05-30 10:26
随着航天技术发展,科学家在利用空间探测器开展行星探测任务时,有时会让探测器在路过小行星时“搂草打兔子”,顺道拍几张照片。
2025-05-30 10:23
在5月29日国新办举行的“新征程上的奋斗者”中外记者见面会上,中交集团天山胜利隧道全断面硬岩掘进机“天山号”操作手崔华新分享了他操作“天山号”参与天山胜利隧道超级工程建设的故事。
2025-05-30 10:22
随着数字化浪潮席卷全球,人工智能(AI)作为引领新一轮科技革命的战略性技术,不断加速突破并重塑着农业新格局。
2025-05-29 08:51
方案提出,到2027年,电子信息制造业数字化转型、智能化升级的新型信息基础设施基本完善,规模以上电子信息制造业企业关键工序数控化率超过85%,先进计算、人工智能深度赋能行业发展。典型场景解决方案全面覆盖,形成100个以上典型场景解决方案。
2025-05-29 08:50
生物正交反应,是指可以在生物体内发生,但又和正常生物过程互不干扰的化学反应。
2025-05-29 08:48
围绕计量测试中“测不了、测不全、测不准”的痛点难点,以重大项目为牵引,集中重点单位、强化协同创新,大力推进计量测试关键技术攻关。
2025-05-29 08:47
研究发现,温室内的湿度变化首先为病原菌孢子的传播提供了条件。
2025-05-29 08:21
睡前只需服用一粒药丸就能不再佩戴笨重面罩入睡,这对部分阻塞性睡眠呼吸暂停(OSA)患者来说,可能即将梦想成真。
2025-05-28 09:30
据英国《每日电讯报》26日消息称,美国开放人工智能研究中心(OpenAI)开发的高级人工智能(AI)模型o3,在接收到明确的关机指令后,不仅拒绝执行,还主动干预其自动关机机制。
2025-05-28 09:24
记者5月26日从北京大学获悉,该校环境科学与工程学院教授要茂盛团队研发了空气毒性活体监测系统(以下简称ATMS),实现了对空气污染健康效应的原位、实时、在线监测,有望为优化空气污染控制策略和公众健康防护提供技术支撑。
2025-05-28 09:24
保障粮食储存安全是粮食流通领域科技攻关的核心任务,粮食科研人员深入贯彻绿色发展理念,研发系列粮食仓储技术成果,在粮食仓储领域推广应用,取得良好成效。
2025-05-28 09:19
数据显示,地球陆地上可开采锂资源仅约2200万吨,海水中却蕴藏2300亿吨锂。然而,高效、绿色的海水提锂技术被视作科研界难啃的“硬骨头”。
2025-05-28 09:18
“黑夜给了我黑色的眼睛,我却用它寻找光明。”
2025-05-27 13:22
“世界杰出女科学家奖”由联合国教科文组织和法国欧莱雅基金会在1998年联合设立
2025-05-27 11:10
无法释放起落架的民航客机在巨大的摩擦声中以机腹着地方式从跑道上滑过,高速进入大气层的空天飞机像一个“火球”剧烈燃烧,大型运输机在超强暴风雪中艰难起飞,先进战斗机在复杂空战环境中被导弹碎片打得千疮百孔……
2025-05-27 09:27
加载更多