点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:文心大模型新增11个大模型 构建产业大模型体系
首页> 科技频道> 人工智能 > 正文

文心大模型新增11个大模型 构建产业大模型体系

来源:光明网2022-12-02 16:34

  11月30日,由深度学习技术与应用国家工程研究中心主办、百度飞桨承办的WAVE SUMMIT+2022深度学习开发者峰会如期举行。百度集团副总裁、深度学习技术及应用国家工程研究中心副主任吴甜带来了文心大模型的最新升级,包括新增11个大模型,大模型总量增至36个,构建起业界规模最大的产业大模型体系,并通过大模型工具与平台的升级和文心一格、文心百中等基于大模型技术的产品应用,进一步降低大模型产业化门槛,让更多企业和开发者步入AI应用的新阶段。

文心大模型新增11个大模型 构建产业大模型体系

百度集团副总裁、深度学习技术及应用国家工程研究中心副主任吴甜

  文心大模型全景图刷新,构建产业大模型体系

  近年来,大模型的出现,为人工智能进一步发展带来新机遇。百度首席技术官、深度学习技术及应用国家工程研究中心主任王海峰在峰会上表示,深度学习平台加大模型,贯通AI全产业链,夯实产业智能化基座,将进一步加速智能化升级。

  百度集团副总裁、深度学习技术及应用国家工程研究中心副主任吴甜表示,产业级深度学习平台飞桨和产业级知识增强大模型文心,相互促进、共同发展,已然成为产业智能化的基础性平台。文心大模型持续围绕“产业级”、“知识增强”两大特性,延续“降低应用门槛”的发展路线,进行创新突破。在此次峰会上,文心大模型全景图再一次迎来全面升级。

文心大模型新增11个大模型 构建产业大模型体系

文心大模型全景图

  在模型层,文心大模型一次性发布11个大模型,涵盖基础大模型、任务大模型、行业大模型的三级体系,全面满足产业应用需求;在工具与平台层,全面升级大模型开发套件、文心API和提供全流程开箱即用大模型能力的EasyDL和BML开发平台,全方位降低应用门槛;新增产品与社区层,包括AI艺术与辅助创作平台“文心一格”、产业级搜索系统“文心百中”和旸谷社区,让更多人零距离感受到最先进的AI大模型技术带来的新体验。

  作为推进大模型在行业深度应用的关键举措,本次峰会上,百度联合深圳燃气、吉利、泰康保险、TCL、上海辞书出版社重磅新发5个行业大模型:深燃-百度·文心、吉利-百度·文心、泰康-百度·文心、TCL-百度·文心和辞海-百度·文心。吴甜表示,文心行业大模型是百度与行业头部企业、机构联合探索出的行之有效的大模型产业落地方式,让大模型在实际应用场景中“不但能用还便捷好用”。截至目前,文心已累计发布11个行业大模型,涵盖电力、燃气、金融、航天、传媒、城市、影视、制造、社科等领域,加速推动行业的智能化转型升级。

文心大模型新增11个大模型 构建产业大模型体系

文心行业大模型家族

  除行业大模型外,此次还发布了5个基础大模型和1个任务大模型,包括:知识增强轻量级大模型ERNIE 3.0 Tiny、跨模态理解大模型ERNIE ViL 2.0、跨模态生成大模型ERNIE ViLG 2.0、文档智能大模型 ERNIE-Layout、单序列蛋白质结构预测大模型HelixFold-Single和代码大模型 ERNIE-Code。

  其中,知识增强轻量级大模型ERNIE 3.0 Tiny是以ERNIE 3.0千亿参数大模型为师,通过多任务知识蒸馏手段将千亿多任务大模型的所学迁移至轻量级模型中,训练了10亿级、亿级、千万级不同体量大小的轻量级大模型。ERNIE 3.0 Tiny具备非常优秀的泛化能力,同时相对于超大参数模型,推理速度提升数十倍到百倍,能够显著降低超大参数模型落地的成本。ERNIE 3.0 Tiny和ERNIE ViLG大模型将上线“鹏城云脑”,在云脑上精调训练、部署服务,进一步降低大模型开发和应用的门槛。

  文心大模型工具平台全面升级,全流程支撑大模型开箱即用

  为了让开发者更加方便、快速地使用大模型的最新能力,文心大模型工具与平台进行了全面更新。吴甜介绍,在工具方面,文心大模型开发套件全面升级,发布行业大模型定制工具,同时提供更加完备的场景化建模工具、更为丰富的模型精调工具,以及大模型可信学习工具,让大模型开发训练更加灵活高效;文心API服务支持多种模型尺寸的精调,体验专区提供更多可体验能力,同时基于大规模集群算力分布式推理加速能力,可满足大规模高性能产业级调用。

  大模型的开发、训练、推理部署的门槛是非常高的。为了更好地支持大模型应用落地,飞桨发布了端到端大模型开发套件PaddleFleetX。针对大模型的训练挑战,PaddleFleetX基于框架自适应分布式训练能力,根据模型和硬件平台的特点,自动感知硬件特性,支持在异构硬件上进行自适应并行训练。同时,充分发挥飞桨动转静能力优势,进行训练加速,实现端到端的极致性能优化。训练过程还支持弹性容错训练,大幅提升训练过程的鲁棒性。针对大模型推理部署的挑战,PaddleFleetX提供了大小模型无缝联动的能力,以满足大模型推理对性能的极致要求。同时,PaddleFleetX支持自适应分布式推理技术,真正做到分布式策略的训推一体,大可支持超大模型的服务化部署,小可协同极致小型化策略,支持端侧轻量化部署。

  飞桨企业版AI开发平台EasyDL和BML也围绕大模型的技术应用进行了全新升级,发布了提供全流程开箱即用的大模型平台能力,加速大模型的产业化落地。

文心大模型新增11个大模型 构建产业大模型体系

飞桨企业版全面升级

  据百度AI平台部总监忻舟介绍,在EasyDL零门槛AI开发平台预置了各种通用任务场景大模型,可以让AI应用开发者获得更好的模型训练效果。在BML全功能AI开发平台上,端到端的并行训练优化方案大幅提升了大模型训练性能;预置的基于大模型的场景模型生产线,让开发者在主流的场景开箱即用,快速构建大模型场景应用;新增的自动化推理服务监控能力,及时感知变化和问题,驱动反馈和迭代,让AI应用的高效迭代闭环。

  AI作画产品“文心一格”推出三大新功能,产业级搜索系统“文心百中”首次亮相

  为了进一步降低应用门槛,让广泛的用户可以使用文心大模型,百度发布和升级2个由大模型为核心驱动的应用产品。

  首先是AI艺术与辅助创作平台“文心一格”。在文心一格上,用户仅需输入文字创想,即可完成别具一格的画作,受到用户广泛好评。值得一提的是,文心一格深谙中国文化精髓,所创画作尽显中国风骨。本次峰会上,吴甜发布了文心一格的三大全新功能:支持以图生图、支持可控的增删改等图片二次编辑和一键生成视频,进一步激发创造力,降低内容生产成本。

  继文心一格之后,以文心大模型为核心驱动的第二个产品——产业级搜索系统“文心百中”在峰会上发布,该产品由百度搜索与文心大模型联合研制,命名寓意搜索结果精准,百发百中。

文心大模型新增11个大模型 构建产业大模型体系

产业级搜索系统文心百中

  文心百中具有三大特性:极简、强大、高效。文心百中采用纯神经搜索架构加数据驱动搜索效果优化策略设计而成,应用起来极其简便,仅需三步即可在线完成搜索引擎的构建;文心百中拥有强大的语义理解能力,相比传统模型实现了质的提升,已在多个场景展现惊艳的搜索效果;文心百中具备搜索系统从0到1的高效建设能力,相比传统搜索系统可减少人力成本90%以上;同时,基于小样本学习能力极强的文心大模型,文心百中仅需少量的数据,即可实现不同行业的搜索效果优化,十分高效。

  文心大模型与飞桨共享生态,围绕“产业级”和“知识增强”两大特色,持续构建适合产业应用的模型体系。未来,将有越来越多的企业和开发者通过大模型加深度学习平台的模式,步入AI应用的新阶段,进一步加速产业智能化升级。(柯岩)

[ 责编:涂子怡 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 小满将至农事忙

  • 我国成功发射中星3B卫星

独家策划

推荐阅读
基于全基因组SNP的种群基因组学研究揭示,全球雪豹可划分为两大遗传支系:北部支系和南部支系。基因组水平评估发现,相比雪豹南部支系,北部支系的基因组杂合度和种群遗传多样性较低,这些特征与其演化历史及较小的有效种群大小相吻合。
2025-05-21 09:38
我国的甘肃皋兰什川古梨园系统、浙江德清淡水珍珠复合养殖系统、福建福鼎白茶文化系统三项遗产系统顺利通过专家评审,正式被联合国粮农组织认定为全球重要农业文化遗产。
2025-05-21 09:43
科学家发现,在线辩论中,GPT-4一类的大语言模型(LLM)如能根据对手的个性化信息调整论据,其说服力将比人类高64.4%。瑞士洛桑联邦理工学院的Francesco Salvi和同事分别将900名美国人与另一个人或GPT-4配对,使双方辩论各种社会政治议题。
2025-05-21 09:40
近日,清华大学李菂团队联合意大利、澳大利亚、德国等多国天文学家,综合“中国天眼”FAST和南非MeerKAT阵列望远镜的优势,对银河系球状星团进行了高精度的脉冲星偏振普查。
2025-05-21 09:37
人形机器人最大的优势在于其外形特点,可以在很多工作空间实现与人类相似的工作效能,并能显著提升工作效率。
2025-05-21 09:36
研究团队综合了多种来源的观测和模拟证据,揭示了极地关键气候要素的变化特征。结果显示,北极气温以每十年0.68摄氏度的速率升高,远高于全球平均水平,南极和青藏高原也呈现出明显增温趋势。
2025-05-21 09:35
生长素是第一个被发现的植物激素,几乎参与了植物生长发育调控的每个过程。
2025-05-21 09:33
科研人员近日首次公布在我国空间站发现一个微生物新物种,并将其命名为“天宫尼尔菌”,相关科研成果在线发表于国际权威期刊上。
2025-05-20 10:24
一项研究首次揭示了肺活量从童年到老年的演变过程。
2025-05-20 10:21
津潍高铁是我国“八纵八横”高铁网京沪通道和沿海通道的重要组成部分。
2025-05-20 10:20
北京大学讲席教授杨荣贵与其在华中科技大学能源与动力工程学院的团队,制备出一种可大规模生产的多级有序穿孔结构铜网,其散热能力优于已报道方案。
2025-05-20 10:19
按照经典理论,有丝分裂或减数分裂后,每个子细胞核应当至少获得一套完整的单倍体染色体,以确保细胞正常发育和功能发挥。然而,最新研究却发现,在某些特定真菌中,
2025-05-20 03:55
最新气候数据显示,全球气温仍然极高,2025年将与2024年一道成为有记录以来最热的一年。
2025-05-19 10:49
5月17日,江西省首颗自主发射的生态环境监测卫星“南昌航空一号”,在甘肃酒泉卫星发射中心成功发射入轨。
2025-05-19 10:47
航天科技看似遥远,其实与我们的生活息息相关,“高高在上”的航天实验,正在引导一场由科技创新驱动的产业变革,重塑着我们的生活方式。
2025-05-19 10:46
为提升各种场景下荧光成像性能,北京大学席鹏团队和深圳大学屈军乐团队合作,通过计算机视觉与荧光显微的融合,提出了一种暗通道光学层切算法使显微成像性能得到大幅提升。
2025-05-19 10:42
《2025中国卫星导航与位置服务产业发展白皮书》18日在北京发布,卫星导航专利申请总量累计突破12.9万件,继续保持全球领先。
2025-05-19 10:07
AG600“鲲龙”批生产首架机(1101)18日在广东珠海成功完成生产试飞,标志着AG600飞机通过取得生产许可证(PC)的关键环节,实物状态满足PC构型要求。
2025-05-19 10:05
去年3月,他和团队在人类历史上第一次为引力子“画像”,那篇发表在国际权威学术期刊《自然》上的论文,就在这里诞生。
2025-05-16 10:55
著名学者、南京师范大学教授郦波老师亮相总决赛直播间,与全国诗词爱好者云端相聚。央视诗词大会选手与作业帮第二届古诗词冠军狭路相逢,上演巅峰较量。
2025-05-19 13:55
加载更多