点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:全球科研团队竞逐低成本AI模型研发新范式
首页> 科技频道> 综合新闻 > 正文

全球科研团队竞逐低成本AI模型研发新范式

来源:光明网-《光明日报》2025-02-24 09:20

  美国斯坦福大学等机构研究团队近日宣布,在基座大模型基础上,仅耗费数十美元就开发出相对成熟的推理模型。尽管其整体性能尚无法比肩美国开放人工智能研究中心(OpenAI)开发的o1、中国深度求索公司的DeepSeek-R1等,但此类尝试意味着企业可以较低成本研发出适合自身的AI应用,AI普惠性有望增强。同时,其所应用的“测试时扩展”技术或代表一条更可持续的AI研发路径。

  低成本玩转高级推理

  美国斯坦福大学和华盛顿大学研究团队近日宣布研发出名为s1的模型,在衡量数学和编码能力的测试中,可媲美o1和DeepSeek-R1等。研究团队称,训练租用所需的计算资源等成本只需几十美元。

  s1的核心创新在于采用了“知识蒸馏”技术和“预算强制”方法。“知识蒸馏”好比把别人酿好的酒进一步提纯。该模型训练数据是基于谷歌Gemini Thinking Experimental模型“蒸馏”出的仅有1000个样本的小型数据集。

  “预算强制”则使用了AI模型训练新方法——“测试时扩展”的实现方式。“测试时扩展”又称“深度思考”,核心是在模型测试阶段,通过调整计算资源分配,使模型更深入思考问题,提高推理能力和准确性。

  “预算强制”通过强制提前结束或延长模型的思考过程,来影响模型的推理深度和最终答案。s1对阿里云的通义千问开源模型进行微调,通过“预算强制”控制训练后的模型计算量,使用16个英伟达H100 GPU仅进行26分钟训练便达成目标。

  美国加利福尼亚大学伯克利分校研究团队最近也开发出一款名为TinyZero的精简AI模型,称复刻了DeepSeek-R1 Zero在倒计时和乘法任务中的表现。该模型通过强化学习,实现了部分相当于30亿模型参数的大语言模型的自我思维验证和搜索能力。团队称项目训练成本不到30美元。

  “二次创造”增强AI普惠性

  清华大学计算机系长聘副教授刘知远接受记者采访时说,部分海外研究团队使用DeepSeek-R1、o1等高性能推理大模型来构建、筛选高质量长思维链数据集,再用这些数据集微调模型,可低成本快速获得高阶推理能力。

  相关专家认为,这是AI研发的有益尝试,以“二次创造”方式构建模型增强了AI普惠性。但有三点值得注意:

  首先,所谓“几十美元的低成本”,并未纳入开发基座大模型的高昂成本。这就好比盖房子,只算了最后装修的钱,却没算买地、打地基的钱。AI智库“快思慢想研究院”院长田丰告诉记者,几十美元成本只是最后一个环节的算力成本,并未计算基座模型的预训练成本、数据采集加工成本。

  其次,“二次创造”构建的模型,整体性能尚无法比肩成熟大模型。TinyZero仅在简单数学任务、编程及数学益智游戏等特定任务中有良好表现,但无法适用于更复杂、多样化的任务场景。而s1模型也只能通过精心挑选的训练数据,在特定测试集上超过早期版本o1 preview,而远未超过o1正式版或DeepSeek-R1。

  最后,开发性能更优越的大模型,仍需强化学习技术。刘知远说,就推动大模型能力边界而言,“知识蒸馏”技术意义不大,未来仍需探索大规模强化学习技术,以持续激发大模型在思考、反思、探索等方面的能力。

  AI模型未来如何进化

  在2025年美国消费电子展上,美国英伟达公司高管为AI的进化勾画了一条路线图:以智能水平为纵轴、以计算量为横轴,衡量AI模型的“规模定律”呈现从“预训练扩展”到“训练后扩展”,再到“测试时扩展”的演进。

  “预训练扩展”堪称“大力出奇迹”——训练数据越多、模型规模越大、投入算力越多,最终得到AI模型的能力就越强。目标是构建一个通用语言模型,以GPT早期模型为代表。而“训练后扩展”涉及强化学习和人类反馈等技术,是预训练模型的“进化”,优化其在特定领域的任务表现。

  随着“预训练扩展”和“训练后扩展”边际收益逐渐递减,“测试时扩展”技术兴起。田丰说,“测试时扩展”的核心在于将焦点从训练阶段转移到推理阶段,通过动态控制推理过程中的计算量(如思考步长、迭代次数)来优化结果。这一方法不仅降低了对预训练数据的依赖,还显著提升了模型潜力。

  三者在资源分配和应用场景上各有千秋。预训练像是让AI模型去学校学习基础知识,而后训练则是让模型掌握特定工作技能,如医疗、法律等专业领域。“测试时扩展”则赋予了模型更强推理能力。

  AI模型的迭代还存在类似摩尔定律的现象,即能力密度随时间呈指数级增强。刘知远说,2023年以来,大模型能力密度大约每100天翻一番,即每过100天,只需要一半算力和参数就能实现相同能力。未来应继续推进计算系统智能化,不断追求更高能力密度,以更低成本,实现大模型高效发展。

  (新华社北京2月23日电 记者彭茜)

  《光明日报》(2025年02月24日 12版)

[ 责编:田新宇 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 青春聚雄安 奋进迎新春

  • 行医路上把温暖刻进山乡

独家策划

推荐阅读
近日,国家管网集团西部管道公司成功完成所辖新疆段天然气、原油、成品油管道输送全生命周期碳足迹核算,获得中国质量认证中心颁发的“产品碳足迹证书”。
2026-02-06 09:18
近日,中国农业科学院蔬菜花卉研究所蔬菜分子设计育种创新团队研发出新型植物基因研究工具——对目标DNA序列的邻近空间蛋白标记系统。
2026-02-06 09:38
因为像了解自己的孩子一样了解黑土地,韩晓增有个外号——“黑土地的营养搭配师”。他带领团队精心配制出一套营养搭配的“秘方”。
2026-02-06 09:33
蚊种与病毒之间存在高度匹配关系。1901年,公共卫生与热带医学领域先驱沃尔特·里德证明,蚊子是传播黄热病的元凶。科学界传统观点认为,病毒以颗粒形式在蚊子体内传播,却始终不知道真正的“病毒受体”是什么。
2026-02-06 09:31
科技创新和产业创新的深度融合,不仅是构建现代化产业体系的战略举措,更是贯彻新发展理念、推动高质量发展、加快构建新发展格局的重要抓手。
2026-02-06 09:13
2025年我国人均粮食占有量达到508.9公斤,远超国际公认的400公斤的安全线,粮食等重要农产品供给丰富、市场平稳、储备充足。
2026-02-05 10:15
一代代南来北往的科研“候鸟”安心在三亚当起了“留鸟”,南繁热土上,他们用坚守加速农业科研进程,守护着国家粮食安全的希望。
2026-02-05 10:06
工业和信息化部等八部门近日联合印发《汽车数据出境安全指引(2026版)》,推动建立高效便利安全的汽车数据跨境流动机制,提升汽车数据出境便利化水平。
2026-02-05 10:03
月球表面的年龄是揭示其演化奥秘的基础。对于月球上未采样的区域,科学家主要依靠统计撞击坑的密度来估算年龄:区域越古老,撞击坑通常越密集。
2026-02-06 09:14
近日,内蒙古大学化学化工学院刘健教授、王艳琴副教授团队在节能制绿氢联产高附加值化学品领域取得重大突破,在《自然》子刊发表研究成果。
2026-02-05 10:01
近日,四川达州宣汉县深层海相钾盐资源分采分运攻关实验配套装置顺利完成试车,成功提取出高纯度氯化钾产品。
2026-02-05 10:01
我国互联网事业的蓬勃发展,既为“十四五”收官交出了亮眼答卷,也为“十五五”布局奠定了坚实基础。
2026-02-05 10:12
L5点位于地球的“后方”,位于该点的人造探测器无需消耗太多燃料就可以稳定长期驻留,因此“羲和二号”的设计寿命将长达7年。
2026-02-04 09:13
《月令七十二候集解》记载:“立,建始也”,“立”即“开始”之意。那么,立春的“立”,意味着怎样的开始?
2026-02-04 09:34
寒冬腊月,新春的氛围已在市井烟火中渐渐浓厚。进入寒假的第7天,在位于青岛的山东科技大学土木工程与建筑学院办公室里,教授李为腾和研究生杨光辉正在讨论工作。
2026-02-04 09:27
进藏工作10余年,那曲市农牧业(草业)科技研究推广中心畜牧师何世丞感慨颇深:“保护这片广袤而脆弱的草原,挑战不小,但我们一直在行动。”
2026-02-04 09:32
桥式起重机的轰响打破宁静,长十余米、重数十吨的火箭芯一级被缓缓吊离托座。操作手董磊手持控制设备,眼睛紧盯箭体,每一个动作都专注、沉稳。
2026-02-04 09:20
在人工智能(AI)和大数据时代背景下,高性能计算的战略地位已可与高能望远镜、同步辐射光源和粒子加速器等重大科研基础设施相提并论
2026-02-03 14:09
2月1日,农业农村部发布的《农产品质量安全承诺达标合格证管理办法》(以下简称《办法》)正式施行,我国农产品全面启用新版“身份证”——农产品质量安全承诺达标合格证。
2026-02-03 09:48
近日,记者从中国科学院空天信息创新研究院(以下简称空天院)获悉,该院成功开展超百G星地激光通信业务化应用实验,通信速率达到120吉比特每秒(Gbps)。”
2026-02-03 09:40
加载更多