点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:全球科研团队竞逐低成本AI模型研发新范式
首页> 科技频道> 综合新闻 > 正文

全球科研团队竞逐低成本AI模型研发新范式

来源:光明网-《光明日报》2025-02-24 09:20

  美国斯坦福大学等机构研究团队近日宣布,在基座大模型基础上,仅耗费数十美元就开发出相对成熟的推理模型。尽管其整体性能尚无法比肩美国开放人工智能研究中心(OpenAI)开发的o1、中国深度求索公司的DeepSeek-R1等,但此类尝试意味着企业可以较低成本研发出适合自身的AI应用,AI普惠性有望增强。同时,其所应用的“测试时扩展”技术或代表一条更可持续的AI研发路径。

  低成本玩转高级推理

  美国斯坦福大学和华盛顿大学研究团队近日宣布研发出名为s1的模型,在衡量数学和编码能力的测试中,可媲美o1和DeepSeek-R1等。研究团队称,训练租用所需的计算资源等成本只需几十美元。

  s1的核心创新在于采用了“知识蒸馏”技术和“预算强制”方法。“知识蒸馏”好比把别人酿好的酒进一步提纯。该模型训练数据是基于谷歌Gemini Thinking Experimental模型“蒸馏”出的仅有1000个样本的小型数据集。

  “预算强制”则使用了AI模型训练新方法——“测试时扩展”的实现方式。“测试时扩展”又称“深度思考”,核心是在模型测试阶段,通过调整计算资源分配,使模型更深入思考问题,提高推理能力和准确性。

  “预算强制”通过强制提前结束或延长模型的思考过程,来影响模型的推理深度和最终答案。s1对阿里云的通义千问开源模型进行微调,通过“预算强制”控制训练后的模型计算量,使用16个英伟达H100 GPU仅进行26分钟训练便达成目标。

  美国加利福尼亚大学伯克利分校研究团队最近也开发出一款名为TinyZero的精简AI模型,称复刻了DeepSeek-R1 Zero在倒计时和乘法任务中的表现。该模型通过强化学习,实现了部分相当于30亿模型参数的大语言模型的自我思维验证和搜索能力。团队称项目训练成本不到30美元。

  “二次创造”增强AI普惠性

  清华大学计算机系长聘副教授刘知远接受记者采访时说,部分海外研究团队使用DeepSeek-R1、o1等高性能推理大模型来构建、筛选高质量长思维链数据集,再用这些数据集微调模型,可低成本快速获得高阶推理能力。

  相关专家认为,这是AI研发的有益尝试,以“二次创造”方式构建模型增强了AI普惠性。但有三点值得注意:

  首先,所谓“几十美元的低成本”,并未纳入开发基座大模型的高昂成本。这就好比盖房子,只算了最后装修的钱,却没算买地、打地基的钱。AI智库“快思慢想研究院”院长田丰告诉记者,几十美元成本只是最后一个环节的算力成本,并未计算基座模型的预训练成本、数据采集加工成本。

  其次,“二次创造”构建的模型,整体性能尚无法比肩成熟大模型。TinyZero仅在简单数学任务、编程及数学益智游戏等特定任务中有良好表现,但无法适用于更复杂、多样化的任务场景。而s1模型也只能通过精心挑选的训练数据,在特定测试集上超过早期版本o1 preview,而远未超过o1正式版或DeepSeek-R1。

  最后,开发性能更优越的大模型,仍需强化学习技术。刘知远说,就推动大模型能力边界而言,“知识蒸馏”技术意义不大,未来仍需探索大规模强化学习技术,以持续激发大模型在思考、反思、探索等方面的能力。

  AI模型未来如何进化

  在2025年美国消费电子展上,美国英伟达公司高管为AI的进化勾画了一条路线图:以智能水平为纵轴、以计算量为横轴,衡量AI模型的“规模定律”呈现从“预训练扩展”到“训练后扩展”,再到“测试时扩展”的演进。

  “预训练扩展”堪称“大力出奇迹”——训练数据越多、模型规模越大、投入算力越多,最终得到AI模型的能力就越强。目标是构建一个通用语言模型,以GPT早期模型为代表。而“训练后扩展”涉及强化学习和人类反馈等技术,是预训练模型的“进化”,优化其在特定领域的任务表现。

  随着“预训练扩展”和“训练后扩展”边际收益逐渐递减,“测试时扩展”技术兴起。田丰说,“测试时扩展”的核心在于将焦点从训练阶段转移到推理阶段,通过动态控制推理过程中的计算量(如思考步长、迭代次数)来优化结果。这一方法不仅降低了对预训练数据的依赖,还显著提升了模型潜力。

  三者在资源分配和应用场景上各有千秋。预训练像是让AI模型去学校学习基础知识,而后训练则是让模型掌握特定工作技能,如医疗、法律等专业领域。“测试时扩展”则赋予了模型更强推理能力。

  AI模型的迭代还存在类似摩尔定律的现象,即能力密度随时间呈指数级增强。刘知远说,2023年以来,大模型能力密度大约每100天翻一番,即每过100天,只需要一半算力和参数就能实现相同能力。未来应继续推进计算系统智能化,不断追求更高能力密度,以更低成本,实现大模型高效发展。

  (新华社北京2月23日电 记者彭茜)

  《光明日报》(2025年02月24日 12版)

[ 责编:田新宇 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • “中原粮仓”麦收过半

  • 赛龙舟 迎端午

独家策划

推荐阅读
“全部科技史都证明,谁拥有了一流创新人才、拥有了一流科学家,谁就能在科技创新中占据优势。”习近平总书记始终关注着科技创新,始终牵挂着科技人才。
2025-05-30 12:19
在第九个全国科技工作者日到来之际,29日凌晨,带着人类对宇宙星辰的向往,天问二号探测器直冲霄汉,开启我国首次小行星探测与采样返回之旅,迈出了深空探测新一步。
2025-05-30 12:17
“背包问题”是计算机科学中经典的NP完全问题(非确定性图灵机多项式复杂度求解的决定问题),可应用在不同领域的决策,如寻找减少原材料使用、投资组合的选择、密钥产生等最优化搜寻路径。
2025-05-30 03:05
历时208天,总航程4万余海里,“雪龙2”号极地科考破冰船于28日抵达海南海口,标志着中国第41次南极考察队顺利完成全部考察任务。
2025-05-30 03:05
中国科学院分子细胞科学卓越创新中心研究员陈玲玲团队揭示了灵长类动物特有的细胞核应激小体(nSBs)的运作奥秘,为理解生命如何应对外界刺激、调节过度炎症反应打开新思路,也为脓毒血症诊疗提供了全新视角。
2025-05-30 10:26
随着航天技术发展,科学家在利用空间探测器开展行星探测任务时,有时会让探测器在路过小行星时“搂草打兔子”,顺道拍几张照片。
2025-05-30 10:23
在5月29日国新办举行的“新征程上的奋斗者”中外记者见面会上,中交集团天山胜利隧道全断面硬岩掘进机“天山号”操作手崔华新分享了他操作“天山号”参与天山胜利隧道超级工程建设的故事。
2025-05-30 10:22
随着数字化浪潮席卷全球,人工智能(AI)作为引领新一轮科技革命的战略性技术,不断加速突破并重塑着农业新格局。
2025-05-29 08:51
方案提出,到2027年,电子信息制造业数字化转型、智能化升级的新型信息基础设施基本完善,规模以上电子信息制造业企业关键工序数控化率超过85%,先进计算、人工智能深度赋能行业发展。典型场景解决方案全面覆盖,形成100个以上典型场景解决方案。
2025-05-29 08:50
生物正交反应,是指可以在生物体内发生,但又和正常生物过程互不干扰的化学反应。
2025-05-29 08:48
围绕计量测试中“测不了、测不全、测不准”的痛点难点,以重大项目为牵引,集中重点单位、强化协同创新,大力推进计量测试关键技术攻关。
2025-05-29 08:47
研究发现,温室内的湿度变化首先为病原菌孢子的传播提供了条件。
2025-05-29 08:21
睡前只需服用一粒药丸就能不再佩戴笨重面罩入睡,这对部分阻塞性睡眠呼吸暂停(OSA)患者来说,可能即将梦想成真。
2025-05-28 09:30
据英国《每日电讯报》26日消息称,美国开放人工智能研究中心(OpenAI)开发的高级人工智能(AI)模型o3,在接收到明确的关机指令后,不仅拒绝执行,还主动干预其自动关机机制。
2025-05-28 09:24
记者5月26日从北京大学获悉,该校环境科学与工程学院教授要茂盛团队研发了空气毒性活体监测系统(以下简称ATMS),实现了对空气污染健康效应的原位、实时、在线监测,有望为优化空气污染控制策略和公众健康防护提供技术支撑。
2025-05-28 09:24
保障粮食储存安全是粮食流通领域科技攻关的核心任务,粮食科研人员深入贯彻绿色发展理念,研发系列粮食仓储技术成果,在粮食仓储领域推广应用,取得良好成效。
2025-05-28 09:19
数据显示,地球陆地上可开采锂资源仅约2200万吨,海水中却蕴藏2300亿吨锂。然而,高效、绿色的海水提锂技术被视作科研界难啃的“硬骨头”。
2025-05-28 09:18
“黑夜给了我黑色的眼睛,我却用它寻找光明。”
2025-05-27 13:22
“世界杰出女科学家奖”由联合国教科文组织和法国欧莱雅基金会在1998年联合设立
2025-05-27 11:10
无法释放起落架的民航客机在巨大的摩擦声中以机腹着地方式从跑道上滑过,高速进入大气层的空天飞机像一个“火球”剧烈燃烧,大型运输机在超强暴风雪中艰难起飞,先进战斗机在复杂空战环境中被导弹碎片打得千疮百孔……
2025-05-27 09:27
加载更多