点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:全球科研团队竞逐低成本AI模型研发新范式
首页> 科技频道> 综合新闻 > 正文

全球科研团队竞逐低成本AI模型研发新范式

来源:光明网-《光明日报》2025-02-24 09:20

  美国斯坦福大学等机构研究团队近日宣布,在基座大模型基础上,仅耗费数十美元就开发出相对成熟的推理模型。尽管其整体性能尚无法比肩美国开放人工智能研究中心(OpenAI)开发的o1、中国深度求索公司的DeepSeek-R1等,但此类尝试意味着企业可以较低成本研发出适合自身的AI应用,AI普惠性有望增强。同时,其所应用的“测试时扩展”技术或代表一条更可持续的AI研发路径。

  低成本玩转高级推理

  美国斯坦福大学和华盛顿大学研究团队近日宣布研发出名为s1的模型,在衡量数学和编码能力的测试中,可媲美o1和DeepSeek-R1等。研究团队称,训练租用所需的计算资源等成本只需几十美元。

  s1的核心创新在于采用了“知识蒸馏”技术和“预算强制”方法。“知识蒸馏”好比把别人酿好的酒进一步提纯。该模型训练数据是基于谷歌Gemini Thinking Experimental模型“蒸馏”出的仅有1000个样本的小型数据集。

  “预算强制”则使用了AI模型训练新方法——“测试时扩展”的实现方式。“测试时扩展”又称“深度思考”,核心是在模型测试阶段,通过调整计算资源分配,使模型更深入思考问题,提高推理能力和准确性。

  “预算强制”通过强制提前结束或延长模型的思考过程,来影响模型的推理深度和最终答案。s1对阿里云的通义千问开源模型进行微调,通过“预算强制”控制训练后的模型计算量,使用16个英伟达H100 GPU仅进行26分钟训练便达成目标。

  美国加利福尼亚大学伯克利分校研究团队最近也开发出一款名为TinyZero的精简AI模型,称复刻了DeepSeek-R1 Zero在倒计时和乘法任务中的表现。该模型通过强化学习,实现了部分相当于30亿模型参数的大语言模型的自我思维验证和搜索能力。团队称项目训练成本不到30美元。

  “二次创造”增强AI普惠性

  清华大学计算机系长聘副教授刘知远接受记者采访时说,部分海外研究团队使用DeepSeek-R1、o1等高性能推理大模型来构建、筛选高质量长思维链数据集,再用这些数据集微调模型,可低成本快速获得高阶推理能力。

  相关专家认为,这是AI研发的有益尝试,以“二次创造”方式构建模型增强了AI普惠性。但有三点值得注意:

  首先,所谓“几十美元的低成本”,并未纳入开发基座大模型的高昂成本。这就好比盖房子,只算了最后装修的钱,却没算买地、打地基的钱。AI智库“快思慢想研究院”院长田丰告诉记者,几十美元成本只是最后一个环节的算力成本,并未计算基座模型的预训练成本、数据采集加工成本。

  其次,“二次创造”构建的模型,整体性能尚无法比肩成熟大模型。TinyZero仅在简单数学任务、编程及数学益智游戏等特定任务中有良好表现,但无法适用于更复杂、多样化的任务场景。而s1模型也只能通过精心挑选的训练数据,在特定测试集上超过早期版本o1 preview,而远未超过o1正式版或DeepSeek-R1。

  最后,开发性能更优越的大模型,仍需强化学习技术。刘知远说,就推动大模型能力边界而言,“知识蒸馏”技术意义不大,未来仍需探索大规模强化学习技术,以持续激发大模型在思考、反思、探索等方面的能力。

  AI模型未来如何进化

  在2025年美国消费电子展上,美国英伟达公司高管为AI的进化勾画了一条路线图:以智能水平为纵轴、以计算量为横轴,衡量AI模型的“规模定律”呈现从“预训练扩展”到“训练后扩展”,再到“测试时扩展”的演进。

  “预训练扩展”堪称“大力出奇迹”——训练数据越多、模型规模越大、投入算力越多,最终得到AI模型的能力就越强。目标是构建一个通用语言模型,以GPT早期模型为代表。而“训练后扩展”涉及强化学习和人类反馈等技术,是预训练模型的“进化”,优化其在特定领域的任务表现。

  随着“预训练扩展”和“训练后扩展”边际收益逐渐递减,“测试时扩展”技术兴起。田丰说,“测试时扩展”的核心在于将焦点从训练阶段转移到推理阶段,通过动态控制推理过程中的计算量(如思考步长、迭代次数)来优化结果。这一方法不仅降低了对预训练数据的依赖,还显著提升了模型潜力。

  三者在资源分配和应用场景上各有千秋。预训练像是让AI模型去学校学习基础知识,而后训练则是让模型掌握特定工作技能,如医疗、法律等专业领域。“测试时扩展”则赋予了模型更强推理能力。

  AI模型的迭代还存在类似摩尔定律的现象,即能力密度随时间呈指数级增强。刘知远说,2023年以来,大模型能力密度大约每100天翻一番,即每过100天,只需要一半算力和参数就能实现相同能力。未来应继续推进计算系统智能化,不断追求更高能力密度,以更低成本,实现大模型高效发展。

  (新华社北京2月23日电 记者彭茜)

  《光明日报》(2025年02月24日 12版)

[ 责编:田新宇 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 东北地区里程最长跨海大桥建设取得关键进展

  • 关注——为求职者提供多元选择

独家策划

推荐阅读
中央气象台首席预报员陈双预计,出伏后,四川盆地、江汉等地将有高温天气出现,上述地区仍需关注“秋老虎”天气。
2026-08-25 09:49
近期,在部分高原、草原景区,投喂、抚摸野生旱獭(土拨鼠)或与其近距离合影打卡,成为不少游客跟风的行为。除了野生旱獭,黄鼠、沙鼠等啮齿动物也是鼠疫的自然宿主,野兔、狐狸、野猫等野生动物也可成为鼠疫的偶然宿主,均存在传播风险。
2026-08-25 09:47
翻看评论区,呼声最高的几条是“旺仔牛奶太甜了”“能不能出低糖版”——不是不爱,是当年的小孩长大了,而有些配方还没跟着长大。
2026-08-25 09:46
以人工智能为代表的新一轮科技革命和产业变革正在改变经济社会的传统发展模式。同时,世界百年未有之大变局加速演进,全球创新版图和竞争格局正在经历深刻调整。
2026-08-25 02:10
《教育强国建设规划纲要 (2024—2035年)》提出,以教育数字化开辟发展新赛道、塑造发展新优势。思政课是落实立德树人根本任务的关键课程,
2026-08-25 02:10
北斗在大众消费领域应用取得明显进展
2026-08-25 04:45
8月22日,第二届世界人形机器人运动会在国家速滑馆开幕,16个国家的666支赛队、2056台机器人参与竞逐。与此同时,2026世界机器人大会正在北京亦庄举办,汇聚全球前沿技术与产业成果,全面展现机器人走向千行百业的发展新趋势。
2026-08-24 10:17
六氟化硫是高压电力设备不可或缺的绝缘、灭弧介质,可它偏偏是一种强温室气体。更棘手的是,现阶段又很难找到一种合适的气体完全替代它。如何尽可能不让它进入大气?这是我们一直想解决的难题。
2026-08-24 10:16
所谓数字孪生,就是把一个物理实体在虚拟世界1∶1复刻——可以是一条产线、一个车间,甚至一座工厂。在胡少雄看来,数字孪生的高阶形态,是会“自感知、自决策、自执行”的智能体,这离不开传感器、人工智能算法、通信技术协同进化。
2026-08-24 10:12
中国科学院院士、华中农业大学教授、湖北洪山实验室主任张启发提出“双水双绿”理念,用一块田既种“绿色水稻”,又养“绿色水产”,发展水稻、水产“双水”产业,做优绿色稻米、绿色小龙虾等“双绿”产品。
2026-08-24 09:56
当厘清科研人员转化风险责任边界,构建专业化技术转移制度,明确技术转移机构设立条件及主要职责,通过完善相关制度,着力解决“不愿转”“不敢转”和“不会转”的问题,充分保护科研人员投身成果转化的积极性与主动性。
2026-08-24 09:48
2013年,东正光学的创始团队在广东深圳租下第一间厂房。4年后,当工业光学与电影影像的积累具备向更广泛创作者群体转化的条件时,东正光学重返消费市场,推出Thypoch(叙)品牌。
2026-08-21 07:20
7月17日,习近平主席在2026世界人工智能大会暨人工智能全球治理高级别会议开幕式上发表题为《携手构建公正合理的全球人工智能治理体系》的主旨讲话。
2026-08-21 02:00
近期,因冬季寒区试车而闻名的边疆小城——黑龙江黑河迎来了反季节试车热潮。在试运行的全球规模最大四季低温汽车试验场内,零下30摄氏度的室内一片冰天雪地,来自多个车企与零部件厂商的测试车辆正自如驰骋,借助静态低温舱、冰雪圆环、多角度对开坡道等专业场景展开性能测试。
2026-08-21 03:40
最新统计数据显示,截至2026年7月底,江苏省光伏发电累计装机容量突破1亿千瓦,占全省电力总装机的比重超38%,成为全省第一大电源。图为8月19日,在扬州市邗江区公道镇,电力运维工人在检查渔光互补发电设备运行情况。
2026-08-21 03:40
近期,南华大学核科学技术学院韦悦周教授团队从稀土矿渣中直接分离得到高纯度的阿尔法核素铅-212及其前体核素钍-228,并成功实现了单批次从公斤级稀土矿渣中分离提取158微居里的铅-212/铋-212。
2026-08-21 03:50
近日,中国科学院海洋研究所联合美国加州大学圣巴巴拉分校等机构,在南极冰盖近期质量变化的气候驱动机制研究方面取得重要进展。研究发现,2021—2023年热带暖池持续增暖激发向南极传播的罗斯贝波列,形成东南极南北向偶极环流,重组水汽输送并增强区域降雪,从而暂时减缓了南极冰盖质量损失。
2026-08-21 03:50
习近平总书记在国家科学技术奖励大会、两院院士大会、中国科协第十一次全国代表大会上的讲话中指出,我国正从全球科技参与者、贡献者向开拓者、引领者加速转变,成为创新力上升最快的国家之一。
2026-08-20 02:10
中国信息通信研究院18日发布的《具身智能训练场研究报告(2026年)》显示,随着各部门密集部署人形机器人中试基地和训练场建设,我国具身智能训练场已经成为关键基础设施,形成规模化集群化布局。
2026-08-20 02:10
19日,朱雀三号遥二运载火箭在东风商业航天创新试验区发射升空。火箭一子级按预定程序成功软着陆于甘肃省民勤县朱雀三号着陆场坪,二子级将搭载的鸿鹄03星顺利送入预定轨道,飞行试验任务取得圆满成功,为后续开展回收箭体检修维护、复用飞行和商业化应用奠定基础。本次任务是继7月10日长征十号乙运载火箭一子级海上网系成功回收后,我国首次成功实施重复使用运载火箭一子级着陆腿方式陆地可控回收,标志着我国重复使用火箭技术取得重大突破。
2026-08-20 04:00
加载更多