点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:“狂飙”两年,大语言模型已至拐点?
首页> 科技频道> 综合新闻 > 正文

“狂飙”两年,大语言模型已至拐点?

来源:科技日报2024-12-19 09:25

  自两年前聊天生成预训练转换器(ChatGPT)面世以来,生成式人工智能(AI)技术的拥趸们就一直坚信:随着科技巨头不断用海量数据“喂食”AI模型,再加上计算能力飞速提升,生成式AI改进的步伐将呈指数级增长,接近人类智能的通用AI的出现也指日可待。

  然而,在AI快速发展如“烈火烹油”的表面之下,一些专家的隐忧和疑虑也悄然而生。据美国技术雷达网站12月9日报道,谷歌首席执行官桑达尔·皮查伊预测,2025年,AI发展势头将放缓。物理学家组织网稍早时间一篇报道也认为,AI智能的提升速度有所减缓,目前新款大型语言模型的研发似乎已经到了拐点。

  AI模型日益膨胀

  开放人工智能研究中心(OpenAI)的ChatGPT,可以说点燃了科技公司研发大型语言模型的热情。谷歌、亚马逊、元宇宙平台公司,以及OpenAI主要投资者微软公司等,都砸下数十亿美元巨资,纷纷推出各自的生成式AI应用工具。这些大型语言模型各有千秋,能够轻松生成高质量文本、图像和视频,如今也实现了语音对话功能。

  生成式AI的“狂飙”也让OpenAI等公司声名鹊起,赚得盆满钵满。今年10月初,OpenAI公司再次成功融资66亿美元,使其估值达到了惊人的1570亿美元。

  对此,AI行业专家、美国纽约大学神经科学教授加里·马库斯表示,OpenAI之所以获得如此高的估值,很大程度上源于很多业界人士内心深处的一种信念:只要不断给AI模型“喂食”更多数据,提升其计算能力,模型就能变得愈发强大。按照这样的发展趋势,可能很快会出现OpenAI负责人萨姆·奥尔特曼所说的智能可与人类匹敌的“通用AI”。

  智能水平提速放缓

  然而,生成式AI发展的步伐,真会按照人们畅想的“剧本”进行吗?

  马库斯直言,“这只是一个美好的幻象”。美国消费者新闻与商业频道(CNBC)网站也在11月初的报道中指出,谷歌、Anthropic公司和OpenAI等公司研发新大型语言模型似乎已经碰到天花板。

  风险投资企业安德烈森-霍罗威茨公司是OpenAI股东之一。该公司联合创始人本·霍罗威茨最近坦承,尽管他们一直在按照节奏提升算力,但AI模型的智能水平并未因此得到显著提升。

  OpenAI联合创始人伊尔亚·苏茨克维11月15日接受媒体采访时表示,使用大量未标记数据来训练AI模型,以理解语言模式和结构的阶段已经趋于稳定。

  专家们指出,一个根本挑战在于,可用于AI训练的数据目前几乎已被AI模型“蚕食殆尽”。

  专门针对法律事务的生成式AI公司Spellbook也是OpenAI合作商之一。该公司首席执行官斯科特·史蒂文森表示,一些实验室过于注重用更多文本数据“喂食”AI模型,但仅依靠文本数据对AI进行扩展注定会遇到困难。目前很多企业已经缺乏新东西来“喂养”AI模型。因此,这并非知识储量的问题,而是机器要能够理解句子或画面的含义。

  初创公司“抱抱脸”研究员兼AI负责人莎拉·卢乔尼也强调,AI模型开发“以大为美”的路线,最终必然会触碰到其极限。

  亟需一场深刻变革

  萨姆·奥尔特曼11月14日在其社交平台X上发布信息:没有死胡同!不过,现实情况是,OpenAI选择延迟推出GPT-4的接棒模型,因为GPT-4性能的改进程度未达预期。

  作为研发战略转型的一次尝试,今年9月,OpenAI推出了o1模型。这款模型专注于回答复杂问题,尤其是数学问题。它旨在通过提升推理能力,而非单纯增加训练数据量,来提供更准确的答案。史蒂文森认为,OpenAI引导其模型“花更多时间思考而非响应”,这或将引领AI模型研发领域出现一场“深刻变革”。

  AI服务网站Quantilus.com在11月25日的报道中指出,OpenAI、“深度思维”等公司正在探索“高效扩展”技术。该技术旨在让大型语言模型复制类似人类的思维方式,而不仅仅是依赖“蛮力”,即大量消耗计算资源。这些方法的重点在于提高训练数据的质量,并结合来自人类反馈的强化学习。

  史蒂文森将AI技术的发展与火的出现作比较。他表示,业界不应该再通过给AI提供更多数据、提升算力来促进其发展,而是应该打造类似蒸汽机那样的、具有变革性的事物。

  美国斯坦福大学教授沃尔特·德·布劳沃则将先进大型语言模型比作从高中过渡到大学的学生。他表示,目前的AI就像是能做即兴表演的聊天机器人,很容易出错,具有跳跃思维能力的机器即将到来。(刘 霞)

[ 责编:蔡琳 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 离家的行囊装满爱与牵挂

  • 2025年春节档电影票房突破90亿

独家策划

推荐阅读
近日,农业农村部成都沼气科学研究所厌氧微生物创新团队与日本科学家合作发现了一种合作共赢的菌群互作模式。
2025-02-05 09:23
春节期间,全国科技馆以“科技温暖中国年”为主题,为公众献上一系列融知识性、趣味性与人文关怀于一体的科普惠民活动。
2025-02-05 09:22
太阳暗条是悬浮于日冕中的低温等离子体结构,其突然爆发可能引发日冕物质抛射,导致地球磁暴和卫星通信故障。该团队据此建立的灾变临界条件模型,可将暗条爆发预警时间提前至现有水平的2至3倍。
2025-02-05 09:48
中国海油近日对外宣布,我国首个自营超深水大气田“深海一号”累计生产天然气超100亿立方米,生产凝析油超100万立方米,其中2024年天然气产量超32亿立方米,连续3年产量在30亿立方米以上,持续保持高产稳产运行状态。
2025-02-05 09:48
4日,记者从中国科学技术大学获悉,该校郭光灿院士团队李传锋教授、许金时教授和数学科学学院马杰教授等,联合国内研究团队,开发了适合研究单体高维量子系统的可扩展光学体系,成功观测到最强的逻辑形式量子关联。
2025-02-05 09:46
我国针对数据标注产业发布系统性指导文件,是我国为护航人工智能产业、提升新质生产力水平作出的重要布局。
2025-02-05 09:24
近期,我国“天关”卫星(爱因斯坦探针卫星)观测到一例伽马暴EP240315a,这是首次探测到宇宙早期爆发现象的软X射线信号,将为开展早期宇宙相关研究开启一扇新窗口。1月23日,相关成果论文在国际学术期刊《自然·天文》在线发表。
2025-01-27 09:44
日前,由机器人天工、天轶、小柒与现场主持人共同发布的,以“畅享科技 乐酷亦庄”为主题的北京经济技术开发区2025年文商旅体发布活动,在北京智慧融媒创新中心举办。
2025-01-27 09:35
近年来,我国种业快步发展。从种子生产到App订单运输、催芽厂催芽作业、智能秧棚育秧、轨道车运输、智能驾驶插秧、田间水肥管理、App订单驾驶收获,我国已经形成科技范十足的种子生产链条,跑出独具中国特色的农业科技创新“加速度”。
2025-01-27 09:34
乙巳蛇年将至,国家自然博物馆“灵蛇献瑞——2025乙巳蛇年生肖文物大联展”和升级焕新的基本陈列“脊椎动物的崛起”向公众开放,不少大朋友和小朋友在浓浓的年味中迎来一场科普之旅。
2025-01-27 09:34
车辆扎进山体,穿过17.5公里长的锦屏山隧道后,周遭终于从昏暗变得明亮,一座“地下城”出现在眼前——这里是中国锦屏地下实验室(以下简称“锦屏地下实验室”)二期。
2025-01-27 09:27
快过年了,当很多人渐渐放下手头工作时,团队河南安阳育种站负责人阎俊研究员和往常一样出门了,目的地依然是他熟悉的育种田。
2025-01-26 09:19
1月25日,国家林草种质资源设施保存库雄安库开工建设,标志着我国林草种质资源设施保存体系基本形成,对于全面提升我国林草种质资源保护利用水平和林草种业整体水平具有重大意义。
2025-01-26 09:17
北京大学物理学院量子材料科学中心王健团队与合作者展开研究,成功制备出铜氧化物高温超导体薄片器件,并在其中观测到零磁场下工作温度可达72开尔文的高温超导二极管效应。
2025-01-26 09:17
修复后的影片不仅没有划痕、噪点等老电影身上常见的“毛病”,而且质量比原片高很多,比如没有了威亚,色彩更亮,非常符合如今观众的观看习惯。
2025-01-26 09:16
110万吨!这是“中麦578”2024年的订单收购量。要知道,2024年全国小麦总产量是14010万吨,以此对比,“中麦578”的订单量相当于全国小麦产量的1/140。能取得这样的成绩,我特别自豪!
2025-01-26 09:15
国家统计局最新数据显示,2024年,我国全社会研究与试验发展(R&D)经费投入总量超过3.6万亿元,比上年增长8.3%,实现稳定增长,投入总量稳居世界第二位。
2025-01-24 10:01
“我们种植的是‘捷麦19’‘沧麦6002’,最高亩产已超过300公斤。”后仙庄村党支部副书记刘玉锁说,“‘春天白茫茫,夏天雨汪汪,十年九不收,糠菜半年粮。’这首民谣道尽了我们过去在盐碱地里种粮的艰难。如今,科技引领让‘盐碱滩’蝶变‘米粮川’。”
2025-01-24 10:00
记者从国家统计局获悉:2024年,我国全社会研究与试验发展(R&D)经费投入为36130亿元,同比增长8.3%。我国支持科技创新的政策体系不断完善,多元化投入格局加快构建,企业科技创新主体地位不断增强,为研发经费持续增长提供了有力支撑。
2025-01-24 09:58
在禁食或运动期间,免疫细胞(红色)迁移至胰腺并刺激产生胰高血糖素的细胞(橙色)来调节血糖,其中细胞核以蓝色显示。这表明免疫细胞不仅是抵御威胁的“战士”,还能像应急响应人员一样,在必要时介入确保机体的能量供给。
2025-01-24 09:58
加载更多