点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:当AI一本正经地胡说八道……
首页> 科技频道> 综合新闻 > 正文

当AI一本正经地胡说八道……

来源:光明日报2025-04-24 09:22

   【科学随笔·我见AI】

   最近,四岁的女儿向我“汇报”幼儿园生活时,绘声绘色地描述她与一只霸王龙交朋友的故事:她们一起抓小恐龙,因为跷跷板闹翻,又交换零食和好……逻辑严密,细节丰富——尽管她的幼儿园里连只仓鼠都没有。细究之下才知,这孩子原来把绘本、动画和现实糅合在一起,用童言童语编织出一个“合理”的故事。

   此情此景,也让我想到当下人工智能(AI)的“幻觉”现象:它能将虚构与真实无缝拼接,生成看似严谨实则荒诞的答案,仿佛一个捧着百科全书满嘴跑火车的天才儿童。

   从前年爆火的ChatGPT到最近出圈的DeepSeek,AI正以肉眼可见的速度重塑生活。它既能帮中学生秒解几何题,也能替小说家生成缠绵的剧情。而若抛出一些不着边际的问题,譬如“从化学视角解析孙悟空火眼金睛是怎样炼成的”,它也能像模像样地编造出一大篇学术分析,甚至煞有介事地标注出参考文献。更令人啼笑皆非的是,当遭到质疑时,它会杜撰更多论据来自圆其说。这种真假难辨的“知识幻觉”一如沙上楼阁,看似气势如虹,实则千疮百孔。而在AI狂飙突进的当下,类似的“幻觉”还在被大批量生产出来。

   要理解AI为何谎话连篇,得从它的学习方式说起。今天的AI普遍基于大语言模型(LLM)。在它问世之前,传统AI就像循规蹈矩的优等生,全靠死记硬背语法规则来答题解疑;而大语言模型更像炼丹术士,将庞大的语料放入“丹鼎”以期炼得“金丹”。哲学家维特根斯坦曾说,语言的意义不在预设的本质中,而在于日常的使用——就像孩子学说话,没人教“主谓宾”,全靠观察大人如何在饭桌上说“吃”,在踢足球时喊“跑”——维特根斯坦称之为“语言游戏”。大语言模型正是对这种游戏的算法化:它被抛入一个虚拟的语料世界中,吞下海量的文本材料,没有人告诉它该怎么出去,它只能自己从中摸索出一条道路来。

   最终,涅槃重生的AI开口说话了——一面是口若悬河,一鸣惊人;另一面却是信口雌黄,“鬼话”连篇。

   人们不吝赞美着AI的横空出世,却也正绞尽脑汁要给胡言乱语的AI“治病”。比如,为了防止AI幻觉泛滥,工程师们加装了“知识导航”(检索增强技术RAG)来引导它查证事实,铺设了“轨道护栏”(提示词约束)以防止答案跑偏,甚至请人类老师当“监考”(人类反馈强化学习RLHF)给胡诌打红叉。但即便如此严加管教,AI仍会冷不丁变成“脱缰野马”。就像班上总有几个聪明又调皮的学生,能把考场作文写成科幻史诗——你明知道他在编,却还得佩服其想象的不羁。

   但或许问题不止于技术层面:究其本质,语言就是真伪交织的游戏。远古人类围着篝火编神话,中世纪的吟游诗人即兴歌唱,网友们在朋友圈嚷嚷“我有一个朋友”——虚构从未远离我们。AI不过是把这一本质端上了桌面。当它用《红楼梦》的文风改编科普文章,或用学术腔调分析“黛玉倒拔垂杨柳”,我们是该大呼造假之离谱,还是惊叹创新之乖奇?这又让我想起女儿的另一则“杰作”:她把动画片里的冰雪魔法,挪到了小区游乐场上,硬说滑梯的另一头连着艾莎公主的城堡。只不过,孩童的幻想至多令人莞尔,AI的幻觉却可能引发真实的麻烦——可不是所有人都能一眼识破那些“一本正经的胡说八道”。

   但话说回来,当前条件下,要完全消除AI幻觉,就像苛求孩子永远不说童话——既不可能,亦无必要。关键是如何给“凌空蹈虚”划定赛道:譬如写小说时,自可天马行空;做学术时,便须脚踏实地。目前的主流解法是给AI装上“场景识别器”:当检测到用户需要严谨答案时,自动调用知识库交叉验证;若遇到创意写作,则无妨放飞自我。而要更进一步,就得考虑如何让AI“活”在更真实的语言游戏实践中了。如今的AI看似满口金句,实则是黑箱里的“书呆子”。倘能走出黑箱,交到“朋友”——比如在虚拟社区充当模拟成员,在学术论坛接受“同行”评议,甚至通过脑机接口感受具身经验——或许它能逐渐领悟:语言不仅是符号的概率游戏,而且是生活形式的一部分。

   想象某一天,当AI能“感受”小吃摊主吆喝的肢体语言,或程序员代码错误时的尴尬表情,或许它再不会把火眼金睛说成是二氧化硅的高温玻璃化了。

   技术狂飙的时代,人们总渴望用算法解决一切问题。但AI幻觉始终在当头棒喝:对理性正确的追求,和对生活世界的回归,需要建立一种动态平衡。如同孩子总会长大,总会学着区分基本的幻想与现实,在人类的引导下,AI的“成长”终将水到渠成。所以面对AI幻觉,与其杞人忧天,倒不如放手让它游戏,只要能不断进入更丰富的场景,领悟更多样的规则,书呆子也学得会“人情练达”。

   (作者:鲁博林,系清华大学科学史系助理教授)

[ 责编:宋雅娟 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 2025全球工业互联网大会在辽宁沈阳开幕

  • 智能网联新能源汽车闪耀智博会

独家策划

推荐阅读
植物在漫长的适应性进化过程中,催生出丰富多元的物种谱系。9月2日,《细胞》在线发表了华中农业大学教授宁国贵团队的一项研究成果,该研究揭示了月季香气基因起源的新机制。
2025-09-05 10:06
今年8月,中央网信办、国家卫生健康委等四部门联合发布《关于规范“自媒体”医疗科普行为的通知》,为医疗科普立了“规矩”。
2025-09-05 10:02
数字经济时代,算力是如同水、电一样重要的基础资源。我国算力发展情况如何?未来着力点在哪儿?
2025-09-05 09:54
算法技术的赋能强化了传统意识形态风险,算法的自我进化制造了意识形态黑箱,要求我们积极探索和优化治理智能算法技术意识形态风险的新路径。
2025-09-05 09:48
日前,中国科学技术大学孙道远教授、毛竹教授团队联合国外学者在行星科学研究领域取得重大进展,该研究首次在地球以外的行星中确认了固态内核的存在。
2025-09-05 09:41
据世界气象组织2日发布的厄尔尼诺/拉尼娜现象最新通报,拉尼娜现象有可能从今年9月起回归并影响未来数月的全球天气和气候状况。拉尼娜现象是指赤道太平洋东部和中部海水大范围持续异常变冷的现象,而厄尔尼诺现象则是指太平洋赤道海域海水大范围持续异常升温的现象。
2025-09-04 09:47
这种说法缺乏科学依据。
2025-09-04 09:44
正确掌握储存技巧和使用习惯,才能发挥冰箱的功能,保障家人饮食健康。
2025-09-04 09:39
这不是惊悚小说,也不是玄幻剧,而是世代生活在海边的人们,和海洋巨兽的别样相遇——这是鲸和海豚的骨头。从意外搁浅偶然获得,到渔业生产相对频繁打捞,闽南的“新鱼骨庙”(阴庙)呈现出和历史上的鱼骨庙截然不同的样貌。
2025-09-04 09:37
9月3日,某潜艇支队某艇员队组织收看阅兵仪式直播,铿锵有力的步伐、全新亮相的装备、转型跨越的成就,让他们动容,更让他们振奋。南昌舰的入列,标志着海军驱逐舰实现由第三代向第四代的跨越,首次突破万吨级设计,在航母编队体系作战中发挥重要作用。
2025-09-04 09:32
日前,我国科学家近日成功研制出超宽带光电融合集成系统,首次实现全频段、灵活可调谐的高速无线通信,有望为未来更畅通可靠的6G无线通信提供保障。为此,北京大学、香港城市大学组成的联合研究团队,历经4年,自主研发出超宽带光电融合集成系统。
2025-09-03 10:01
近日,由中国农业科学院烟草研究所牵头完成的“基于耐盐植物和土壤调理剂的滨海盐碱地高效利用技术创制与应用”项目获2024年度青岛市科技进步奖二等奖,为滨海盐碱地的综合治理与高效利用提供了新方案。基于各项研究,团队开发了4种抗盐剂、2种盐碱地土壤调理剂等盐碱地培肥改良系列产品,为盐碱地快速培肥和障碍消减提供了有力支撑。
2025-09-03 10:01
9月1日起,由工业和信息化部等五部门联合修订的强制性国家标准《电动自行车安全技术规范》(GB 17761—2024)正式实施。新国标进一步增强了电动自行车的智能化功能,增加了北斗定位、通信和动态安全监测功能。
2025-09-03 10:00
作为第十五届全国运动会增设的群众赛事项目,被称为“空中F1”的无人机竞速备受瞩目,该项赛事决赛举办地深圳近日也掀起了无人机竞速热潮,市民和游客在公园里就能过一把“飞行瘾”。据介绍,深圳中心公园位于深圳核心区域,无论是深圳还是粤港澳大湾区其他城市的无人机爱好者,都能轻松快捷到达这里。
2025-09-03 10:00
油菜、白菜、甘蓝、萝卜是大众最熟悉的十字花科作物,也是食用油和蔬菜的主要来源,然而它们都受到同一种毁灭性病害——根肿病的威胁。基于GSL5功能研究和团队所创制的材料,他们还揭示了有趣的病菌与寄主的互作关系,即病菌致病和寄主抗病反应机制。
2025-09-03 10:00
点击羽绒服胸前的按钮,2秒即可速热,实现四档温度调节……1日,在哈尔滨举行的第七届中国国际新材料产业博览会现场,一款造型时尚的智能温控羽绒服吸引不少观展者驻足围观。
2025-09-02 10:23
当地时间9月1日,世界知识产权组织发布最新报告显示,今年的全球创新指数(GII)集群研究将风险资本交易活动作为一项新指标。全球创新指数集群排行榜于2017年创设,通过三项核心指标,识别世界级创新活动在当地的集中程度。
2025-09-02 10:21
强制性国家标准《电动自行车安全技术规范》昨起实施。为保障新国标在本市顺利推行,近日,市市场监管局组织召开在京销售电动自行车生产经营企业约谈指导会。为保障新国标平稳落地实施,本市市场监管部门将强化监督抽检,保障本市电动自行车产品质量安全。
2025-09-02 10:18
会空翻、格斗,能叠衣、调饮,善聊天、“思考”……前不久举行的2025世界机器人大会上,各类机器人本领“进化”、各显神通,展现了人工智能的巨大潜力。如今,从旅游出行的智能助手,到工厂培训的“最强大脑”,再到装备升级的有力支撑,人工智能扮演着越来越重要的角色。
2025-09-02 10:15
零碳园区的建设,对于推动我国经济社会发展全面绿色转型具有重要意义。节能降碳,光靠“外套保温”不够,在园区地上、地下,还有“血液循环”系统来“保持恒温”。
2025-09-02 10:15
加载更多