点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:如何看待AI“一本正经地胡说八道”
首页> 科技频道> 综合新闻 > 正文

如何看待AI“一本正经地胡说八道”

来源:人民日报2025-07-02 10:05

  【现象】使用人工智能大模型时,不少人或许都遇到过类似问题:它们有时会捏造细节,甚至“一本正经地胡说八道”。比如,让它推荐书,给出的却是一堆压根不存在的书名;人物身份张冠李戴,还能给出一些并不准确的链接……这些现象都可以归为AI幻觉。

  【点评】

  所谓AI幻觉,可以通俗地理解为AI也会像人产生心理幻觉一样,遇到不熟悉或超出“知识储备”的问题时,编造一些并不存在的细节,生成与事实相悖的答案。一项调研显示,对于“公众认为使用AI应用过程中有哪些突出问题”,反馈最多的是“内容不准确,或含虚假信息”,占比高达42.2%。

  AI幻觉从何而来?可能得从源头寻找答案。

  大模型的工作原理,是基于概率生成内容。给它上半句,它就根据自己“学”过的海量知识,“算出”下半句该说什么。比如,当用户输入“今天天气非常”,它大概率会接“不错”“热”“潮湿”等答案,而不会出现“甜”。同时,大模型又不是简单地储存所有事实,而会像人脑记东西那样,进行大量压缩和泛化——也就是“抓概要、找规律”。因此,当“喂给”大模型的训练数据包含虚假信息时,它就会产生“幻觉”、给出错误答案。

  有报告显示,我国生成式人工智能产品用户规模达2.49亿人。用户规模快速增长,AI幻觉潜藏的风险也随之增加。比如,如果一些看似合理却与现实相去甚远的内容被AI反复学习,会形成“数据污染—算法吸收—再污染”的恶性循环。有效防范由此带来的虚假信息泛滥,已成为不容回避的课题。

  不过也有观点认为,AI幻觉可被视作一种“发散思维”和“想象力”。理论上,如果把训练一个大模型看作信息“压缩”的过程,那么大模型经过推理、输出答案就是一个信息“解压”的过程。这种处理信息的方式,可能会出现谬误,也可能触发新的创造。对发展尚未定型的新事物,要保持开放心态,辩证看待其利与弊,在有效防范弊端的同时,给予足够空间使之朝好的方向成长。

  短时间内,AI幻觉问题难以被解决。各方都在努力降低其负面影响,相关部门也加大了对违规AI产品的处置力度,推动生成合成内容标识加速落地。一些大模型厂商在积极行动,比如文心大模型利用检索到的信息来指导文本或答案的生成,提高了内容的质量和准确性;通义大模型加强训练语料管理,通过“红蓝对抗”机制提升对虚假信息的识别能力。对广大用户而言,则要加快提升AI素养,学会“智慧”地运用“智慧工具”,既借助大模型破除思维定式、启发创新思路,又提高自身有效获取、理解、评估和使用信息的能力。

  人类塑造工具,工具也影响人类生活。应对AI幻觉等问题挑战的过程,既促使人们思考改进工作方法,也为AI不断进化提供了源动力。激发新技术的正向价值,让AI更好融入生产生活、赋能千行百业,我们迈向智慧时代之路才能走得更加稳当、更加顺畅。(谷业凯)

[ 责编:焦子原 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 地质灾害防治·北京在行动

  • 庆祝香港回归祖国28周年活动在维园举行

独家策划

推荐阅读
近日,四川乐山一小伙感觉身体不适独自乘出租车前往医院就诊,途中开启“超强自救”模式:联系妈妈告知情况、打110报警求助、打120告知医院准备急救。如果长期处于焦虑引起的躯体化障碍状态,患者会反复出现头痛、心慌、呼吸急促、胃肠紊乱、肢体疼痛、睡眠问题等。
2025-07-02 10:06
使用人工智能大模型时,不少人或许都遇到过类似问题:它们有时会捏造细节,甚至“一本正经地胡说八道”。当“喂给”大模型的训练数据包含虚假信息时,它就会产生“幻觉”、给出错误答案。
2025-07-02 10:05
中国国际航空公司所属的国产C909客机平稳降落在蒙古国乌兰巴托成吉思汗国际机场,标志着国航首条C909国际航线正式开通。早8时许,这架C909客机从呼和浩特起飞,经过1个多小时飞行抵达乌兰巴托。
2025-07-02 10:03
农业是国民经济的基础,农业领域形成新质生产力是国民经济形成和发展新质生产力的基础和“底盘”。 农业新质生产力是通过提升劳动者素质、优化劳动资料和创新利用劳动对象,实现全要素生产率的显著提高。
2025-07-02 10:01
团队基于卫星遥感数据构建了1988年至2021年青藏高原30米分辨率人工草地数据集,明确了青藏高原主要的人工草地类型及其时空分布特征,并揭示了青藏高原人工草地的迅速扩张及其驱动机制。
2025-07-02 09:59
屠光绍认为,金融机构在应用人工智能时必须在服务投资人与消费者之间寻求平衡,避免AI鸿沟,坚守金融服务大众的初心。鲍建敏倡导构建产学研深度融合、开放共赢的人工智能金融生态体系,搭建跨机构、跨领域的协同创新平台。
2025-07-01 10:13
6月30日,2025温布尔登网球锦标赛在英国伦敦拉开大幕,引发球迷关注。在草地球场,球的速度更快且弹跳不规则,比赛回合较短,发球就成为球员们的重要“武器”。红土球场并不是天然土壤,而是分层分布着碎砖粉、白色碎石灰石、碎石等。
2025-07-01 10:09
7月1日起,医保定点医药机构在销售药品时,必须按要求扫药品追溯码后方可进行医保基金结算;2026年1月1日起,所有医药机构都要实现药品追溯码全量采集上传。步,进入国家医保局微信公众号主页,点击服务、药品追溯信息查询,进入查询页面;或进入国家医保局微信公众号消息对话页,点击医保服务、药品追溯信息查询,进入查询页面。
2025-07-01 10:09
记者从国家航天局获悉,7月1日,该局发布行星探测工程天问二号探测器在轨获取的地月影像图。(国家航天局供图)  月球全色图,由天问二号探测器的窄视场导航敏感器于2025年5月30日15时拍摄,经辐射校正处理后制作而成。
2025-07-01 10:08
龙芯中科近日正式发布基于国产自主指令集龙架构研发的服务器处理器龙芯3C6000系列芯片、工控领域及移动终端处理器龙芯2K3000/3B6000M芯片以及相关整机和解决方案。
2025-07-01 10:06
四大家鱼,即青鱼、草鱼、鲢鱼、鳙鱼,是我国重要的经济鱼类,占淡水鱼类养殖总量的“半壁江山”,尤以长江流域所产鱼品质最优。但人工养殖久了,鱼类品质逐渐下降,需要捕捞野生鱼种来更换,确保鱼类种质“基因库”稳定。
2025-06-30 04:50
FAST如今每天观测时长接近24小时,每年总观测时长超过5300小时,持续不断地为科学家提供宝贵的数据。
2025-06-30 09:52
华南农业大学积极探索应用大数据、人工智能等技术加速育种创新,“华航香银针”就是创新成果之一。
2025-06-30 09:51
在近日落下帷幕的第十五届全国周培源大学生力学竞赛中,一位特殊的“考生”吸引了人们目光。
2025-06-30 09:51
6月29日,在海南文昌卫星超级工厂项目建设现场,各方正全力以赴加快工厂投产进程。
2025-06-30 09:51
作为一所工科见长的大学,近年来,山东科技大学涌现出一批热衷文化艺术的学生:材料学院研究生庄英赞受邀参加《声声入戏——中央广播电视总台首届京剧票友大会》节目;
2025-06-30 04:50
今年“三夏”生产,该农场配备无人驾驶系统的收割机和拖拉机、气吸播种机、精准水肥轮灌系统、自动巡田无人机等智能化装备大显身手。
2025-06-27 10:25
6月24日,国家重大科研仪器研制项目“2.5米大视场高分辨率太阳望远镜”(WeHoST)在四川稻城启动建设配套项目,预计2027年望远镜完成装调并投入试运行。
2025-06-27 10:24
古生物研究表明,包括早期犬齿兽在内的一些远古动物,脑袋为一个没有左右脑半球区分的整体,而现生哺乳动物和典型的进步颌兽类则有左右两个脑半球。
2025-06-27 10:18
6月26日21时29分,经过约6.5小时的出舱活动,神舟二十号乘组航天员陈冬、陈中瑞、王杰密切协同,在空间站机械臂和地面科研人员的配合支持下,圆满完成既定任务。
2025-06-27 10:17
加载更多