点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:AI会自主探索?方滨兴院士从奖励函数看AI“意识”真相
首页> 科技频道> 综合新闻 > 正文

AI会自主探索?方滨兴院士从奖励函数看AI“意识”真相

来源:光明网2025-11-03 16:57

  当前,人工智能是否具备意识始终是业界争论焦点。在近日举行的中国中文信息学会2025学术年会暨第二届中国大模型大会上,中国工程院院士、广州大学教授方滨兴发表特邀报告,以“人工智能的奖励函数意味着什么?”为核心议题,从全新视角解读AI行为逻辑与“意识”争议,为通用人工智能(AGI)发展提供深刻思考,引发学界广泛关注。

AI会自主探索?方滨兴院士从奖励函数看AI“意识”真相

  “现在大家总问‘AI有没有意识’,其实先得搞明白AI是怎么‘做事’的。”方滨兴院士在报告里打了个形象的比方:人类做事常受“要活下去、要变好”的生存意识驱动,而AI的“行动指南”,其实是算法里的“目标函数”——就像给AI设定的“任务指令”。

  他进一步解释,早年间的AI更像“按部就班的学生”:核心靠“损失函数”指导,比如算题错了就修正,全程按固定规则优化,行为完全是预设好的,根本谈不上“意识”,就像闹钟到点响、计算器按键出结果一样机械。

  但随着“奖励函数”的出现,AI变“灵活”了。方滨兴院士说,这就像给AI换了种引导方式:不再是“错了才改”,而是“做得好就给奖励”——比如AI帮人写文案,写得贴合需求就给正向信号,写得差就没有,它会主动尝试不同写法去“争取奖励”。这种依赖奖励信号的决策过程,带了点“不确定性”和“探索性”,有时甚至会做出人类没预料到的反应。

  “但千万别误会,这不是说AI有了‘自我意识’。”方滨兴强调,即便AI会“主动探索”,本质上还是在跟着“奖励规则”走,并没有真正的“想法”。不过他也提出,这种“因奖励而调整行为”的特性,确实让AI显露出类似“主观意志萌芽”的迹象,为我们理解AI技术的发展边界提供了新角度。(光明网记者宋雅娟)

[ 责编:肖春芳 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 习近平接见全国群众体育先进单位、先进个人代表

  • 习近平会见国际奥委会主席考文垂和终身名誉主席巴赫

独家策划

推荐阅读
11月9日,国航C919重飞“两航起义”航线主题航班从香港飞抵天津,重温76年前“两航起义”的北飞航程,致敬“两航起义”爱国壮举。“两航”后代陈绍曾介绍,76年前,“两航起义”飞行员从香港驾驶12架飞机飞抵北京、天津,建设新中国民航事业。
2025-11-10 10:10
“超级细菌”指那些对多种抗生素具有耐药性的细菌。研究人员在一种常用药物的生产流程中意外发现一种很有前景的强效抗生素,能够杀死耐甲氧西林金黄色葡萄球菌等“超级细菌”。
2025-11-10 10:09
11月9日,2025年世界互联网大会乌镇峰会在浙江乌镇闭幕。世界互联网大会秘书长任贤良用“聚焦构建网络空间命运共同体理念”“关注创新发展热点议题”“不断擦亮峰会品牌”“持续贡献智慧力量”概括了本届峰会的特点。
2025-11-10 10:08
使用供暖设备有哪些注意事项?一起来看!
2025-11-10 10:17
我们将围绕推进新型工业化人才需求,顺应实体经济和数字经济融合发展趋势,立足产业需求侧职责定位,多措并举加快推动制造业技能人才队伍建设。深入开展产业基础再造工程、制造业数字化转型行动等,依托项目培养高技能人才。
2025-11-10 10:07
ASC26报名链接:https://www.asc-events.net/StudentChallenge/ASC26/Register.php
2025-11-07 15:58
北京时间2025年11月6日11:00—14:00,地磁发生强烈扰动,达到大地磁暴水平(Kp=7),为橙色警报级别。
2025-11-07 13:39
阿特拉斯的成功观测是天问一号的一次重要拓展任务,利用探测器观测暗弱天体为天问二号开展小行星探测进行了技术试验,积累了经验
2025-11-07 09:37
天问一号环绕器利用高分辨率相机近日成功观测到星际天体——阿特拉斯。”据介绍,天问一号探测器于2021年2月进入火星环绕轨道,迄今已稳定运行4年8个月,目前状态良好。
2025-11-07 09:31
与会嘉宾围绕“人工智能+”深度融入产业创新发展等话题进行深入探讨,凝聚产业国际合作发展共识,推动构建开放包容的人工智能产业创新生态。
2025-11-07 09:29
谈及人形机器人何时能从“炫技”转向应用落地,优必选科技副总裁焦继超提出了分阶段的发展预期。中国电子学会机器人分会青年副主任委员、乐聚智能(深圳)股份有限公司董事长冷晓琨表示,预计明年人形机器人在工业领域会出现采购交付数量过万台的企业。
2025-11-07 09:28
“十四五”时期,我们将目光投向脑疾病领域,通过脑机接口技术,实现了“诊断—监测—治疗—预测”一体的大脑实时“观景”。一方面,脑机接口技术可以让神经系统“说话”,通过高精度解码神经信号实现对大脑的“意念读取”和精准诊断。
2025-11-07 09:18
遥远恒星大气爆发活动的起源区域有哪些特征,人类至今知之甚少。但科学家们正在通过分析太阳爆发活动,探究恒星大气爆发活动的奥秘。
2025-11-06 10:35
这几年,子午工程已经有不少应用场景。例如在航天员出舱时,提前进行空间天气预报,避免在太阳风暴来临、空间有高能粒子时出舱,保护航天员健康安全。
2025-11-06 10:34
智能穿戴设备产品形态从手环、手表延伸至耳机、眼镜、戒指等形式,新供给创造新需求,改变了消费者生活方式,推动着健康管理、时尚消费与技术创新的深度融合。
2025-11-06 10:32
电动车充电慢、冬天“趴窝”、安全隐患大……这些困扰电动出行的难题,迎来了突破性解决方案。
2025-11-06 10:19
目前,我国约70%的待发现油气资源蕴藏在深层超深层、复杂构造及非常规等新领域。如何找到这些宝贵的油气资源,精准绘制“藏宝图”?
2025-11-06 10:17
天问一号环绕器利用高分辨率相机于近日成功观测到星际天体——阿特拉斯(3I/ATLAS)。其间,天问一号环绕器距离目标天体约3000万千米,是目前观测该天体距离最近的探测器之一。
2025-11-06 09:56
为确保航天员生命健康安全和任务圆满成功,经研究决定,原计划11月5日实施的神舟二十号返回任务将推迟进行。
2025-11-05 10:59
4日,国务院安委会办公室、应急管理部、国家消防救援局在京举行2025年全国消防宣传月活动启动仪式。
2025-11-05 04:20
加载更多