点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:当机器开始思考,人类如何与之相处?
首页> 科技频道> 头版头条 > 正文

当机器开始思考,人类如何与之相处?

来源:人民日报海外版2026-07-22 09:41

  人工智能正以前所未有的速度重塑世界。从实验室走向生产生活,从工具辅助迈向深度参与,人工智能不仅改变着技术创新和产业发展,也在叩问人类社会的运行规则与价值边界。

  在2026世界人工智能大会上,围绕人工智能发展,四个值得国际社会共同思考的时代之问被提出:当机器开始思考,人类如何与之相处?当算法参与决策,安全如何保障?当技术挑战伦理,治理如何跟上?当鸿沟不断拉大,普惠如何实现?这四个问题,既关乎技术演进的方向,也关乎人类文明的未来。

  本版今起推出“求解时代之问”系列报道,邀请相关领域专家深入对话,从技术、产业、治理、伦理等多个维度,剖析问题背后的深层逻辑,探寻人工智能健康发展的现实路径。

  第一期聚焦“当机器开始思考,人类如何与之相处”。当人工智能从执行指令的工具,逐渐成为能够感知、生成、推理、协同的智能体,人机关系正在发生深刻变化。技术不断突破,“人—AI关系”如何划定?人类未来如何与人工智能同行?本报记者采访了北京邮电大学人工智能学院教授朱孔林、广东省数字产业研究院执行院长李德豪。

  ——编 者

  记者:在2026世界人工智能大会上提出的“人工智能四问”中,“当机器开始思考,人类如何与之相处?”作为四问之首被提出。您认为,这一问题为何成为人工智能发展中需首先回答的问题?其背后的深层内涵是什么?

  朱孔林:这一问实质是人工智能的“根本”之问。人工智能正逐步从被动指令型的工具算法发展为主动决策型的机器。今天的AI大模型和智能体能独立写方案、做医疗初判、参与企业决策、自主操控设备,甚至形成人类难以完全预判的输出逻辑,变成了“会思考的机器”。因为有了“可以思考的机器”,在和人类相处过程中才有了后面的AI安全、治理和普惠的问题。

  AI已经深度嵌入生活的方方面面,我的学生会使用AI进行科研探索,父母和老人会使用AI进行聊天和陪伴……小到日常沟通、职业选择,大到公共安全、资源分配,所有人都在和具备思考能力的智能系统共存。但人们在和AI相处中害怕被AI替代。如果缺少统一、清晰的相处准则,会快速滋生社会矛盾,例如人机权责模糊、数字鸿沟拉大等。只有先回答相处问题,才能给社会大众建立稳定、可预期的人机共存秩序。人工智能本身无善恶,风险来源于人与AI的互动模式。把相处问题放在第一位,相当于在技术高速发展前,先锚定一条价值红线:AI永远服务于人,而非支配人,这是所有人工智能发展不能动摇的底层准则。

  如何以人为本平衡AI的工具属性和类人属性,是这一问题的基础内核。在机器有了像人类的思考能力甚至超过人类的思考能力时,人类如何守住情感温度、价值判断、道德坚守和创新灵性等独特价值,重新定义人在智能时代的主体地位和发展方向,是人的发展问题;机器会思考、能决策,但是AI也会出事故、有错误的判断,谁来承担AI决策或应用引发的责任,是人机相处中权责判定的底线问题;最后,技术服务于人,还是人适配技术?我们强调AI作为技术服务于人类社会,而不是人类成为AI的附庸,这是“以人为本”的人机相处终极问题。

  记者:人工智能的发展正在改变人与机器之间的关系。您认为,是什么推动“当机器开始思考,人类如何与之相处”成为当前必须面对的时代之问?

  李德豪:这个问题的出现,源于AI的三个跨越。首先是能力跨越。从语言模型到具身智能,AI不再只是聊天,而是有了双手双脚,能操控物理世界,这促使风险的本质发生改变。再者是目标跨越。随着智能体的发展,一些商业模式开始赋予AI长期、持续的目标,例如自主运营、持续创造收益、不断优化自身表现。当缺乏价值约束时,AI可能会为了实现目标而采取不符合人类利益或伦理规范的行为。第三是速度跨越。AI的迭代速度是指数级的,而人类的立法和伦理讨论是线性的。这种速度差导致出现治理真空。当我们还在讨论“应该怎么做”的时候,AI已经在做了,人类的治理速度跟不上技术的奔跑速度。

  记者:在当前现实生活中,“人—AI关系”是什么样的?您认为未来的发展趋势会是如何?

  李德豪:我认为当前的人—AI关系像“婴儿与不成熟父母的关系”。AI在快速成长,拥有强大的学习能力,而它的“父母”,也就是开发者、使用者们对技术和风险的认知未必同步成熟。如果赋予AI不合理的目标、又缺乏必要的价值约束,带来的风险将不只是程序漏洞,还可能对社会运行产生系统性影响。

  朱孔林:现阶段人机关系权责边界与价值主导尚不清晰,AI会产生不可预判的“黑箱输出”,人机责任划分、风险兜底机制尚未完善;当下AI是有辅助能力、无主体资格,有智能输出、无价值立场的新型智能协作伙伴。

  放眼未来,我认为“人—AI关系”将走向以人为本、权责清晰、深度共生的稳定形态。首先,人机分工将更加明确:AI负责效率与执行,人类主导创造、审美、道德与终极决策,实现价值共创。其次,AI会从通用工具进化为场景化智能伙伴,软硬件深度融合,适配各行各业的个性化需求,融入社会运行与日常生活。更重要的是,未来人机关系将建立完善的治理约束,形成风险可控、权责明确的成熟体系。技术发展会始终锚定人类福祉,守住伦理与安全底线,最终构建起有序、可持续的人机共生新文明,让AI真正成为人类社会高质量发展的核心助力。

  以我从事的“自动驾驶”这一研究方向为例,当前自动驾驶算法层出,但均存在缺乏可解释性、应对极端场景不足等问题。而当下自动驾驶领域讨论激烈的问题是“自动驾驶车辆如果出了车祸,谁应该负责?”这显然就是人机责任划分不明确、风险兜底机制不完善的具体体现。未来,自动驾驶领域“人—AI”的关系必将走向以人为本、权责清晰、深度共生的稳定状态:人来负责指明前进的方向,AI负责具体执行操作。

  记者:当人工智能技术以指数级速度向前发展之时,我们如何把握人机关系的发展方向,推动人工智能更好服务人类社会?

  朱孔林:在AI技术指数级迭代的当下,我们首先要理性重塑人—AI关系的核心认知。当下的人机关系,已经逐步从传统的“人主导、机器被动执行”的工具关系,进入人类主控、AI赋能、双向适配共生的全新阶段。我们既要摒弃“AI万能”的技术崇拜,也不应有“AI威胁”的恐慌心态,正视人机各有所长、互补共生的客观现实。

  我认为需要构建以人为本、AI赋能、可控可管、权责清晰、协作向善的人机共生体系,具体有四个路径。

  首先,坚守人类主体性底线,确立人机分工边界。AI承载重复性、标准化、高算力、海量信息处理的工作,主打效率与迭代速度;人类坚守价值判断、道德抉择、创新创造、情感共情与终极决策的核心职能,牢牢掌握技术发展的主导权与决策权,杜绝人类主体性弱化、思维惰性异化。其次,以治理前置规范技术发展。建立适配AI指数级发展的行业规范、法律准则与伦理框架,明确AI研发、落地、应用的权责边界,厘清企业、使用者、监管方的责任归属,破解算法黑箱、技术滥用、权责模糊等核心难题,让技术发展有边界、有底线。再者,强化全民数字素养与AI适配能力。面向全社会普及AI认知与应用能力,破除数字鸿沟,引导大众理性使用、合理借力、独立思辨AI输出内容。同时在教育体系中强化人文素养、创新思维、批判思维培育,打造人类区别于智能机器的核心竞争力。最后,坚持技术向善的发展导向。推动AI技术研发与应用始终锚定人类福祉,让技术迭代服务于社会进步、产业升级与民生改善,通过技术优化降低算法偏见、安全风险,最终实现人机互补、协同增效,构建有序、健康、可持续的人机共生新生态。(记者 周姝芸)

[ 责编:张梦凡 ]
阅读剩余全文()

相关阅读

您此时的心情

光明云投
新闻表情排行 日/周
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 习近平主持亚太经合组织第三十三次领导人非正式会议

独家策划

推荐阅读
前不久,山东科技大学安全与环境工程学院教授刘华清团队研发的“控释型硫基滤料新技术”成功实现转化,为一家环保公司解了燃眉之急。
2026-11-19 05:10
日前,第140届中国进出口商品交易会(以下简称“广交会”)闭幕,共吸引来自219个国家和地区的35.2万名境外采购商到会,到会人数再创历史新高。
2026-11-19 05:25
国务院学位委员会办公室近日印发《关于做好专业学位研究生以实践成果申请学位工作的意见》,在前期工程硕博士用实践成果申请学位基础上,推动5个专业学位类别试点先行。
2026-11-19 05:25
在今年西班牙巴塞罗那市议会推出的第五期“创新出行实验室(BILM)”挑战赛上,谁能拿出基于人工智能调控交通信号灯的最佳方案就赢得10万欧元,奖金用于在巴塞罗那路口开展实地测试。
2026-11-19 05:25
地磁场像一张看不见的导航网。趋磁细菌是里面的“活罗盘”:它们身体里能长出一串纳米级小磁铁,顺着地磁场方向游动,在氧气不多不少的水层里找位置。
2026-11-19 05:25
习近平总书记在2026世界人工智能大会暨人工智能全球治理高级别会议开幕式上指出:“人类不得不直面时代之问:当机器开始思考,人类如何与之相处?当算法参与决策,安全如何保障?当技术挑战伦理,治理如何跟上?当鸿沟不断拉大,普惠如何实现?
2026-11-19 05:10
据中国载人航天工程办公室消息,17日,神舟二十四号载人飞船与长征二号F遥二十四运载火箭组合体已转运至发射区,计划近日择机实施发射。
2026-11-18 05:10
工业和信息化部、市场监管总局近日联合印发《以标准提升引领轻工业优化升级实施方案》。
2026-11-18 05:25
日前,国家知识产权局印发《地理标志保护和运用“十五五”规划》,明确了“十五五”时期地理标志工作的目标指标、重点任务和专项工程。
2026-11-18 05:10
11月17日,《关于深入推进再生资源回收体系建设 促进回收行业高质量发展的意见》公开发布。意见明确,到2030年初步建立起回收网络健全完善、居民交投便捷顺畅、分拣环节高效先进、末端处理绿色规范的再生资源回收体系。
2026-11-18 05:10
目前我国输送距离最长、管径最大、设计压力最高、输送规模最大的二氧化碳长输管道——中国石油吉林石化—吉林油田二氧化碳管道工程16日建成投运,标志着我国二氧化碳规模化输送和利用取得新进展。
2026-11-18 05:25
要让一台机器人真正能干活,到底靠什么?答案是,看得见、想得出、做得到。
2026-11-17 09:33
芯片越强、集群越大、部署越密,出故障的概率和代价也在同步飙升。
2026-11-17 09:29
胜利油田济阳页岩油民丰8号台新型井工厂首批12口井平均钻井周期13.83天,其中丰页1-8-B13HF井钻井周期11.68天,刷新国内超6000米井深陆相页岩油最短钻井周期纪录。
2026-11-17 05:15
红线划得清楚,但现实难题也依然存在:当作业能让AI助写,心事能向AI倾诉,孩子还会不会自己动脑、还愿不愿意跟真人打交道?如何帮助孩子减少依赖,合理使用AI?AI时代的青少年身心健康该如何守护?记者多方采访求解。
2026-11-17 05:15
随着人工智能深度赋能千行百业,不少高校毕业生主动“拥抱”AI,将专业所学同AI应用融合,探索解决行业重点难点问题。他们的经历带来哪些启示?多方主体怎样弥合产教断层,打造适应新岗位新场景的就业竞争力?
2026-11-17 05:15
16日,海南热带雨林国家公园管理局发布海南热带雨林国家公园的10种标志性物种,分别是海南长臂猿、海南坡鹿、海南孔雀雉、海南四眼斑水龟、鹦哥岭树蛙、丽拟丝蟌、坡垒、美花兰、陆均松、紫芝。
2026-11-17 05:15
今年“双11”,不少人的订单里多了一种看不见、摸不着的新东西:Token。81岁的图灵奖得主马丁·赫尔曼打了个有趣的比方:人类就像一个刚拿到驾照的人,不知怎么弄到了一辆500匹马力跑车。
2026-11-16 09:29
初冬时节,位于黄河岸边的河南开封前方园艺公司菊花销售依然火热,员工们忙着将一盆盆娇艳的观赏菊装上货车、送往开封市区各景点,将一包包新鲜的食用菊发往全国各地。
2026-11-16 04:50
14日,以“智能经济赋能·绿色引领未来——‘十五五’长江经济带高质量发展的新方位与新征程”为主题的第十一届长江经济带发展论坛在江苏南通举行。会上,南通大学江苏长江经济带研究院最新研究成果发布。
2026-11-16 04:50
加载更多