点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:构建负责任人工智能治理体系的伦理路径
首页> 科技频道> 综合新闻 > 正文

构建负责任人工智能治理体系的伦理路径

来源:光明网-《光明日报》2025-01-06 02:50

  作者:刘静(东北师范大学马克思主义学部哲学院副教授)

  人工智能技术快速发展所掀起的澎湃汹涌浪潮,在深刻改变人的存在和生活方式,给人类带来极大便利的同时,也打破了传统人机关系的界限,给人类的存在和交往带来了新的伦理挑战和道德困境。如何更好回应和适应人工智能技术变革带来的不确定性,是我们需要面对的重要课题。习近平总书记指出:“科技是发展的利器,也可能成为风险的源头。要前瞻研判科技发展带来的规则冲突、社会风险、伦理挑战,完善相关法律法规、伦理审查规则及监管框架。”国家新一代人工智能治理专业委员会发布的《新一代人工智能治理原则——发展负责任的人工智能》明确提出要“发展负责任的人工智能”,这为我们发展和治理人工智能提供了重要的伦理路径。进一步阐发负责任人工智能治理的伦理立场和伦理原则成为应用伦理学研究的题中应有之义。

  人工智能的伦理挑战和道德困境

  人工智能正在引发最重要的技术革命和社会变革,同时也在改造着人类自身,改变着人的行为。随着生物技术革命和人工智能的兴起,人类正经历身体和精神的双重技术化,面临被技术替代的风险,引发新的存在论问题。特别是随着人工智能技术的新革命——生成式人工智能(AIGC)的推出,打破了传统人机关系的界限,体现为“人工智能的拟人化”和“人的机器化和算法化”,给传统的伦理关系和伦理体系带来巨大挑战。

  随着人工智能时代的到来,“未来人”和“远方的陌生人”问题逐渐进入了人类的伦理视界。传统伦理学强调的是一种“近的伦理学”,强调人与人之间的直接交往,行为者双方是熟悉的、共同在场的,道德时空是一种近距离的。而科技的深度介入,使人类的道德空间和行为性质发生了改变,一些新的对象,如人工智能,逐渐进入我们为之负责和道德关切的领域。人工智能作为一种新科技,给人类的伦理世界和道德空间带来了深刻变革,它以虚拟化和拟人化的方式与人类建立了新的交往关系,伦理关系从“人与人”“人与动物”“人与自然”扩展到“人与人工智能”。

  人与人工智能之间的伦理责任关系,用传统的人与人之间的伦理关系来解释将面临较大的困难,会出现人机伦理关系的三重道德困境。第一重是善恶困境。传统的人机关系是一种人和物的关系,技术作为工具为人类所使用。随着技术的不断革新,现代技术不再是简单的工具,人类很难区分现代技术的使用是善的还是恶的。人工智能既可以最大限度地给人类带来福祉,也可能被滥用给人类带来巨大危害。第二重是尊严困境。随着人工智能的发展,特别是生成式人工智能的应用,人类过度依赖技术和人工智能,有可能会弱化人的主体性,挑战人之为人的尊严。第三重是责任困境。虽然目前人工智能还不具有真正意义上的自主性和主体性,但却具有了一定的自主性行为。这种自主性行为带来了伦理风险和不确定性,存在责任边界不明确和伦理风险的分配问题,引发了人工智能应用的责任鸿沟争论,使得传统的责任伦理体系出现了真空地带。如何解决这些道德困境,发展“负责任的人工智能”无疑是一种可行的伦理路径。

  坚持以人为本的伦理立场

  尽管人工智能的兴起打开了伦理关切的视界,延伸了传统的伦理关系,带来了一定的挑战和风险,但可以确定的是人类自身是人工智能发展的决定者和使用者,在根本上人类是真正的责任者。“负责任”要贯穿人工智能的研发和应用,《新一代人工智能治理原则——发展负责任的人工智能》指出,要遵循“和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理”的原则,这无疑为我们解决三重困境提供了治理框架和行动指南。“发展负责任的人工智能”,是人类以一种安全、可靠和合乎道德的方式研发和使用AI。“负责任”的内涵包括包容性、公平性、以人为本、透明和可解释性、安全性、尊重隐私和可被问责性等,以保障人工智能系统负责任地运行和使用。“负责任的人工智能”并不是要研发具有道德和责任意识的人工道德机器,使其能够进行自主思考和道德决策,并对自己的行为负责任。相反,“负责任的人工智能”主要指向的是人类要负责任,人类要肩负起对其所创造的人工智能的责任,负责任地发展人工智能使其更好地为人类服务。人类自身才是人工智能发展和治理的关键,因此我们必须要坚持以人为本的伦理立场。

  坚持以人为本的伦理立场,是推动负责任人工智能发展和治理的价值基础。习近平总书记高度重视人工智能的发展、安全和治理,为此提出了“以人为本、智能向善”的重要理念。这既为人工智能的发展和治理提供了新视角,也是人类命运共同体理念在人工智能领域的充分体现。以人为本蕴含着深层的伦理价值,是人工智能治理要遵循的重要原则。以人为本的伦理立场,要求人工智能在研发和应用中要始终坚持“人是目的”的观念,尊重人的尊严和权益。人工智能作为技术,不管发展到何种程度,都不应摆脱工具属性,其在本质上是人的实践活动的产物,即人造物。值得强调的是这种以人为本并不是强人类中心主义观点,只突出人的主导性和优越性地位,而是尊重人的人格和尊严,把人看作目的,强调人的责任和义务。

  在坚守以人为本的伦理立场下,为更好发展负责任的人工智能,我们还要进一步确立“智能向善原则”“尊严原则”和“责任原则”来回应人机伦理关系面临的三重道德困境。首先,智能向善是发展负责任人工智能的根本目标。人工智能给人类带来巨大福祉的同时,也带来了前所未有的挑战和风险。我们需要的并不是技术的中立,而是要朝向善的目的,在技术和人工智能的发展中注入人文和伦理维度,推动人工智能朝着科技向善的方向发展。这种智能向善的目的,不能仅仅停留在能力增强和主体需求的满足上,而是要以增进全人类的福祉为目标。其次,尊严原则是发展负责任人工智能的必然要求。尊严是伦理学的重要概念,也是以人为本的核心内容。人工智能的研发和应用是为了更好地实现“人是目的”,体现人的尊严和价值,而不是使人最后沦落为工具。由此,尊严原则作为以人为本的必然要求和伦理底线,要求人工智能的发展不能伤害和侵犯人的尊严和权益,要尊重人的自主性,保护人的隐私,避免算法歧视和智能伤害。最后,责任原则是发展负责任人工智能的重要保障。责任原则是当代应用伦理学讨论中最为关键的原则之一,也是人工智能研发和应用中应该坚持的最基本的伦理原则。以人为本的伦理立场所强调的“以人为中心”,不仅仅体现在为人类服务和增进人类福祉,更体现在人能够而且应该负责任上,这恰恰是以人为本的人文精神所在。在人工智能的研发和应用中,要始终坚持责任原则,将负责任贯穿到人工智能发展的各个环节中,建立健全必要的问责机制,做到责任的可追溯,保障人类的基本权益。

  构建负责任的人工智能治理体系

  在人机共存的生活世界中,新的伦理问题和道德困境逐渐凸显出来,如何构建负责任的人工智能治理体系成为人工智能发展和科技伦理治理的关键问题。我们要坚持以人为本的伦理立场,共建负责任的全球人工智能治理体系,形成协同共治的责任机制,培育人类的人工智能素养和责任意识,共同推进人类文明的进步。

  构建负责任的人工智能治理体系,需要共建全球人工智能治理体系。人工智能全球治理是世界各国面临的共同课题,关乎全人类的命运,在这个新科技时代的人类命运共同体中,各国应以负责任的态度参与人工智能的全球合作和治理,缩小国家间的智能鸿沟,共同完善全球治理机制。构建起负责任的全球人工智能治理体系,最为重要的是立足人类命运共同体理念,以增进全人类共同福祉为目标,以保障人类安全和权益为前提,确保人工智能朝着人类文明进步的方向发展。我国作为负责任的人工智能大国,始终积极拥抱智能变革,大力推进人工智能创新发展,在面对人工智能给人类带来机遇和挑战的情况下,坚持做全球人工智能治理领域的积极推动者、参与者和贡献者。中国高度重视人工智能安全治理,实施了一系列务实举措,如发布《全球人工智能治理倡议》,强调坚持“以人为本”“智能向善”,为世界提供了基于人类命运共同体理念的人工智能治理中国方案。

  构建负责任的人工智能治理体系,需要建构协同共治的责任机制。负责任的责任者不仅是指单个的责任主体,而且是一个由多元责任主体共同构成的责任者,离不开政府、企业、行业、用户等多元主体的共同参与和协同共治。责任机制的构建,不能简单地将责任归结在人工智能研发者和使用者身上,而是需要所有的责任主体参与其中,需要明晰责任的主体、层次、分布和边界,探寻共同的责任机制,以解决责任鸿沟和伦理真空问题。虽然人工智能目前以比较低的自主性参与到人类行动中,并且不具有人类的道德主体地位,但它们与我们一同构成了人机交互行动。因此,我们仍要将其纳入更广泛的伦理框架和责任机制中。这里的责任者是一种由多元责任主体和人工智能共同构成的人机联合责任体,需要不断健全和完善协同共治的责任机制。

  构建负责任的人工智能治理体系,需要培育人类的AI素养和责任意识。虽然构建全球人工智能治理体系和责任机制对于人工智能的治理非常重要,但我们不能仅仅依赖制度和机制,这对构建负责任的人工智能治理体系是远远不够的。我们还要重视培育和提升责任者的德性素养和责任意识,我们要将责任者的伦理身份落实到每一个人身上。作为共同生活在人类命运共同体中的成员,每个人都要有“人人都是责任者”的共识。在人工智能时代,人类不仅需要提升AI科技素养,还要培育AI德性素养和责任意识,这种培育不能仅停留在科技伦理知识的学习上,还要重视心的培育,这才是人工智能无法真正代替人类的东西。

  人工智能时代是一种人机共存的生活场域,人工智能已经深入介入我们的生活世界。在人机共在的生活世界中,我们要坚持以人为本的伦理立场,坚守“智能向善原则”“尊严原则”和“责任原则”,共同构建负责任的人工智能治理体系。尽管未来充满风险和不确定性,但永远不要忘记人类才是真正的责任者,始终肩负着发展负责任人工智能的重任与使命。

  《光明日报》(2025年01月06日 15版)

[ 责编:张悦鑫 ]
阅读剩余全文()

相关阅读

您此时的心情

光明云投
新闻表情排行 日/周
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 习近平会见加拿大总理卡尼

独家策划

推荐阅读
要让一台机器人真正能干活,到底靠什么?答案是,看得见、想得出、做得到。
2026-11-17 09:33
芯片越强、集群越大、部署越密,出故障的概率和代价也在同步飙升。
2026-11-17 09:29
胜利油田济阳页岩油民丰8号台新型井工厂首批12口井平均钻井周期13.83天,其中丰页1-8-B13HF井钻井周期11.68天,刷新国内超6000米井深陆相页岩油最短钻井周期纪录。
2026-11-17 05:15
红线划得清楚,但现实难题也依然存在:当作业能让AI助写,心事能向AI倾诉,孩子还会不会自己动脑、还愿不愿意跟真人打交道?如何帮助孩子减少依赖,合理使用AI?AI时代的青少年身心健康该如何守护?记者多方采访求解。
2026-11-17 05:15
随着人工智能深度赋能千行百业,不少高校毕业生主动“拥抱”AI,将专业所学同AI应用融合,探索解决行业重点难点问题。他们的经历带来哪些启示?多方主体怎样弥合产教断层,打造适应新岗位新场景的就业竞争力?
2026-11-17 05:15
16日,海南热带雨林国家公园管理局发布海南热带雨林国家公园的10种标志性物种,分别是海南长臂猿、海南坡鹿、海南孔雀雉、海南四眼斑水龟、鹦哥岭树蛙、丽拟丝蟌、坡垒、美花兰、陆均松、紫芝。
2026-11-17 05:15
今年“双11”,不少人的订单里多了一种看不见、摸不着的新东西:Token。81岁的图灵奖得主马丁·赫尔曼打了个有趣的比方:人类就像一个刚拿到驾照的人,不知怎么弄到了一辆500匹马力跑车。
2026-11-16 09:29
初冬时节,位于黄河岸边的河南开封前方园艺公司菊花销售依然火热,员工们忙着将一盆盆娇艳的观赏菊装上货车、送往开封市区各景点,将一包包新鲜的食用菊发往全国各地。
2026-11-16 04:50
14日,以“智能经济赋能·绿色引领未来——‘十五五’长江经济带高质量发展的新方位与新征程”为主题的第十一届长江经济带发展论坛在江苏南通举行。会上,南通大学江苏长江经济带研究院最新研究成果发布。
2026-11-16 04:50
11月18日至19日,亚太经合组织(APEC)第三十三次领导人非正式会议将在深圳举行。围绕“建设亚太共同体,促进共同繁荣”主题,聚焦“开放、创新、合作”三大优先领域,中国全年举办300多场APEC活动。
2026-11-16 04:50
14日,我国自主研制的10吨级电动商用飞机CE-25A在山东滨州完成首次有人驾驶智能飞行。飞机搭载2名飞行员、1名试飞工程师,飞行试验57分46秒,其中空中飞行16分38秒、60.4公里,飞机状态正常,各项指标符合预期。
2026-11-16 04:50
技能是劳动者的重要生产禀赋,是其嵌入生产过程、与生产工具协同的关键点。机械化、电气化和自动化催生了产业革命,建立起机器大生产与标准化流水线。在此情境下,对标准化设备的熟练操作成为劳动者的核心技能,“动手能力”成为技能人才的鲜明标签。
2026-11-13 09:55
由自然资源部、国家发展改革委联合印发的《关于“人工智能+自然资源”的实施意见》日前对外发布。《意见》旨在推动人工智能在自然资源领域规模化、产业化创新应用,服务国土空间规划“一张图”智能化升级。
2026-11-13 01:50
天津农业合成生物与生物智造科创园占地41.4亩,布局创新创业、中试、检验检测等七大功能板块,承担的是“从1到10”的成果转化职能。用谯仕彦自己的话说:“实验室实现‘从0到1’,工厂完成规模化制造,二者中间横亘着中试熟化、工程放大、市场验证等重重关口。这座科创园,就是一座跨越转化难关的桥梁。”
2026-11-13 01:50
知识的创新、传播与应用彼此关联,却承担不同的认知任务。把已有道理向更多人讲清楚,可以扩大知识的社会影响;提出此前尚未形成的科学解释,则可能改变人们对世界的认识。评判人工智能在知识生产中的作用,应区分知识传递的效率与知识创新的增量,并考察其在不同知识活动中承担的任务。
2026-11-13 02:20
该井位于渤海中部海域,紧邻渤海最大的富烃凹陷—渤中凹陷,在火山岩地层中累计钻遇超120米天然气层,完钻井深5770米。经测试,该井日产天然气约80万立方米(约2800万立方英尺),展现了海上超深层火山岩领域广阔的勘探前景,有力推动了渤中凹陷天然气勘探进程。
2026-11-13 02:20
绿色算力既是数字基础设施建设的重要方向,也是清洁能源优势转化为发展动能的现实路径。当前,人工智能技术加快迭代,算力在科技创新和产业升级中的基础作用日益凸显,持续增长的计算需求对电力保障能力和能源利用效率提出了更高要求。
2026-11-12 01:30
把两根绳子接起来量一量,总长就出来了,不必先把两段长度换算成数字再相加。模拟计算走的是这条路:不把问题拆成一条条指令,而是让物理规律直接给出结果。北京大学人工智能研究院孙仲团队牵头,联合意大利米兰理工大学、IBM苏黎世研究院和美国一家公司的研究人员,为正在升温的模拟计算研究提出“现代模拟计算”统一框架。相关论文于近日发表。
2026-11-12 01:30
眼下,重庆市彭水苗族土家族自治县的红薯正值采挖时节,一辆辆轻型卡车在通往种植基地的“产业路”上穿梭,将收获的鲜薯运送到县工业园的重庆乐薯农业有限公司,经过严格的品质检测、清洁和一系列加工程序后,便成了人们常见的红薯淀粉。
2026-11-12 02:05
11月10日,记者从山东省泰安市人民政府新闻办举行的发布会获悉,泰安将科学有序、免费开放部分泰山景区等场地,为国内外机器人企业、科研机构提供实景训练测试条件,同时统筹做好场景供需对接、数据算力支撑、落地服务保障等,推动泰安新型工业化强市建设。
2026-11-12 02:05
加载更多