编者按

　　 人工智能正深刻改变世界。但它如一把“双刃剑”，既带来巨大机遇，也引发诸多挑战——在医疗、教育、交通等领域，人工智能提升了效率，改善了生活质量；然而，它也可能冲击就业、侵犯隐私、引发算法偏见等。如何握好这把“双刃剑”，让人工智能真正成为推动人类进步的力量。

　　 当下的选择决定未来的走向。本期我们邀请两位专家，共同探讨如何避免风险，引导技术向善。

　　 人工智能在提高生产效率、降低成本、优化资源配置和提高生活质量等方面，发挥着越来越重要的作用。但无疑，人工智能发展中技术红利与伦理风险并存。为此，亟须给拥有无限潜力的人工智能系上伦理“缰绳”，为其提供动态调适的伦理“导航仪”，让人工智能的发展始终行进在人类伦理文明指引的正确航道之上。

　　人工智能提供巨大便利，也引发伦理风险

　　 越来越多的人体验到了人工智能对经济社会和个人生活带来的积极影响。

　　 而在享受它提供的巨大便利的同时，我们不得不正视人工智能引发的多方面伦理风险：

　　 购物App通过心率数据推测消费者的健康隐私，电商平台通过用户浏览记录、语音交互等方式精准预判用户购买行为。个人在应用软件上的零散数据经人工智能重组可生成“数字克隆人”，人工智能系统可通过海量数据拼接出比你更了解你自己的人生档案。

　　 人工智能颠覆了传统的“行为—责任”，即“谁犯错谁担责”的责任伦理观念。例如，在不同级别的自动驾驶故障中，难以确切判断是哪个具体技术环节出现故障或过错，确定承担责任的主体存在困难。

　　 人工智能的算法偏见损害公平正义。例如，由于外卖平台算法的运行逻辑、决策依据及影响机制的不透明，使得依托互联网平台就业的网约配送员、网约车驾驶员等新就业形态劳动者，一定程度上陷入“数据迷宫”“隐形牢笼”，他们的权益保障可能面临系统性风险。根据“用户画像”量身定制的差异化、动态化定价机制，形成了所谓的“大数据杀熟”现象，这是算法决策的“隐性偏见”。

　　 此外，在生命科学领域，人工智能驱动的基因编辑技术，正在突破自然进化伦理法则。在人类情感方面，生成式人工智能创造的“虚拟伴侣”将重塑人际伦理关系，一些年轻人更愿意与人工智能对话，而疏离了身边真实的亲朋好友。这种情感替代不仅改变着人类的情感模式，也消解了社会伦理联系的生物学基础。

　　用科技伦理预防技术失控风险

　　 人工智能发展的终极目标是增强人类能力、促进社会公平、提升生活质量，而不是单纯追求技术突破或商业利益。科技伦理是人工智能发展的“导航仪”，能够为其研发、应用和治理提供明确的方向性指引和价值约束，确保人工智能技术发展始终服务于人类社会的福祉，防止人工智能失控或偏离道德轨道，实现人工智能技术与人类福祉的协同共进。

　　 科技伦理提出“以人为本”的价值观，要求人工智能技术必须尊重人类的尊严、保障人类的自由和权利，避免技术异化为压迫工具。如果出现人工智能算法因数据偏见而损害相关群体权利的情形，必须根据科技伦理原则修正算法设计，确保对所有人的公平正义。

　　 同时，科技伦理的作用还在于——预防技术失控风险。人工智能技术具有自主性、不可解释性和广泛影响力等特征，如果缺乏伦理约束，就可能引发隐私侵犯、算法歧视等。以科技伦理对人工智能发展进行治理的作用在于，通过制定“预防性伦理原则”，在设计阶段预判风险，例如对自动驾驶制定伦理决策指引、限制深度伪造技术的使用等。

　　 奠定社会信任基础。公众对人工智能的接受度直接影响技术落地。如果人工智能系统缺乏透明性和可解释性，或存在数据滥用等问题，必然导致公众对人工智能的信任危机。科技伦理强调透明性、可问责性等原则，要求人工智能系统公开决策逻辑，明确开发者的伦理和法律责任边界，以此赢得公众的信任。

　　 平衡多方利益与权力。人工智能技术可能加剧数据资源的垄断。科技伦理通过倡导公平、包容和民主参与等价值理念，防止技术成为少数群体或组织的利益工具。在使用人脸识别等技术时，需要平衡公共安全与个人隐私的关系，尽可能保护公众的隐私权。

　　 应对未来的不确定性。强人工智能（AGI）、脑机接口等前沿技术有可能彻底改变人类社会的存在方式和人的生活方式。科技伦理通过前瞻性讨论，诸如“人工智能是否应具备道德主体地位”等难题，为未来立法和政策制定提供有效依据。如果人工智能发展到具备自主意识的程度，就需要提前研究人类如何界定人工智能的权利与责任等问题，提出解决问题的科技伦理治理建议，划定人工智能技术发展的禁区。

　　建设“人机共生”新文明形态

　　 1942年，科幻作家艾萨克·阿西莫夫提出了机器人三定律：一是机器人不得伤害人类，也不得因不作为而使人类受到伤害；二是机器人必须服从人类给予它的命令，除非这些命令与第一法则相冲突；三是机器人必须保护自己的存在，除非这种保护与以上两条相矛盾。这为人工智能伦理提供了基础性框架，但其个体中心主义、静态规则设定，以及“人类伤害”“服从命令”等模糊表述不能适应当代人工智能的复杂性，不能解决人工智能系统可能通过算法歧视、数据滥用等方式损害群体利益，如就业公平、隐私权等宏观层面的伦理风险 ；无法有效约束动态演化的人工智能行为 ，不能提供明确的权责划分机制 。当前亟须通过多种路径校准人工智能发展的航道，构建适应人工智能迭代升级的伦理安全网 。

　　 首先是明确人工智能开发与运用的伦理底线。一是生命安全优先 。任何人工智能系统必须以保障人类生命为最高准则，尤其在自动驾驶、医疗决策等高风险场景中，通过预设算法优先级，避免直接或间接伤害人类。二是 责任可追溯性 。人工智能开发者和运营方需对系统行为承担法律责任，包括算法设计缺陷、数据滥用或决策失控等场景，建立从研发到应用的全链条责任追溯伦理机制，明确技术提供方与使用方的义务边界 。三是 数据隐私与公平性 。人工智能系统必须遵循数据最小化原则，实施严格的数据保护，采用先进的加密技术和匿名化处理，禁止采集与使用未经授权的个人信息。

　　 其次是推动人工智能系统的预防性伦理设计。在技术层面，新一代“道德嵌入式人工智能”已进入试验阶段。这类人工智能系统内置“伦理冲突解决协议”，当医疗人工智能发现治疗方案存在资源分配不公时，系统将自动触发伦理预警。这种预防性的伦理设计，将“伦理优先”和“智能向善”的道德要求嵌入到技术架构之中。

　　 再次要制定相关的伦理准则或法规。这方面的工作已取得明显成效。欧盟通过的《通用数据保护条例》《人工智能伦理准则》《人工智能法》等伦理准则或法规，用于指导企业和政府部门未来在人工智能领域的开发和应用，并将高风险人工智能应用，如社会信用评分等直接纳入禁令。我国出台的《新一代人工智能伦理规范》，将伦理道德融入人工智能全生命周期，为从事人工智能相关活动的自然人、法人和其他相关机构等提供伦理指引。当然，为应对人工智能技术运用中的问题，构建全球协同的人工智能伦理治理体系势在必行。近年来，我国已发布《全球人工智能治理倡议》等，与各国一起共同推进全球人工智能伦理治理。

　　 必须说明，为人工智能安装伦理“导航仪”，不是阻碍人工智能技术创新和进步的绊脚石，它既应保持对人工智能技术创新的包容，又应守住人类的价值底线。当人类做到在数字技术洪流中坚守伦理价值，当人工智能能够从人类伦理视角理解并坚持“有所为有所不为”时，才能确保人工智能技术革命真正服务于人类。当更聪明的人工智能带着人性的温度与人类友好相处时，那便是“人机共生”新文明形态的到来。

　　 （作者：陈伟宏，系上海对外经贸大学马克思主义研究院首席专家、马克思主义学院教授，上海高校智库国际经贸治理研究中心研究员）