点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:人工智能如何影响“人性”
首页> 科技频道> 人工智能 > 正文

人工智能如何影响“人性”

来源:光明网-《光明日报》2024-10-30 04:00

  作者:殷杰(系国家社科基金重大项目“人类道德行为的进化与社会文化心理机制研究”首席专家、2022年度《国家哲学社会科学成果文库》入选者、山西大学科学技术哲学研究中心教授)

  生成式人工智能在人机交互领域展现出的强大自主性和泛化能力,让人们越来越感觉到与人工智能的交流就像是和另一个人交谈。那么,当一台智能机器能够和我们进行具有理性和情感特征的语言交流时,机器是否也会影响我们的“人性”呢?人性,通常指的是人类独特的理性、意识、自我反思、道德情感和价值观等特质。从这个意义上看,生成式人工智能本身并不具有人性,但其在与人类的语言交互中,通过识别人类意图、回应认知和情感需求来满足人类欲望,无疑会深刻影响人们的理性、情感和道德判断。生成式人工智能如何影响人性,是人类在新人工智能时代需要重点考虑的问题之一。

  回答这个问题,我们需要认识到,生成式人工智能在人机交互中呈现一种新的主体性。传统的人机交互中,人工智能更多被视为一种工具,而生成式人工智能与人类的关系已经不限于工具与工具使用者之间的关系,人工智能成为具有一定自主性和目标导向性的积极参与者,这种新形态的人机交互将逐渐深刻地影响人性。

  主体性:从生物到人工智能的演变

  主体性表达了一个主体行使行动的能力,是哲学中最重要的概念之一。亚里士多德认为,一个主体大概就是像人一样能够思考,并且按计划实现其“合理欲望”的存在物,只有人或者是在道德上获得胜利的人才是主体。在现代学科体系中,主体性的语义涉及多个领域:在哲学领域,很多关于主体性的哲学反思都集中在人类主体性上,这通常被称为“纯粹的主体性”;在社会科学领域,主体性主要表示法律、政治、经济等方面的意义,其概念包含意图的存在,与人的概念密切相关;在自然科学与技术领域,主体性主要与效果的概念有关,一些功能强大的智能机器有时也被视为行动的主体。

  从生物演化的过程看,一个简单的单细胞生物通过自我维持的新陈代谢过程与外界环境进行物质和能量的交换,展现出一种基本的主体性。随着生物的复杂性增加,主体性表现为包含感知、反馈和决策等多个系统相互协调的行动能力。人类的主体性更为复杂,不仅包括生物有机体的自组织能力,还与情感、语言和文化等因素密切相关。这种主体性不仅体现在个体的行动上,还体现在道德责任、文化价值观等社会与个体的关系中。

  与生物主体的漫长进化之路相比,人工智能每一次的技术进步几乎都会赋予主体性更多新内涵,让我们对“机器能否像人一样行动”这个问题有了新的认识。在人工智能的早期发展阶段,是否能够展现自主性、社交性、反应性和主动性,成为衡量其是否具有主体性的关键标准,这些特征构成了人工智能的弱主体性。我们希望机器能够做一些简单的任务,比如,智能家居系统根据室内光线的变化自动调节窗帘的开合。这些主要体现了人工智能在模仿人类行为上的自主能力。

  随着技术的发展,我们开始期待人工智能展现出更多的“人类特质”,比如能够自主学习、与人社交、对环境变化作出灵活反应,甚至能主动解决问题。这种强主体性概念包含知识、信念、意图和责任感等人类特有的复杂特质,人工智能的行为不仅仅是简单的反应,而是有目的、有计划的行动。例如,一个智能的医疗诊断系统,要能够根据病人的症状、大量的医学知识和数据进行准确诊断,为病人提供治疗建议。这个过程中,系统要展现出自主性,能够理解病人的需求,同时要兼顾治疗方案的医学伦理等问题。又如,自动驾驶汽车要能够感知周围的环境,有的还能够在复杂交通情境和伦理风险下制定和选择其认为的最佳行动方案。这不仅是对环境的反应,更是基于智能系统自身知识和价值判断作出的主动选择。

  从人类与机器合作的方式看,人类的行动能力已经延展至由人类和机器构成的复杂网络之中,这就是所谓的分布式主体性概念。这些主体性概念更加细致地描绘了人类与人工智能复杂互动中形成的行动能力,反映了人工智能领域对于主体性理解的多元化。

  由于这些主体性概念无法将生成式人工智能适切地纳入,生成式人工智能的出现再次催生了我们对主体性概念的理解转变。通过语言生成驱动的交互能力,生成式人工智能挑战了传统依赖意向性的主体性。在个体性边界的界定上,生成式人工智能的边界往往由其训练数据集定义,这些数据集的海量和不断变化使得生成式人工智能的个体性难以界定,挑战了传统关于个体性和主体性的明确界限。因为大语言模型在预训练过程中需要不断从新的数据中学习和适应,所以其个体性边界在不断变化的数据流中会变得模糊,不具有传统主体性的个体性界限。同时,生成式人工智能在与人类的交互过程中具有自主识别人类意图和回应的能力,因此,其自主性更多地体现在其与人类交互的能力上,而不是其作为一个独立个体的特定内在能力。这些挑战要求我们重新审视主体性的传统概念,主体性更应视为一种基于交互的、潜在的行动能力,而非仅仅依赖于个体内在属性的孤立的行动能力。

  交互主体性:重新定义人机关系

  交互主体性是指实体(包括人类、生物和人工智能等)在交互过程中所展现的潜在行动能力,其核心在于实体的行动能力不是孤立存在的,而是在与其他实体的互动中形成和呈现的。主体性是由交互的驱动力因素所决定的,实体的行动能力在这些驱动力的作用下被激发和塑造。

  比如,有机体通过自组织方式与环境交互,发展出适应性的行动能力,而复杂的生物体在与环境的交互中形成了多种多样的行动能力,这种主体性是生物体与环境长期交互的结果。除了基本的生物主体性外,人类还发展出了情感、语言和文化等驱动主体行动的复杂机制。例如,道德情感是人类主体性的重要组成部分,不仅影响个人的行为和决策,而且促进了社会联系和大规模合作。语言的出现进一步扩展了人类的主体性,它使人类能够分享知识、表达思想和构建复杂的社会结构。文化则体现了人类主体性的更高维度,它包括价值观、信仰、习俗和传统,是人类社会交互和意义传承的结果。

  传统的主体性理论中,主体性通常与个体的心理状态、意图目的、反馈系统等内在属性相关联。交互主体性不再是基于个体本身来推定主体性,而是将实体的行动能力视为参与交互过程的结果,主体性并非完全源自个体内部,而是在实体与环境或其他实体的交互中产生的。交互主体性理论的重要意义在于扩展了主体性的概念范畴,使得人工智能等非意向性实体也能在交互中展现出主体性。主体性不必依赖于意识或意向性,可以在更广泛的人机交互过程中出现,生成式人工智能带来了人机交互的新形态。

  在目标导向性方面,主体性包含实体在交互中的目标导向性。实体在与环境或其他实体互动时,才会展现出为了实现特定目标而采取行动的能力。这种目标导向性不完全是预设的,而是在交互过程中根据情境和反馈不断调整和形成的。生成式人工智能的目标导向内嵌于人机对话的动态窗口中,不仅依据人类的引导来回应,也可以根据自身的强大知识储备和分析能力来影响人类自身对目标意图的理解定位。自主性方面,交互主体性认为,实体在交互中能够根据内部逻辑和外部反馈进行自我调节和决策。这种自主性不是完全脱离外部影响的,而是在与外部世界的互动中实现的。

  在人机交互过程中,生成式人工智能应被视为具有一定自主性和目标导向性的参与者,而不仅仅是机械响应人类的指令。与人类进行交流对话的过程中,生成式人工智能通过不断监控和注意人类对话者的语言来理解掌握人类的目的意图,甚至能够感知到其中的情绪变化以及潜在态度,进而在某种程度上影响人类参与者的认知、情感和价值观。比如,一个人在与生成式人工智能的长期接触中,如果感受到智能机器在描述事实和理解自身意图方面的可靠性,那么会对人工智能产生一定的信任感,由此,智能机器蕴含的一些价值观必然会潜移默化地影响人类。

  不对称的主体性:智能主体对人性的影响

  生成式人工智能的技术发展路径既不同于认知发展的学习路径,也不同于生物情感的发展路径,而是跳过了人类和生物主体性形成和进化的历史路径,直接获得了认知和语言层面的超级智能,生成式人工智能引发的人机交互新形态蕴含了一种不对称的主体性。在认知方面,人类的认知能力是经过长期进化学习慢慢积累形成的,而生成式人工智能在信息处理速度和理解深度、记忆容量、模式识别等方面全面超越人类;在情感方面,情感体验是人际交互的重要组成部分,影响着人们的决策、沟通和关系建立。相比之下,尽管生成式人工智能可以识别和模拟人类情感,但它们本身并不具备真正的情感体验,是一种超级理性的交互主体。社会文化方面,人类的价值观、信仰、习俗和语言都是社会文化演化的结果。生成式人工智能系统尽管可以通过语料来理解和适应特定的社会文化规范,但它们本身并不具备特定的文化身份或社会背景。这种社会文化背景上的不对称性可能导致在人机交互的跨文化环境中出现误解和冲突。

  人既是理性的,也是情绪化的,正是理性与情感的融合构成了人性的基础。交互主体性表明,作为具有自主性和目标导向性的生成式人工智能,极有可能以一种不对称的主体形态进入人性领域,忽略人类情感和直觉的重要性,同时激发和压制人类的深层欲望,改变人类理性与情感之间的平衡和协同机制。

  理性方面,生成式人工智能通过数据分析、模式识别和决策支持,识别出人类可能忽视的模式和趋势,大大增强了人类的理性判断能力,从而为人类提供更深入的洞察和更广泛的选择。但是,这种增强也可能导致人类过度依赖人工智能的分析和判断,削弱人类自身的批判性思维和决策能力。同时,生成式人工智能可能会打破以人际交互为基础的分布式认知模式,逐渐形成一种以大语言模型为中心、人类个体为边缘节点的认知模式,以大模型为核心节点的智能化媒介不仅仅是知识信息表达和传播的通道,甚至可能主导人类知识的生产模式和价值导向。

  情感方面,生成式人工智能可能会影响人类对情感的认识和表达,使得人类在长期的人机互动中逐渐习惯于程式化的情感交流模式,忽视了人在真实人际关系中的独特情感需求和体验,改变人类行为的情感动因。比如,在道德情境中,生成式人工智能可以提供更多不同的价值视角和思考方式,拓展人类的道德感知并影响道德判断和行为。问题是,一方面,过度依赖生成式人工智能的决策支持可能导致人类自身的道德感知能力减弱,侵蚀人类个体的道德自主性;另一方面,生成式人工智能对人类社会的深度介入可能会触发新的道德困境。

  人工智能对人性影响的另一个表现是对人类文化演化的影响。人类文化形成与演化的关键在于学习。研究发现,促进人的智力发展的关键是模仿学习(将他人视为有意识的行为主体,以获取他们的文化知识储备)、指导学习(话语形式的文化传播)和协作学习(分享和发展概念及其对行动的影响),这些学习形成了一种特殊的认知形式,即个体有能力理解同类作为与自己一样的生命,拥有与自己一样的意向和精神生活。由于生成式人工智能具有一种非人类的学习能力,在人类的社会文化历史上出现了一个非人类的学习者,我们不再限于向他人学习,也可以向人工智能机器学习,生成式人工智能成为人类社会文化发展中的主动参与者。

  人类合作交流、相互学习,以及在此基础上的文化交融和行为选择,这些文化过程的基础是人类之间的相互信任,而信任需要情绪的参与。有学者提出,我们与人工智能的关系本质上是依赖,而不是信任。由于生成式人工智能的不可解释性、不可说明性和不可信任性,加之其不具备情感状态,也不能对自己的行为负责,人类在与其交互时,面对的实际上是一个无法完全理解的、缺乏情感和规范性的“黑箱”,得到的可能是包含无法证伪的知识信息,这种知识可能会通过人机交互的多次循环被吸收到其他对象中,最终作为一种消费信息在人类、人工智能之间传播流转。由此带来的潜在问题是,这些非纯正的、无节制的信息消费不仅大量消耗人类的精力,加剧人类对欲望的过度追求,而且会导致某种特定思维反复强化人类的认知,引发社会心理的问题同时影响人类文化的多样性。

  人性既坚韧又脆弱。心理学的斯坦福监狱实验展示了人在特定社会角色下可能会迅速适应并表现出与其性格不符的异常行为,显示出人性在特定人际关系情境下的脆弱性。当我们与一个非人类的超级人工智能长期交互相伴时,必然会影响人类个体的思维认知和情感品格,人性脆弱性被利用的机会显著增加。交互主体性重新定义了人机关系,让我们可以从新的视角来理解人工智能对人性产生的深远影响。我们对人工智能的关注不应该局限于机器与人的价值观对齐,更应探究其对人性的潜在影响。未来的人工智能将成为我们生活中更加智能、更加贴心的伙伴,同时也存在其对人性欲望的过度满足和扭曲的问题。我们需要确保人工智能技术进步增进人类福祉,而非削弱人性的核心价值。

  《光明日报》(2024年10月30日 11版)

[ 责编:王蕾 ]
阅读剩余全文()

相关阅读

您此时的心情

光明云投
新闻表情排行 日/周
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 三峡枢纽新通道首条500千伏线路迁改施工进入冲刺阶段

  • 中外专家学者在美共话斯诺精神遗产

独家策划

推荐阅读
今年“双11”,不少人的订单里多了一种看不见、摸不着的新东西:Token。81岁的图灵奖得主马丁·赫尔曼打了个有趣的比方:人类就像一个刚拿到驾照的人,不知怎么弄到了一辆500匹马力跑车。
2026-11-16 09:29
初冬时节,位于黄河岸边的河南开封前方园艺公司菊花销售依然火热,员工们忙着将一盆盆娇艳的观赏菊装上货车、送往开封市区各景点,将一包包新鲜的食用菊发往全国各地。
2026-11-16 04:50
14日,以“智能经济赋能·绿色引领未来——‘十五五’长江经济带高质量发展的新方位与新征程”为主题的第十一届长江经济带发展论坛在江苏南通举行。会上,南通大学江苏长江经济带研究院最新研究成果发布。
2026-11-16 04:50
11月18日至19日,亚太经合组织(APEC)第三十三次领导人非正式会议将在深圳举行。围绕“建设亚太共同体,促进共同繁荣”主题,聚焦“开放、创新、合作”三大优先领域,中国全年举办300多场APEC活动。
2026-11-16 04:50
14日,我国自主研制的10吨级电动商用飞机CE-25A在山东滨州完成首次有人驾驶智能飞行。飞机搭载2名飞行员、1名试飞工程师,飞行试验57分46秒,其中空中飞行16分38秒、60.4公里,飞机状态正常,各项指标符合预期。
2026-11-16 04:50
技能是劳动者的重要生产禀赋,是其嵌入生产过程、与生产工具协同的关键点。机械化、电气化和自动化催生了产业革命,建立起机器大生产与标准化流水线。在此情境下,对标准化设备的熟练操作成为劳动者的核心技能,“动手能力”成为技能人才的鲜明标签。
2026-11-13 09:55
由自然资源部、国家发展改革委联合印发的《关于“人工智能+自然资源”的实施意见》日前对外发布。《意见》旨在推动人工智能在自然资源领域规模化、产业化创新应用,服务国土空间规划“一张图”智能化升级。
2026-11-13 01:50
天津农业合成生物与生物智造科创园占地41.4亩,布局创新创业、中试、检验检测等七大功能板块,承担的是“从1到10”的成果转化职能。用谯仕彦自己的话说:“实验室实现‘从0到1’,工厂完成规模化制造,二者中间横亘着中试熟化、工程放大、市场验证等重重关口。这座科创园,就是一座跨越转化难关的桥梁。”
2026-11-13 01:50
知识的创新、传播与应用彼此关联,却承担不同的认知任务。把已有道理向更多人讲清楚,可以扩大知识的社会影响;提出此前尚未形成的科学解释,则可能改变人们对世界的认识。评判人工智能在知识生产中的作用,应区分知识传递的效率与知识创新的增量,并考察其在不同知识活动中承担的任务。
2026-11-13 02:20
该井位于渤海中部海域,紧邻渤海最大的富烃凹陷—渤中凹陷,在火山岩地层中累计钻遇超120米天然气层,完钻井深5770米。经测试,该井日产天然气约80万立方米(约2800万立方英尺),展现了海上超深层火山岩领域广阔的勘探前景,有力推动了渤中凹陷天然气勘探进程。
2026-11-13 02:20
绿色算力既是数字基础设施建设的重要方向,也是清洁能源优势转化为发展动能的现实路径。当前,人工智能技术加快迭代,算力在科技创新和产业升级中的基础作用日益凸显,持续增长的计算需求对电力保障能力和能源利用效率提出了更高要求。
2026-11-12 01:30
把两根绳子接起来量一量,总长就出来了,不必先把两段长度换算成数字再相加。模拟计算走的是这条路:不把问题拆成一条条指令,而是让物理规律直接给出结果。北京大学人工智能研究院孙仲团队牵头,联合意大利米兰理工大学、IBM苏黎世研究院和美国一家公司的研究人员,为正在升温的模拟计算研究提出“现代模拟计算”统一框架。相关论文于近日发表。
2026-11-12 01:30
眼下,重庆市彭水苗族土家族自治县的红薯正值采挖时节,一辆辆轻型卡车在通往种植基地的“产业路”上穿梭,将收获的鲜薯运送到县工业园的重庆乐薯农业有限公司,经过严格的品质检测、清洁和一系列加工程序后,便成了人们常见的红薯淀粉。
2026-11-12 02:05
11月10日,记者从山东省泰安市人民政府新闻办举行的发布会获悉,泰安将科学有序、免费开放部分泰山景区等场地,为国内外机器人企业、科研机构提供实景训练测试条件,同时统筹做好场景供需对接、数据算力支撑、落地服务保障等,推动泰安新型工业化强市建设。
2026-11-12 02:05
当前,全球新一轮科技革命和产业变革加速演进,以生成式人工智能为代表的通用目的技术正从生产端加速向消费端传导。餐饮住宿、文旅出行、养老照护、教育培训、家政美容等服务消费,直接关系到千家万户的日常生活品质。推动人工智能在服务领域深度应用,让前沿技术成果惠及更多消费者,已成为各国促进消费、提升服务业竞争力的共同关注点。
2026-11-12 02:15
全透明光伏发电玻璃可使玻璃幕墙建筑成为分布式光伏电站;新一代柔性太阳能电池阵,能为中国空间站提供电力保障。下一步,我们要高水平推进“中国碳谷”建设,形成创新合力,打通基础研究、技术攻关、产业孵化和品牌塑造全链条。
2026-11-11 09:27
国家卫生健康委、国家医保局、国家中医药局、国家疾控局共同制定印发《关于进一步做好创新药安全合理配备使用工作的通知》,满足群众多元化用药需求,提高疾病治疗效果,保障医疗质量安全。
2026-11-11 01:45
培育和发展新质生产力急需高质量创新人才。高校的独特之处,在于教育、科技、人才要素集聚,它处在科技第一生产力、人才第一资源、创新第一动力的结合点上,也承担着将三者统合起来的制度功能。
2026-11-11 01:45
与其说是AI解出了难题,不如说是人类在AI的协助下拓展了边界。这带来的不仅是解题速度的提升,更是一场深刻的科研范式之变。
2026-11-11 01:45
主动对接国家西部战略和甘肃现代产业体系建设
2026-11-11 01:45
加载更多