点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:AI心,海底针,怎么破?
首页> 科技频道> 综合新闻 > 正文

AI心,海底针,怎么破?

来源:《中国科学报》2021-10-14 13:55

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  图片来源:unsplash

    “当下机器学习的主流呈现出‘黑箱’的特点,普通用户很难观察到数据训练的中间过程,这样的特征导致人工智能(AI)对我们而言处在不可知的状态。”在未来论坛日前发起的AI伦理与治理系列论坛上,清华大学人工智能国际治理研究院副院长梁正说。

    这个“黑箱”的存在,让AI的“心”如海底针般难以捉摸,不仅给人与机器的交流带来了很大困难,也给AI的广泛应用埋下了隐患。

    人与AI缺乏共同语言

    “人与人之间要想协同,就得有共同语言,人和机器也是同理。”清华大学计算机系长聘副教授崔鹏说,“如果机器的输出人不懂,人的输出机器不懂,导致的结果就是人和机只能取其一,要么就全信机器,要么就全不信。”

    这种“1+1=1”的局面非常尴尬。因为在很多风险敏感型的领域,如医疗、军事、金融、工业等,人不可能完全信赖一个机器的决策。这样AI走向各行各业的步伐就会受到严重阻碍。

    “AI的‘黑箱’问题,不可避免会带来难以控制、歧视偏见和安全风险,甚至会打击我们对算法本身的信任。”梁正说,“因此,算法的可解释性对AI的应用至关重要。”

    当用户遇到AI时,一定期待它是可靠的:不会出错,没有风险,不会损害自己的利益或安全。而这种信任,只能来自于对AI算法内在机理的理解和认同。

    因此,“能解释的AI才是可信任的AI”。梁正如是说。

    出错了,却不知道为什么

    放眼国内外,AI在应用中闹过不少笑话。

    在美国司法系统中,对犯人进行减刑或释放的重要参考指标之一,就是预测此人释放以后的二次犯罪率。在AI系统里,在各方面相差不大的两个犯罪嫌疑人,只因肤色不同,最后的判定是黑皮肤犯罪嫌疑人的二次犯罪率比白皮肤的高10倍以上。

    为什么会出现这种情况呢?有专家认为,在一些国家,肤色跟收入水平表现出强关联,而低收入则会导致高犯罪率。这些因素导致AI基于历史数据进行预测时,会得出“歧视”的结果。

    在这个案例中,人们出于常识,还有可能分析出问题的根源所在。但更多时候,AI出错的原因很难追溯。

    “现在的AI系统,因为其本质上是‘黑箱模式’,即使知道最后输出的结果是错的,却没有办法回溯究竟是哪个环节出了问题。”崔鹏说,“由于这种‘不可回溯性’,导致了即使模型出错,也不知道板子要打到谁身上。”

    如何看懂黑箱里的机器心

    难以解释,不可回溯——面对AI发展过程中的这些局限性,究竟该从何处入手破局呢?

    据梁正介绍,目前世界各国在算法治理方面有着不同的探索,也有一定的共性和经验。欧盟的算法治理是自上而下的,强调“透明性”和“问责性”。也就是说,一方面确保决策结果可以被人类(包括监管部门、社会公众)理解、追踪;另一方面建立问责机制、审计机制以及风险损失的补救措施。美国则采用了另一条路径,采取自下而上的分散化、市场化的治理路径。

    梁正指出,当前我国对算法治理路径的探索已经初具体系。未来算法治理有比较明确的两大方向:第一是可问责性,第二就是可解释性。

    崔鹏则提出,科学家应当致力于通过把“因果”引入机器学习,推动AI治理实现从“知其然”到“知其所以然”的跨越。

    “‘然’就是数据里的关联,‘所以然’是数据里的因果。”他说,“因果启发的机器学习可能成为新一代AI的突破口。”

    在技术层面之外,清华大学社会科学学院教授李正风则分析了AI可靠性和可解释性背后的社会土壤。

    他指出,AI的算法设计受到设计者自身伦理修养、社会责任意识等方面的影响。因此,可理解、可信赖的AI,有赖于设计者自身的信念和操守:增进人类福祉、尊重生命权利、保护个人隐私及其他权利等。与此同时,还需要建立数字时代、人工智能时代的社会信任机制,通过社会理性或集体理性来促进AI技术健康发展。

    “算法的‘黑箱’特征和复杂性不能成为逃避治理的借口。”梁正说。看懂黑箱里的机器心——人类正在为之奋斗。

    记者 李晨阳

[ 责编:涂子怡 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 山东青岛举行海上巡游迎接中国航海日

  • 漫画视界|警惕虚假购物、服务类诈骗

独家策划

推荐阅读
防晒,究竟该如何掌握分寸,才能在抵御伤害与拥抱健康之间找到平衡点?
2025-07-11 09:58
生命只有一次,心脏健康不容忽视。唯有提高对心梗症状的警觉性,掌握正确的急救方法,才能为生命筑起一道坚实的“心”防线。
2025-07-11 09:58
晒后背是一种传统的养生方法,符合中医“冬病夏治”的理论,其核心在于借助盛夏充沛的自然阳气,通过阳光照射背部,来提升人体自身阳气。
2025-07-11 09:58
截至7月10日,我国“北气南下”能源大通道累计输气量突破1000亿立方米,安全平稳运行超2000天,标志着这条纵贯南北的能源大动脉在保障国家能源安全、推动绿色转型方面取得重大进展。
2025-07-11 04:55
从自然资源部新一轮找矿突破战略行动办公室了解到,今年上半年,全国新发现矿产地38处,同比增长31%;新发现矿产地中,大中型矿产地25处。
2025-07-11 04:10
时下,智能手机已成为人们获取信息、社交娱乐的重要工具。多学科专家指出,当我们刷手机出现注意力极度涣散、缺乏独立思考能力、情绪化反应严重、深度学习能力下降、空虚感增加等症状时,就表明我们的大脑正在被“腐蚀”。所谓的“脑腐”,即因长期暴露于碎片化信息而引发的认知衰退与脑功能损伤。
2025-07-11 04:10
由于肉眼很难发现水污染的情况,洪水之后饮水需要特别注意,避免直接饮用自来水、山泉水、河水、湖水等。肖丹提醒,如果不适症状较为严重,出现持续高热、剧烈呕吐、严重腹泻、脱水、意识障碍等,或皮肤干燥、眼窝凹陷、少尿等情况,应及时就医。
2025-07-10 09:34
国家自然科学基金委员会近日发布消息,自然科学基金委制定重大非共识项目试点实施方案,将在2025年启动资助试点。自然科学基金委作为我国资助基础研究的主渠道,制定了一系列创新举措。
2025-07-10 09:33
嫦娥六号月球样品的相关研究成果,引起了国际学术界的高度关注。这1935.3克宝贵的月壤,使得月球样品研究进入“嫦娥时代”,开启了人类认识月球的新纪元,也为中国月球研究走向世界前列奠定了基础。 一年来,中国科学家们已经利用嫦娥六号月球样品取得许多科学突破。
2025-07-10 09:32
2024年嫦娥六号任务首次从南极-艾特肯盆地内部采回月球样品,为揭示该区域物质成因提供了直接证据。综合元素和矿物组成分析,南极-艾特肯盆地镁环物质主要为斜长石(63%~67%)和低钙辉石(25%~27%)组成的亚铁苏长岩。
2025-07-10 09:32
7月9日,在北京航天城,神舟十九号航天员蔡旭哲(中)、宋令东(右)、王浩泽在记者见面会上敬礼致意。 在神舟十九号乘组中,航天员王浩泽也是一位90后,更成为首位进驻空间站的女航天飞行工程师。
2025-07-10 09:30
随着科技创新与产业创新深度融合,人工智能技术助力建材行业向更智能、更绿色、更高端方向变革。“通过数字化转型,建材企业可基本实现研发设计数字化、生产运营一体化、客户服务敏捷化,提升决策效率、协同能力和服务水平,快速提升生产力和核心竞争力。
2025-07-09 09:40
记者8日从湖南省自然资源厅获悉,通过创新地质找矿理论,经过长期勘探,湖南省郴州市临武县鸡脚山矿区已探获超大型蚀变花岗岩型锂矿床,共提交锂矿石量4.9亿吨,氧化锂资源量131万吨。
2025-07-09 09:39
根据国家卫生健康委8日晚间发布的通知,今后“颈深淋巴管/结—静脉吻合术”将不得应用于阿尔茨海默病治疗。“颈深淋巴管/结—静脉吻合术”是将颈部深层淋巴管或淋巴结与邻近的静脉进行吻合的手术,近年来部分医疗机构将其用于治疗阿尔茨海默病,引发争议。
2025-07-09 09:39
国家发展改革委、工业和信息化部、国家能源局日前发布《关于开展零碳园区建设的通知》。支持企业对标标杆水平和先进水平,实施节能降碳改造和用能设备更新,鼓励企业建设极致能效工厂、零碳工厂。
2025-07-09 09:37
近日,中国科学院近代物理研究所科研人员依托兰州重离子加速器冷却储存环,精确测量了极缺中子原子核硅-22的质量,实验发现硅-22的质子数14是一个新幻数。
2025-07-09 09:35
国家自然科学基金委员会7日发布消息,自然科学基金委近日制定重大非共识项目试点实施方案,将在2025年启动资助试点。
2025-07-08 09:20
近日,由农业农村部南京农业机械化研究所联合有关单位研制的全自动水稻覆膜插秧技术装备在江苏省靖江市投入使用,开启了我国水稻覆膜插秧新模式。
2025-07-08 09:11
日前,全球领先的720V高压固态钠盐电池,在位于内蒙古自治区鄂尔多斯市达拉特旗的建亨奥能科技有限公司正式量产,标志着中国成为全球第三个实现固态钠盐电池商用量产的国家。
2025-07-08 09:10
从国家自然科学基金委员会获悉,该委日前制定了重大非共识项目试点实施方案,将在2025年启动资助试点。
2025-07-08 05:05
加载更多