点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

首页> 科技频道> 综合新闻 > 正文

AI心,海底针,怎么破?

来源:《中国科学报》2021-10-14 13:55

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  图片来源:unsplash

    “当下机器学习的主流呈现出‘黑箱’的特点,普通用户很难观察到数据训练的中间过程,这样的特征导致人工智能(AI)对我们而言处在不可知的状态。”在未来论坛日前发起的AI伦理与治理系列论坛上,清华大学人工智能国际治理研究院副院长梁正说。

    这个“黑箱”的存在,让AI的“心”如海底针般难以捉摸,不仅给人与机器的交流带来了很大困难,也给AI的广泛应用埋下了隐患。

    人与AI缺乏共同语言

    “人与人之间要想协同,就得有共同语言,人和机器也是同理。”清华大学计算机系长聘副教授崔鹏说,“如果机器的输出人不懂,人的输出机器不懂,导致的结果就是人和机只能取其一,要么就全信机器,要么就全不信。”

    这种“1+1=1”的局面非常尴尬。因为在很多风险敏感型的领域,如医疗、军事、金融、工业等,人不可能完全信赖一个机器的决策。这样AI走向各行各业的步伐就会受到严重阻碍。

    “AI的‘黑箱’问题,不可避免会带来难以控制、歧视偏见和安全风险,甚至会打击我们对算法本身的信任。”梁正说,“因此,算法的可解释性对AI的应用至关重要。”

    当用户遇到AI时,一定期待它是可靠的:不会出错,没有风险,不会损害自己的利益或安全。而这种信任,只能来自于对AI算法内在机理的理解和认同。

    因此,“能解释的AI才是可信任的AI”。梁正如是说。

    出错了,却不知道为什么

    放眼国内外,AI在应用中闹过不少笑话。

    在美国司法系统中,对犯人进行减刑或释放的重要参考指标之一,就是预测此人释放以后的二次犯罪率。在AI系统里,在各方面相差不大的两个犯罪嫌疑人,只因肤色不同,最后的判定是黑皮肤犯罪嫌疑人的二次犯罪率比白皮肤的高10倍以上。

    为什么会出现这种情况呢?有专家认为,在一些国家,肤色跟收入水平表现出强关联,而低收入则会导致高犯罪率。这些因素导致AI基于历史数据进行预测时,会得出“歧视”的结果。

    在这个案例中,人们出于常识,还有可能分析出问题的根源所在。但更多时候,AI出错的原因很难追溯。

    “现在的AI系统,因为其本质上是‘黑箱模式’,即使知道最后输出的结果是错的,却没有办法回溯究竟是哪个环节出了问题。”崔鹏说,“由于这种‘不可回溯性’,导致了即使模型出错,也不知道板子要打到谁身上。”

    如何看懂黑箱里的机器心

    难以解释,不可回溯——面对AI发展过程中的这些局限性,究竟该从何处入手破局呢?

    据梁正介绍,目前世界各国在算法治理方面有着不同的探索,也有一定的共性和经验。欧盟的算法治理是自上而下的,强调“透明性”和“问责性”。也就是说,一方面确保决策结果可以被人类(包括监管部门、社会公众)理解、追踪;另一方面建立问责机制、审计机制以及风险损失的补救措施。美国则采用了另一条路径,采取自下而上的分散化、市场化的治理路径。

    梁正指出,当前我国对算法治理路径的探索已经初具体系。未来算法治理有比较明确的两大方向:第一是可问责性,第二就是可解释性。

    崔鹏则提出,科学家应当致力于通过把“因果”引入机器学习,推动AI治理实现从“知其然”到“知其所以然”的跨越。

    “‘然’就是数据里的关联,‘所以然’是数据里的因果。”他说,“因果启发的机器学习可能成为新一代AI的突破口。”

    在技术层面之外,清华大学社会科学学院教授李正风则分析了AI可靠性和可解释性背后的社会土壤。

    他指出,AI的算法设计受到设计者自身伦理修养、社会责任意识等方面的影响。因此,可理解、可信赖的AI,有赖于设计者自身的信念和操守:增进人类福祉、尊重生命权利、保护个人隐私及其他权利等。与此同时,还需要建立数字时代、人工智能时代的社会信任机制,通过社会理性或集体理性来促进AI技术健康发展。

    “算法的‘黑箱’特征和复杂性不能成为逃避治理的借口。”梁正说。看懂黑箱里的机器心——人类正在为之奋斗。

    记者 李晨阳

[ 责编:涂子怡 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 博物馆里度假期

  • 网络中国节·重阳:天清白露洁 菊散黄金丛

独家策划

推荐阅读
为落实《关于新时代进一步加强科学技术普及工作的意见》精神,鼓励航天科技和科普工作者、社会各界人士、航天科技爱好者参与航天科普创作,积极投身实施创新驱动发展战略,弘扬科学精神,普及科学知识,提高全民科学文化素养,加快建设科技强国的伟大实践,中国宇航学会现举办“我的太空梦”首届航天科普短视频创作大赛。
2022-09-30 20:02
9月28日,以“新征程”为主题的第七届全国老科技工作者日暨北京第十八届老科技工作者日主场活动在京启动,全国老科技工作者线上线下欢聚一堂,共同庆祝属于自己的节日。
2022-09-30 13:51
流感是由流感病毒(甲型或乙型流感病毒)感染引起的急性呼吸道传染病,主要症状包括高烧、头痛、咽痛、肌肉酸痛等。避免空腹接种;向门诊医生索要疫苗接种知情同意书,并如实填写知情同意书;接种完毕,需在接种点留观30分钟。
2022-09-30 09:45
黑土地被誉为我国“耕地中的大熊猫”,东北黑土地则被誉为我国粮食安全的“压舱石”。但“黑土粮仓”也面临着很多问题,其中“变薄”“变瘦”“变硬”最为突出。“把黑土地用好养好”,事关国家粮食安全与生态安全。
2022-09-30 09:43
9月29日,全国妇联举行新闻发布会,介绍新时代妇联工作成果。据了解,党的十八大以来,我国妇女事业正迈入妇女受益受惠更多、发展环境更为优化、发展水平跨越提升的黄金发展期。
2022-09-30 09:41
“在科研中,党员要做科技攻关的领头雁,勇挑重担,勇攀科技高峰!”作为国际无机合成、纳米科学及固态化学领域的杰出科学家,中国科学院院士、吉林大学化学学院教授于吉红一直坚定不移地践行着科研人的初心和使命,深研科技前沿发展,为实现高水平科技自立自强贡献力量。
2022-09-30 09:40
修订后的环境保护法,通过“生态文明建设立法目的+环境保护国家战略+经济社会发展与环境保护相协调的新平衡观+保护优先基本原则+若干制度+违法责任”的全新立法思路,“牵头”宣示并贯彻了生态文明理念。
2022-09-30 09:39
2022年度邵逸夫奖颁奖典礼29日以网上直播形式举行。6位科学家分获天文学、生命科学与医学、数学科学3个奖项,每项奖金为120万美元。
2022-09-29 23:25
近日召开的中央全面深化改革委员会第二十七次会议指出,要增强全民节约意识,推行简约适度、绿色低碳的生活方式,反对奢侈浪费和过度消费,努力形成全民崇尚节约的浓厚氛围。
2022-09-29 09:37
30年来,中国航天进入创新发展“快车道”,空间基础设施建设稳步推进,北斗全球卫星导航系统建成使用,高分辨率对地观测系统基本建成,卫星通信广播服务能力稳步增强,探月工程“三步走”圆满收官,“天问一号”实现从地月系到行星际探测的跨越,中国空间站在轨建造即将完成……这一系列的成就足以称得上举世瞩目。
2022-09-29 09:36
中国农科院以解决我国农业发展重大科技问题为己任,聚焦世界农业科技前沿、应对国家重大需求、投身现代农业建设主战场、面向人民生命健康,取得了一系列重大原创性科技成就。
2022-09-29 09:33
党的十八大以来,医疗机构始终坚持以人民健康为中心,把能力建设作为深化医疗改革的重要内容,推进公立医院综合改革和高质量发展,加快优质医疗资源扩容和区域均衡布局,构建有序的就医和诊疗新格局,现代医院管理制度不断健全,医疗技术能力和医疗质量水平全面提升,群众就医体验得到显著改善。
2022-09-29 09:30
该研究由中科院古脊椎动物与古人类研究所朱敏院士团队完成,相关成果形成4篇学术文章,28日在国际学术期刊《自然》同期在线发表。“可以预见,‘重庆特异埋藏化石库’和‘贵州石阡化石库’未来还将继续为解开有颌类起源的重重谜团做出持续贡献。
2022-09-29 08:56
“元宇宙”爆火后,“数字人”也随之进入公众视野。上个月,网龙网络公司宣布由数字人高管“唐钰”出任轮值CEO,以此全面推行“AI+管理”战略,在业界引发不小的轰动。
2022-09-28 13:08
作为河南省首席科普专家,我还担任省科协防汛减灾科技志愿服务种植产业专家兼联络人,指导中牟、新乡、柘城等地开展灾后恢复生产。
2022-09-28 10:05
“一粥一饭,当思来之不易;半丝半缕,恒念物力维艰。”勤俭节约始终是中华民族的传统美德。
2022-09-28 10:04
将科技自立自强作为国家发展的战略支撑,对科技创新提出一系列新思想新论断新要求,为我国科技事业指明前进方向、提供根本遵循。
2022-09-28 10:02
推进移风易俗是对农民群众急难愁盼的切实回应。乡风民俗反映了人民物质精神生活,更是窥看地方发展、社情民情、时代风貌的窗口。
2022-09-28 09:59
其中,Angiopep-2多肽可以特异靶向低密度脂蛋白受体(LRP-1),而LRP-1在脑胶质瘤细胞和脑血管内皮细胞表面均具有高表达水平。团队研究发现,双重靶向功能化外泌体能够提高药物治疗原位脑胶质瘤效率,显著抑制脑胶质瘤的生长,可有效延长小鼠的生存期。
2022-09-28 10:08
市场监管总局日前发布《企业落实食品安全主体责任监督管理规定》(以下简称《规定》),要求食品生产经营企业建立健全食品安全管理制度,配备食品安全员。
2022-09-27 09:42
加载更多