AI心,海底针,怎么破? _光明网

点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

首页> 科技频道> 综合新闻 > 正文

AI心,海底针,怎么破?

来源:《中国科学报》2021-10-14 13:55

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  图片来源:unsplash

    “当下机器学习的主流呈现出‘黑箱’的特点,普通用户很难观察到数据训练的中间过程,这样的特征导致人工智能(AI)对我们而言处在不可知的状态。”在未来论坛日前发起的AI伦理与治理系列论坛上,清华大学人工智能国际治理研究院副院长梁正说。

    这个“黑箱”的存在,让AI的“心”如海底针般难以捉摸,不仅给人与机器的交流带来了很大困难,也给AI的广泛应用埋下了隐患。

    人与AI缺乏共同语言

    “人与人之间要想协同,就得有共同语言,人和机器也是同理。”清华大学计算机系长聘副教授崔鹏说,“如果机器的输出人不懂,人的输出机器不懂,导致的结果就是人和机只能取其一,要么就全信机器,要么就全不信。”

    这种“1+1=1”的局面非常尴尬。因为在很多风险敏感型的领域,如医疗、军事、金融、工业等,人不可能完全信赖一个机器的决策。这样AI走向各行各业的步伐就会受到严重阻碍。

    “AI的‘黑箱’问题,不可避免会带来难以控制、歧视偏见和安全风险,甚至会打击我们对算法本身的信任。”梁正说,“因此,算法的可解释性对AI的应用至关重要。”

    当用户遇到AI时,一定期待它是可靠的:不会出错,没有风险,不会损害自己的利益或安全。而这种信任,只能来自于对AI算法内在机理的理解和认同。

    因此,“能解释的AI才是可信任的AI”。梁正如是说。

    出错了,却不知道为什么

    放眼国内外,AI在应用中闹过不少笑话。

    在美国司法系统中,对犯人进行减刑或释放的重要参考指标之一,就是预测此人释放以后的二次犯罪率。在AI系统里,在各方面相差不大的两个犯罪嫌疑人,只因肤色不同,最后的判定是黑皮肤犯罪嫌疑人的二次犯罪率比白皮肤的高10倍以上。

    为什么会出现这种情况呢?有专家认为,在一些国家,肤色跟收入水平表现出强关联,而低收入则会导致高犯罪率。这些因素导致AI基于历史数据进行预测时,会得出“歧视”的结果。

    在这个案例中,人们出于常识,还有可能分析出问题的根源所在。但更多时候,AI出错的原因很难追溯。

    “现在的AI系统,因为其本质上是‘黑箱模式’,即使知道最后输出的结果是错的,却没有办法回溯究竟是哪个环节出了问题。”崔鹏说,“由于这种‘不可回溯性’,导致了即使模型出错,也不知道板子要打到谁身上。”

    如何看懂黑箱里的机器心

    难以解释,不可回溯——面对AI发展过程中的这些局限性,究竟该从何处入手破局呢?

    据梁正介绍,目前世界各国在算法治理方面有着不同的探索,也有一定的共性和经验。欧盟的算法治理是自上而下的,强调“透明性”和“问责性”。也就是说,一方面确保决策结果可以被人类(包括监管部门、社会公众)理解、追踪;另一方面建立问责机制、审计机制以及风险损失的补救措施。美国则采用了另一条路径,采取自下而上的分散化、市场化的治理路径。

    梁正指出,当前我国对算法治理路径的探索已经初具体系。未来算法治理有比较明确的两大方向:第一是可问责性,第二就是可解释性。

    崔鹏则提出,科学家应当致力于通过把“因果”引入机器学习,推动AI治理实现从“知其然”到“知其所以然”的跨越。

    “‘然’就是数据里的关联,‘所以然’是数据里的因果。”他说,“因果启发的机器学习可能成为新一代AI的突破口。”

    在技术层面之外,清华大学社会科学学院教授李正风则分析了AI可靠性和可解释性背后的社会土壤。

    他指出,AI的算法设计受到设计者自身伦理修养、社会责任意识等方面的影响。因此,可理解、可信赖的AI,有赖于设计者自身的信念和操守:增进人类福祉、尊重生命权利、保护个人隐私及其他权利等。与此同时,还需要建立数字时代、人工智能时代的社会信任机制,通过社会理性或集体理性来促进AI技术健康发展。

    “算法的‘黑箱’特征和复杂性不能成为逃避治理的借口。”梁正说。看懂黑箱里的机器心——人类正在为之奋斗。

    记者 李晨阳

[ 责编:涂子怡 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 西安疫情防控一线直击

  • COP15会场免费向公众开放

独家策划

推荐阅读
青藏高原多年冻土发生了显著退化,表现为地温升高、活动层厚度增大、多年冻土层厚度变薄、长期被埋藏的地下冰缓慢融化。
2021-10-20 09:32
此次获奖的真锅淑郎与哈塞尔曼,便是将短期的天气变化作为一种背景噪声,并将其同长期的气候变化结合起来,将时间尺度与空间尺度相结合,构建出了相对完善的气候模型。
2021-10-20 09:32
该校细胞动力学教育部重点实验室与生命科学学院姚雪彪、刘行、臧建业团队与合作者在细胞更新质量控制研究方面取得重要进展,相关研究结果日前在《自然·化学生物学》在线发表。
2021-10-20 09:31
科学家发现,植物体内的两种物质——SPL转录因子和GATA转录因子,都是SAP05“绑架”的对象,也都是植物生长发育中不可缺少的角色。
2021-10-20 09:31
强化“节能监察+节能诊断”双轮驱动,加快节能技术改造升级,有序推进工业领域减量高效利用化石能源,大力推进工业节能提效,促进行业绿色低碳发展。
2021-10-20 09:30
近日,中共中央、国务院印发的《国家标准化发展纲要》(以下简称《纲要》)明确要加强关键技术领域标准研究。
2021-10-20 09:29
本次试验标志着整体式固体发动机推力“120吨、200吨、500吨”三步走计划的全面实现,对丰富我国运载火箭动力型谱,提升快速进入空间能力意义重大。
2021-10-20 09:28
制约我国虚拟现实产业发展的因素还有不少,尤其是关键核心技术短板亟待突破、存量优质虚拟现实内容不足、产业创新生态体系尚不成熟。
2021-10-20 09:28
补钙很重要,但预防骨质疏松仅仅靠补钙还不够。“骨质疏松的根源是缺钙,而钙的吸收和利用需要活性维生素D。
2021-10-20 09:27
目前,新冠感染的无创呼出气筛查系统正计划扩大样本量,开展进一步优化与测试,以实现推广应用。
2021-10-20 09:27
加入协作网之后,国家级和省级牵头医院为成员医院开展医务人员培训,重点就是提高临床医生识别、诊断、治疗罕见病的能力。
2021-10-20 09:26
这一结果排除了嫦娥五号着陆区岩石初始岩浆熔融热源来自放射性生热元素的主流假说,揭示了月球晚期岩浆活动过程。
2021-10-20 09:26
南通大学医学院本科生团队近日自主研发了一款高效的DNA调控元件及超增强子筛选平台——SPACE,有助于发现新的DNA调控元件,进而调控肿瘤的分子机制。
2021-10-20 09:25
除主题展示外,国家有关部门和地方将在郑州举办创业投资行业峰会、全面创新改革交流研讨会、中原科技城双创嘉年华等活动。
2021-10-20 09:24
随着该产品在国内获批,将有望打破我国神经外科高性能可吸收止血耗材领域被国际品牌垄断的局面。
2021-10-20 09:24
再生资源产业数字化平台启动实现全国上线后,业务范围将进一步向全国拓展,从而为我国再生资源产业实现数字化交易和智能化服务赋能。
2021-10-20 09:28
现在,胡丹的公司日均生产大米200吨,流转土地面积达2万亩,拥有各式农机68台套,年产值逾亿元,共带动周边农户5000余户增收。
2021-10-20 09:23
10月18日,以“智领试飞、逐梦蓝天”为主题的第五届COMAC国际科技创新周在中国商飞公司试飞中心开幕
2021-10-20 08:11
金秋十月,入夜后,热闹的夏季银河已渐渐西垂。秋凉如水的夜晚,如果天气晴好,有兴趣的公众眺望夜空,会发现在南方中天,有四颗星星以近乎“正方形”的组合出现,这就是北半球秋天标志性的“秋季四边形”,也称“飞马座四边形”。
2021-10-19 09:43
加载更多