正在阅读:曾毅:人工智能真正的风险就在当下
首页> 科技频道> 综合新闻 > 正文

曾毅:人工智能真正的风险就在当下

来源:中国数字科技馆2019-12-02 12:55

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  人工智能亦可称机器智能,通常是指由普通计算机程序来呈现人类智能的技术,其核心问题包括建构能够跟人类比肩甚至超越人类的推理、知识、规划、学习、交流、使用工具和操控机械等能力。随着人工智能技术的不断发展,在大众对这项技术刷新认识的同时,也产生了诸多的疑问及质疑。

曾毅;人工智能;风险;当下

中科院自动化研究所研究员、智源人工智能伦理与安全研究中心主任曾毅

  作为中国人工智能的从业者,希望中国的人工智能发展成什么样?就此相关问题,记者对中科院自动化研究所研究员、智源人工智能伦理与安全研究中心主任曾毅进行了专访。

  大众对人工智能的认识存在偏差

  有人曾说,一个不再像人类一样思维的机器,会引起大家的恐慌。在人工智能发展的过程当中,有很多人在疑问:人工智能实现通用智能、超级智能,是不是最大的风险?对此,曾毅回答道,在实现通用人工智能的途径中一定会存在风险,但真正的风险,现在看来并不是通用智能或者超级智能,而是在于人工智能发展的道路过程当中已经涌现出来的风险以及安全、伦理问题。

曾毅;人工智能;风险;当下

难以保障隐私的用户数据(图片来自网络)

  对于人工智能这样由算法专家构建的服务,极可能存在算法歧视、偏见等潜在问题,这些就足以使人工智能对我们的社会产生巨大的负面的影响。比如在人工智能的应用中,数据隐私泄露的问题非常广泛,用户可以把数据库当中的用户数据删除,这样看似用户数据就被消除掉了,但其实数据库已经使用了它的数据,数据特征已经被模型学到了,这个时候用户数据是不可能完全拿回的。曾毅谈道,虽然类似欧盟在极力推动的“GDPR欧洲通用数据保护条例”有相关规定,但目前几乎没有一家企业真正完全符合GDPR,而大众极度却缺乏个人数据隐私保护意识。

  曾毅表示,公众很关注人工智能的社会影响,但是碍于大众对于人工智能的风险不是太了解,所以人工智能技术的科普比任何时候都重要。

  面对当前人工智能实际应用的安全问题需建立监管平台

  面对人工智能的风险,当下存在严重两极化:比如美国加州就决定禁用人脸识别技术,但也有更多企业对风险持视而不见的态度。总体而言,人工智能发展是主旋律,但是人工智能的健康发展,一定是治理和发展双轮驱动。“智源人工智能研究院安全伦理研究中心布局的重要项目就是从技术的角度来解决人工智能模型当中存在的风险问题,而不仅仅是停留在伦理原则上的讨论。”曾毅说。

曾毅;人工智能;风险;当下

人脸识别技术(图片来自网络)

  此外,曾毅还提出两点建议:一方面,不管是企业、科研机构、还是政府,在指导人工智能发展的时候,应该建立不同层级的人工智能伦理和治理委员会。另外一方面,应该号召国家建立人工智能服务和产品的监管平台。“如今的发展模式是企业做完产品上线,一旦出了问题,有关部门再去约谈,像前一段时间的换脸软件就是这样的。如果有监管平台,企业将用户知情同意书传上来,立刻就能发现其中的哪些原则违反了国家的法律或者是人工智能发展的原则,就可以在产生社会负面影响之前,规避掉存在的风险。”

  保持对人工智能发展的敬畏和理性,是非常关键的。曾毅呼吁提升人工智能的技术人员对于风险和伦理问题的重视,使得他们真正在开发人工智能的时候,心中有红线;在发展的方向上保证他们创造的人工智能产品向着对人类有益的方向发展。(记者张蕃)

  受访专家:中科院自动化研究所研究员、智源人工智能伦理与安全研究中心主任曾毅

[ 责编:蔡琳 ]
阅读剩余全文(

相关阅读

您此时的心情

新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 武汉:儿童病房里的卡通世界

  • 127名农民工乘坐包机返藏复工侧记

独家策划

推荐阅读
载人版“龙”飞船由SpaceX为美国国家航空航天局开发,旨在送美国宇航员往返国际空间站,将在未来几个月内进行首次载人飞行。
2020-02-21 10:31
据美国《科学》杂志网站19日报道,欧盟委员会发布新计划称,将制定法律严格监管高风险人工智能(AI)技术,更新欧盟2018年AI发展战略,未来在AI研发领域投资数十亿美元等,以进一步促进欧盟AI产业发展。
2020-02-21 10:21
水稻对盐度变化极为敏感,由于气温上升、海平面上升和缺水等原因,欧洲传统种植水稻的河流三角洲地区的土地盐碱化现象正变得越来越严重。
2020-02-21 10:20
以色列理工学院的研究人员近日表示,他们开发了一种独立系统,能够从空气中包括在沙漠地区的空气中生产水。
2020-02-21 10:18
据物理学家组织网近日报道,一个国际科研团队进行了全面的研究,试图厘清活体脊椎动物预期寿命受何种因素影响。这些发现促使科学家们提出另一种假设:环境越热,冷血动物的生活节奏越快,导致衰老速度越快,寿命越短。
2020-02-21 10:17
东营是在黄河沙进海退之地上建起的新中国最年轻的城市,土壤盐渍化严重,生态承载力弱,过去被人们笑称“电线杆子比树多”……  二月的黄河口,以黄灰色调为主。
2020-02-21 10:16
《北京市污染防治攻坚战2020年行动计划》(以下简称“行动计划”)日前正式发布。继续聚焦重型柴油车,坚持“换、限、查、管”并举,力争实现全市交通领域污染物排放总量比2017年减少30%。
2020-02-21 10:15
1月,168个重点城市中,包头、临汾、呼和浩特市等城市空气质量相对较差;海口、拉萨、丽水市等城市空气质量相对较好。
2020-02-21 10:14
加强宣传,提高公众对火电厂污染物治理情况的知情度,有条件的火电厂实行“开放日”,鼓励公众走进电厂,了解电厂环保,提高公众对火电厂污染物治理认知,从而减少误解。
2020-02-21 10:13
病毒毒株为疫苗研制、抗病毒药物的筛选以及快速检测试剂的研发等奠定了基础。近日,安徽省疾病预防控制中心应用宏转录组基因测序新冠肺炎病例样本,顺利分离到2株新冠病毒毒株。
2020-02-21 10:11
2月19日,国家卫健委发布《新型冠状病毒肺炎诊疗方案(试行第六版)》及解读,病毒传播途径的表述中增加了“在相对封闭的环境中长时间暴露于高浓度气溶胶情况下存在经气溶胶传播的可能”。
2020-02-21 10:09
据武汉市水务局公布,武汉全力开展排水设施和污水处理设施消杀工作,截至2月18日,全市累计出动6520人次,累计投放消毒药剂1963.58吨。
2020-02-21 10:08
在发出《至暗时刻的一封信》半个月后,护肤品牌林清轩创始人孙来春终于可以肯定地说,他们自救成功了。2月19日,他发来两张店铺概念图:“接下来我们会把直播搬到线下门店,把部分门店变成一种新型的数字化直播门店。
2020-02-21 10:07
2月20日5时7分,长征二号丁运载火箭首次在西昌卫星发射中心点火升空,成功以一箭四星方式,将4颗新技术试验卫星送入预定轨道。
2020-02-21 10:05
记者20日从西湖大学获悉,西湖大学周强实验室利用冷冻电镜技术成功解析2019新冠病毒的受体——ACE2的全长结构,研究报告在预印版平台bioRxiv上线。
2020-02-21 10:04
记者20日从海军军医大学获悉,为减轻医护人员面部不适,预防器械相关压力性损伤,由该校药学系专家牵头研发的“预防口罩和医用护目镜压力性损伤的防护凝胶贴片”已于近期完成了研制、备案、注册和生产定型。
2020-02-21 10:03
在人类战争史的启示录中,科技的进步与应用是亘古不变的主题。经由此战,我们看到数字化、在线化的无形触角正全面渗透至社会运行的每一个角落,对于传染病引发的社会难题能起到很好的缓解和破解作用。
2020-02-20 10:50
2月16日,在哈尔滨市阿城区金都河畔小区上方百米盘旋着一架无人机,不断地向居民宣传防疫常识。”李春江说,防疫之战,每个社区都是主战场,要构筑群防群治严密防线,打一场疫情防控的人民战争。
2020-02-20 10:45
英国政府18日宣布,将通过总值达9000万英镑(约合1.17亿美元)的资助计划支持一系列清洁能源项目,帮助一些工业领域和民众家庭降低碳排放。
2020-02-20 10:25
在新冠肺炎疫情中,如何更好地保护医护人员成为各界关注的焦点。世卫组织媒体中心日前发布医护人员防控COVID-19专题问答。
2020-02-20 10:15
加载更多