正在阅读:曾毅:人工智能真正的风险就在当下
首页> 科技频道> 综合新闻 > 正文

曾毅:人工智能真正的风险就在当下

来源:中国数字科技馆2019-12-02 12:55

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  人工智能亦可称机器智能,通常是指由普通计算机程序来呈现人类智能的技术,其核心问题包括建构能够跟人类比肩甚至超越人类的推理、知识、规划、学习、交流、使用工具和操控机械等能力。随着人工智能技术的不断发展,在大众对这项技术刷新认识的同时,也产生了诸多的疑问及质疑。

曾毅;人工智能;风险;当下

中科院自动化研究所研究员、智源人工智能伦理与安全研究中心主任曾毅

  作为中国人工智能的从业者,希望中国的人工智能发展成什么样?就此相关问题,记者对中科院自动化研究所研究员、智源人工智能伦理与安全研究中心主任曾毅进行了专访。

  大众对人工智能的认识存在偏差

  有人曾说,一个不再像人类一样思维的机器,会引起大家的恐慌。在人工智能发展的过程当中,有很多人在疑问:人工智能实现通用智能、超级智能,是不是最大的风险?对此,曾毅回答道,在实现通用人工智能的途径中一定会存在风险,但真正的风险,现在看来并不是通用智能或者超级智能,而是在于人工智能发展的道路过程当中已经涌现出来的风险以及安全、伦理问题。

曾毅;人工智能;风险;当下

难以保障隐私的用户数据(图片来自网络)

  对于人工智能这样由算法专家构建的服务,极可能存在算法歧视、偏见等潜在问题,这些就足以使人工智能对我们的社会产生巨大的负面的影响。比如在人工智能的应用中,数据隐私泄露的问题非常广泛,用户可以把数据库当中的用户数据删除,这样看似用户数据就被消除掉了,但其实数据库已经使用了它的数据,数据特征已经被模型学到了,这个时候用户数据是不可能完全拿回的。曾毅谈道,虽然类似欧盟在极力推动的“GDPR欧洲通用数据保护条例”有相关规定,但目前几乎没有一家企业真正完全符合GDPR,而大众极度却缺乏个人数据隐私保护意识。

  曾毅表示,公众很关注人工智能的社会影响,但是碍于大众对于人工智能的风险不是太了解,所以人工智能技术的科普比任何时候都重要。

  面对当前人工智能实际应用的安全问题需建立监管平台

  面对人工智能的风险,当下存在严重两极化:比如美国加州就决定禁用人脸识别技术,但也有更多企业对风险持视而不见的态度。总体而言,人工智能发展是主旋律,但是人工智能的健康发展,一定是治理和发展双轮驱动。“智源人工智能研究院安全伦理研究中心布局的重要项目就是从技术的角度来解决人工智能模型当中存在的风险问题,而不仅仅是停留在伦理原则上的讨论。”曾毅说。

曾毅;人工智能;风险;当下

人脸识别技术(图片来自网络)

  此外,曾毅还提出两点建议:一方面,不管是企业、科研机构、还是政府,在指导人工智能发展的时候,应该建立不同层级的人工智能伦理和治理委员会。另外一方面,应该号召国家建立人工智能服务和产品的监管平台。“如今的发展模式是企业做完产品上线,一旦出了问题,有关部门再去约谈,像前一段时间的换脸软件就是这样的。如果有监管平台,企业将用户知情同意书传上来,立刻就能发现其中的哪些原则违反了国家的法律或者是人工智能发展的原则,就可以在产生社会负面影响之前,规避掉存在的风险。”

  保持对人工智能发展的敬畏和理性,是非常关键的。曾毅呼吁提升人工智能的技术人员对于风险和伦理问题的重视,使得他们真正在开发人工智能的时候,心中有红线;在发展的方向上保证他们创造的人工智能产品向着对人类有益的方向发展。(记者张蕃)

  受访专家:中科院自动化研究所研究员、智源人工智能伦理与安全研究中心主任曾毅

[ 责编:蔡琳 ]
阅读剩余全文(

相关阅读

您此时的心情

新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 纪实画册《重庆大轰炸幸存者访谈录》在北京首发

  • 探访直通澳门的新横琴口岸

独家策划

推荐阅读
其中,静力试验机正在完成整个总装任务,首飞机机身的三大部件都已成功交付。
2019-12-12 10:07
第46颗北斗导航卫星由中国航天科技集团有限公司所属中国空间技术研究院研制,于2019年6月25日在西昌卫星发射中心发射。
2019-12-12 10:07
这是记者近日从在海南省三亚市召开的全国现代种业发展暨南繁硅谷建设工作会议了解到的。
2019-12-12 10:06
在近日于苏州举行的第九届吴文俊人工智能科学技术奖颁奖典礼暨2019中国人工智能产业年会上,杨强获得了吴文俊人工智能杰出贡献奖。
2019-12-12 10:07
生产厚度20微米以下超薄带材,对于当时仅有半年多制带技术积累的中科毕普拉斯创业团队来说,无疑是个巨大的挑战。
2019-12-12 10:06
他们的研究结果还表明,微塑料具有很大的比表面积,容易富集有毒有害物质,对海洋生物造成联合毒性效应。
2019-12-12 09:45
预计于2021年给出北天最精确宇宙微波背景辐射极化天图,这也将是我国首张北天宇宙微波背景辐射极化天图。
2019-12-12 10:02
在对新发现的头盖骨进行更完整的年代解剖学的基础上,Haile-Selassie和同事争论称,在埃塞俄比亚阿尔法地区一个叫作Belohdelie的地方发现的距今390万年的神秘额骨,也属于南方古猿阿尔法种。
2019-12-12 10:01
这颗重达300公斤、耗资5000万欧元(5500万美元)的宇宙飞船名为“CHEOPS”(描述太阳系外行星卫星),计划于12月17日由联盟号火箭从法属圭亚那的欧洲库鲁太空港发射升空。
2019-12-12 10:01
碳纳米管可被认为是仅包含sp2键合原子的全碳基管状共轭聚合物,然而直径特定的碳纳米管片段长共轭聚合物尚无研究报道。
2019-12-12 09:58
尽管梅森对将水熊虫DNA与人类细胞结合信心满满,但杨宇光对记者一针见血地指出:“这事不靠谱,而且涉及伦理问题。
2019-12-12 09:48
新药研发应该以临床为导向,而非以资本为导向。除了抗癌药物外,科学家和企业家也应该把精力和资本投入到疾病群体更庞大的领域,否则20年后,我们将可能面临更严重的药品缺失问题。
2019-12-12 09:47
郝芳洲具体解释说,过去农村烧烟煤的一般是反烧的炉子,而烧洁净煤的一般是正烧的炉子,换煤就需要换炉子,二者是配套的。
2019-12-12 09:47
目前,生物资源数据及相关成果全部通过网络信息门户向社会开放共享,有效促进了生物资源数据的集成、共享,以及对国家生物产业的支撑。
2019-12-12 09:47
皮肤是人体面积最大的感官系统。论文第一作者、香港城市大学生物医学工程学系助理教授于欣格博士说:“我们的目标是研发出媲美真人皮肤的电子皮肤。
2019-12-12 09:47
中科院古脊椎所研究员吴秀杰介绍说,自1929年12月2日,裴文中发现第一件周口店直立人(北京猿人)头盖骨化石以来,迄今为止周口店有4处地点发现了古人类化石。
2019-12-12 09:46
近日,《科学》杂志在线发表了一项关于1.24亿年前基干兽类李氏源掠兽的听觉和咀嚼器官演化的研究成果。
2019-12-12 09:45
据介绍,基于英特尔22纳米FinFET技术,英特尔与QuTech(由荷兰代尔夫特理工大学与荷兰国家应用科学院联合创立)共同开发了Horse Ridge。
2019-12-12 10:01
如今,西方政府层面的教育改革趋势主要体现为同质化、同步化、集权化、标准化、考试化。
2019-12-11 09:53
区块链标准化、效率、安全与隐私、创新应用、底层的密码技术支撑等方面,是学界和业界共同关注的问题。
2019-12-11 09:53
加载更多