AI解锁无人时代 仍需数据安全保驾护航 _光明网

点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:AI解锁无人时代 仍需数据安全保驾护航
首页> 科技频道> 综合新闻 > 正文

AI解锁无人时代 仍需数据安全保驾护航

来源:科技日报2021-07-23 09:51

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  近几年,科技企业在推广新一代信息技术产品时,数据安全、数据隐私等问题广受诟病。数据作为驱动人工智能快速发展的重要基础,其安全也决定了人工智能的安全。人工智能的加速发展给数据的安全治理带来了新的机遇和挑战。

  验证码登陆、移动在线支付、人脸识别门禁……

  随着新一代信息技术的发展,互联网和人工智能技术应用蓬勃发展,数据也被视为一种无形的资产。然而,技术是一把双刃剑,在给我们生产生活带来效率提升的同时,伴随的安全问题也不可忽视。

  近几年,科技企业在推广新一代信息技术产品时,数据安全、数据隐私等问题广受诟病。数据安全成为当今数字化转型时代的关键紧迫议题。

  在7月8日至10日举行的2021世界人工智能大会上,数据安全、数据治理、网络安全等问题备受关注。业界认为,在人工智能深入推进城市数字化转型过程中,企业应积极主动接受监管,推动产业健康持续发展。

  数据安全治理面临新的机遇和挑战

  近日,桔视记录仪等25款App因存在严重违法违规收集使用个人信息问题,被国家互联网信息办公室依据《中华人民共和国网络安全法》相关规定,通知应用商店下架。

  此前,在上海车展特斯拉车主维权事件中,特斯拉公布了维权车主车辆事发前半小时的行车数据。该行为引发了众多争议:车企该不该将行车数据公开?人们如何确定数据的可靠性?

  没有大数据的收集和基础,人工智能是无本之木。数据作为驱动人工智能快速发展的重要基础,其安全也决定了人工智能的安全。人工智能的加速发展给数据的安全治理带来了新的机遇和挑战。

  “大数据驱动业务的开展,让数据安全对城市运转变得前所未有的重要,数据一旦遭到攻击,就意味着业务会停转,将造成严重的经济损失和社会后果。”360公司创始人、董事长兼CEO周鸿祎表示,最近几年,360公司接到大量医院的报警,称医院网站被勒索软件攻击之后不能进行手术,不能给病人挂号看病。

  近年来,城市也成为了网络勒索的重要目标,而且网络攻击的对象不仅限于电脑、手机、设备、系统,还逐渐扩展到数据。人工智能数据的获取、处理和应用具有极强的隐私性与领域扩展性,关乎个人信息安全甚至国家信息安全。对政府、城市公共事业单位的数据勒索,会造成城市运转和服务陷入停摆。今年5月,美国最大的燃油输送管线遭遇网络攻击被迫关停,导致美国东海岸45%的汽油、柴油等燃料供应受到影响。

  业界认为,针对上述情况,要让人工智能技术的头顶上高悬一把达摩克里斯之剑。

  数据输入、分析等过程都存在相应风险

  数据非法跨境流通可能危害国家主权和国家安全;数字信息的过度采集和非法使用,可能侵犯公民的权利和隐私;算法的偏好可能加剧社会的偏见或歧视,威胁公平正义;无人驾驶汽车紧急避险等智能决策可能威胁特定人群的生命……

  全国政协社会和法制委员会副主任陈智敏在人工智能大会安全高端对话上指出,人工智能发展与安全发展风险同时并存,这不仅是一个技术问题,也是一个安全问题,同时还涉及伦理、法律和国际规则等相关问题。

  国家工业信息安全发展研究中心副主任何小龙在人工智能大会上表示,人工智能带来的数据安全问题一方面加速了传统数据安全问题。

  人工智能大规模的运用使得过度采集数据安全问题进一步加剧。另一方面,也带来了新型数据安全的问题。人工智能的算法对数据具有较强的依赖性,可能会带来数据投毒等新型数据安全挑战。

  算法、模型和数据构成机器学习三大基石。腾讯朱雀实验室首席AI安全专家朱季峰在人工智能大会主题论坛上表示,以算法构建过程中上下游的产业链来看,数据的输入、数据的分析、模型的训练、模型的决策、模型的上线部署应用以及模型的改造过程当中都存在相应的风险。

  例如,在数据输入环节,如果攻击者控制了数据来源,或者攻击者能够对收集数据的设备本身产生安全攻击,最终将通过这个链条影响到算法模型。如通过超声波影响陀螺仪,最终可以使无人机坠落。或者在模型决策阶段,可以通过物理攻击,使得自动驾驶车辆最终视觉识别系统出问题,这样可能影响车辆自动行驶或者对行人的判断。

  随着人工智能的应用,技术的滥用带来失控风险。验证码验证机制首当其冲。朱季峰介绍,早在2017年,地下的黑产就已经开始用机器学习的方法做二维码识别训练。资料表明,80%以上验证的准确性都可以通过机器学习算法自动完成线上的注册,这就产生了一系列的安全问题。

  3大系统共筑数据安全防火墙

  人脸识别技术依托于对海量视图数据的分析,因而数据安全直接影响着人脸识别技术的实战应用。人工智能技术在安防领域的应用是技术寻求落地进程最快、应用最早的训练场。

  达闼创始人、董事长兼CEO黄晓庆表示,从数据采集到数据处理到数据传输,解决数据网络安全问题有很多手段。从网络和数据角度要完成三个重要的任务——物理隔离、网络隔离、应用端到端的保护。

  除了技术,我国利用法律武器在数据立法上也做出了探索。

  今年6月,我国颁布了《数据安全法》,9月1日将开始正式实施。《数据安全法》提出以数据分级分类为核心,搭建数据安全的监管制度,要求强化落实各级数据处理活动主体数据安全保护的义务与责任,为规范数据处理活动,保障数据安全提供法律依据。另外,《个人信息保护法(草案)》也即将进入三审阶段,两项法案相辅相成,推动我国个人信息保护和数据安全治理进入全新阶段。

  在人工智能大会“大爱无疆·共生”论坛上,清华大学苏世民书院院长薛澜回顾人工智能治理模式历经回应式治理、集中治理和敏捷治理三个阶段。“现在我们进入了相对比较集中的治理模式。该模式明确了国家加强行业监管,促进制度落地的决心,对暴露出来的各种问题采取比较坚决的措施落实监管规则,同时触及到需要进一步研究的问题。”薛澜说。

  目前,上海正研究立项公共场所人脸识别分级分类应用规范的地方标准,将成为全国首个立项的人脸识别的地方性标准;开展全市人工智能数据立法调研,规范数据确权,数据共享等重要内容,推动可信人工智能的研究。上海市人大也正在起草《上海市数据条例》。

  此外,上海市数字证书认证中心、复旦大学计算机学院、上海交通大学电子信息与电气工程学院、移动互联网系统与应用安全国家工程实验室、上海赛博网络安全产业创新研究院共同发起筹建数字身份与数据流通信任技术实验室,该实验室将基于数字信任技术的产学研生态合作,开展隐私计算、区块链、前沿密码等数字信任技术攻关和产业应用,支撑城市数字化转型、数据要素市场构建和网络安全体系建设。

  记者获悉,上海浦东新区将在数据资源共享、数据交易、数据开发利用等方面进行立法探索;临港新片区将试点开展企业法人数据的跨境流通的安全评估和服务监管,加强个人数据的全生命周期安全监控和防护。

  王 春

[ 责编:涂子怡 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 载人自动驾驶飞行器亮相珠海

  • 京唐城际铁路开始铺轨

独家策划

推荐阅读
考察队于7月12日从上海启航,历时79天,航程1.4万海里。
2021-09-28 11:32
近日,《自然》杂志子刊《自然·天文》发表题为“中国空间引力波探测计划的概念与现状”的论文,这是中国科学家第一次在顶尖国际杂志上对中国空间引力波探测做出完整、系统的介绍。
2021-09-28 09:58
电视机前的观众朋友们注意了!9月26日至10月16日,用于我国广播电视节目传输的卫星将进入秋季“日凌”期,卫星广播电视节目接收会受到“日凌”影响,电视画面可能会短时出现“马赛克”“雪花”“黑屏”甚至信号中断的情况。
2021-09-28 09:57
9月24日,记者从国家能源集团获悉,该集团龙源碳资产公司(以下简称龙源碳资产)自行研发的“二氧化碳排放连续监测系统”获得计算机软件著作权授权,系统实现了二氧化碳排放相关参数的在线监测和排放量的自动计算分析,填补了二氧化碳在线监测行业的空白,推动碳资产行业发展。
2021-09-28 09:55
9月26日,海南省政府新闻办召开新闻发布会,发布海南热带雨林国家公园体制试点区2019年生态系统生产总值(GEP)核算总量。
2021-09-28 09:54

《灵魂如风》一书中这样写道:“当雄县城以北不远处,有一棵最后的树,应当是棵柳树。整个夏季,它把青枝绿叶伸展在院墙以外张扬着作为乔木的极限生存。再向北,高原上再也没有了它的同类。”西藏那曲,就在当雄县“再往北”。

2021-09-28 09:52
英国《自然》杂志日前同时发表多篇环境科学研究,并建立了全球水产种类微量和常量元素数据库,其中一项研究表明,提高“蓝色食品”产量有望增加食品消费和改善饮食——“蓝色食品”是指淡水和海洋环境中的植物、动物和藻类。
2021-09-28 09:51
据物理学家组织网26日报道,美国斯坦福大学和北卡罗莱纳大学教堂山分校的研究人员创造了一种3D打印疫苗贴片。该贴片可直接贴在皮肤上,无需注射就能完成疫苗接种。
2021-09-28 09:50
近日,英国肯特大学生物科学学院和歌德大学医学病毒学研究所的研究人员发现,当一个人感染新冠病毒时,他体内的一种特定蛋白质——CD47蛋白决定了他感染病毒的严重程度。
2021-09-28 09:50
神舟十二号载人飞船返回舱开舱仪式27日在京举行。载人航天工程部分参研单位、物品搭载单位代表,共同见证搭载物品出舱。
2021-09-28 09:46
当天,“人工智能:打造智能经济新优势”分论坛在乌镇举办,邀请国内外人工智能领域的政府领导、知名学者、企业高管、国际组织代表等嘉宾,分享观点,交流经验。
2021-09-28 09:45
在互联网之光博览会现场等待“挖煤”的观众络绎不绝。只要坐上电铲驾驶座舱,动动手指,就可以遥控操作矿山作业车准确地前进、后退、铲煤。据现场工作人员介绍,这类5G智慧矿山技术将在内蒙古准能集团煤矿、陕西神东煤矿等地使用。
2021-09-28 09:44
9月26日,2021年世界互联网大会乌镇峰会首次举办“网络谣言共治”论坛,邀请国内外各方代表共同探讨网络谣言治理之道,把握真相传播“主动权”,扩大谣言治理“合作圈”。
2021-09-28 09:44
北京时间9月27日14时19分,我国用“快舟·和平精英号”运载火箭成功将“和平精英号”卫星发射升空,卫星顺利进入预定轨道,发射任务取得圆满成功。
2021-09-28 09:43
9月26日,第二届中国-非洲经贸博览会在长沙隆重开幕。科技日报记者获悉,经过此次经贸会的促进,尼日利亚杂交水稻种植推广项目成功落地。这不仅有望推动尼日利亚杂交水稻产业发展,助力这一粮食大量进口国实现粮食增收。
2021-09-28 09:39
“表面看,碳达峰碳中和与能源有关系,我国的能源结构不理想,但由于能源跟国民经济的各个行业都有关系,所以碳达峰碳中和是一个综合性的跨行业、跨领域的事情,是国家层面的涉及各个方面的大事情。”9月26日,在2021中关村论坛碳达峰碳中和科技论坛上,中国工程院院士刘中民说道。
2021-09-28 09:37
被誉为“八大调味品”之一的花椒,是我国特色的药食同源植物,具有重要的经济、药用及生态价值。但是,目前花椒育种仍处于传统育种阶段,相关基因组学和分子生物学研究进展缓慢,遗传育种工作一直停滞不前。
2021-09-28 09:26
张伯礼表示,从目前情况看,德尔塔病毒是优势毒株,传染性确实很强,一人可以传染几个甚至几十个,传播速度也快。国际方面,很多国家新一轮疫情又开始出现,有的国家是第三波,有的国家是第四波,虽然我们采取严防输入措施,但又不能完全封闭国门,回来的人越来越多。
2021-09-28 09:36
今年冬天新冠肺炎疫情可能会反弹。“所以,专家做出上述判断是对的,今年秋冬还是要严防死守,疫情多点散发、局部暴发不能完全避免,需要提高警惕。
2021-09-27 10:13
基于尼日利亚缺乏专业种子公司的现状,以及种子是粮食增产重要因素的考量,项目还对当地种质资源启动了收集利用,帮助当地有效改善种质资源,提升种业技术水平。
2021-09-27 10:11
加载更多