点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:堵住AI安全漏洞,法规之外更需技术制衡
首页> 科技频道> 人工智能 > 正文

堵住AI安全漏洞,法规之外更需技术制衡

来源:科技日报2020-01-14 10:10

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  如今,AI换脸在网上被玩的不亦乐乎。喜欢哪个明星,就把所有电视剧主角都换成他的脸,如果只是单纯娱乐,貌似也无可厚非。但可怕的是,你的脸很可能会被“植入”到色情视频然后被打包贩卖,甚至你的手机、电脑、智能门锁等应用了人脸识别技术的设备也可能被AI换脸轻松攻破。有人用AI视频造假,亦或是犯罪,似乎就没那么好玩了。

  刷脸支付、人脸识别……不可否认,人工智能技术给人们的生活带来了诸多便利。“但我们也应当正视,当前人工智能技术还处在初步发展阶段,仍然面临着一些挑战。”清华大学教授、清华大学人工智能研究院基础理论研究中心主任朱军说。

  “任何技术都是一把双刃剑,当AI技术应用到越来越多的场景,由于AI算法本身存在漏洞所引发的安全问题必须引起足够重视。同时,AI技术的滥用也将引发安全隐患,比如隐私与伦理问题。当AI开始触碰边界问题,安全性就成为AI发展过程中必须思考的课题。”北京瑞莱智慧科技有限公司(以下简称RealAI)高级产品经理张旭东在接受科技日报记者采访时说。

  技术漏洞带来AI安全问题

  回家,到单元楼门口,刷一下脸,门就开了。人脸解锁已经成为生活中最常见的AI应用场景之一。然而,很少有人会想到,当前的AI算法存在明显的“安全盲点”。

  RealAI团队就曾做过相关研究:针对识别算法漏洞,可生成一类名为对抗样本的“噪音”,恶意误导AI算法输出非预期的结果,诱导识别系统出错。团队成员通过一张打印上对抗样本“噪音”的纸,成功地让研究对象在识别系统下实现“隐身”,如果再把纸贴在其他实物上,比如小车模型上,也可以让该物体在识别系统下完全“消失不见”。此外,他们还研发了一种带有噪点的“眼镜”,只要戴上,即使不是本人,也能成功破解商用智能手机的刷脸解锁,甚至包括门锁等其他人脸识别设备。

  “AI算法漏洞本质上是安全问题的一大类,而解决安全问题往往是攻防两端不断对抗、演化的过程。”张旭东说。目前对主流的攻击手段都有比较有力的防御手段,如可以通过训练模型去除对抗“噪音”,或是检测出对抗样本以后将其从数据中去除,以及使用攻击算法生成大量对抗样本对模型做对抗训练等方式来解决这些问题。

  由于AI换脸技术也在不段进化,早期换脸技术生成的视频中人物往往不会眨眼,可根据一些较为明显的特征直接肉眼判断。但随着深度伪造技术的不断演化,这些鉴别方法已不再有效。

  “面对这种情况,我们会根据当前市面上流行的换脸算法生成海量的训练样本,再结合贝叶斯学习处理还未出现的新型虚假视频。简单理解,就是基于主流的甚至更为领先的生成技术制作出大量逼真的假视频,再利用这些假视频训练出一个新的模型。做的假视频越逼真,训练出来的模型分辨能力就越强。”张旭东说。

  要守好技术和法规两道关

  “AI技术滥用最显性的问题在于个人信息被轻易‘操纵’,这背后可能会引发隐私泄露、身份危机,而且还会催生出更加隐秘、难以侦察的新型黑产,如色情黑产、金融欺诈等。”张旭东说。

  此外,AI技术滥用的潜在效应还将蔓延到大众的信息获取和社会信任层面,引导公众舆论、引发社会信任危机,比如美国就曾流出国家领导人被恶搞的视频,制作者利用视频煽动政治暴力、破坏选举、扰乱外交。长此以往,难以辨别真相的公众无法选择相信还是不相信,如果选择相信可能会继续给不法分子带来可趁之机,如果选择不相信则可能带来长期的社会冷漠。

  张旭东表示,AI安全问题牵一发而动全身,守好技术和法规两道“关卡”是当务之急,同时需要联动社会各界力量,从监管机构、AI科技企业到普通公众共同重视、共同发力才能真正的从根本上使其良性发展。

  欣喜的是,AI安全问题已经引起国内相关监管机构的重视。此前,网信办就正式发布《网络音视频信息服务管理规定》,指出自2020年1月1日起,AI造假音视频不得随意发布。新规定中关于AI造假音视频的规定主要有四条:按照国家有关规定开展安全评估、以显著方式予以标识非真实音视频信息、不得利用AI造假技术发布虚假新闻、部署AI造假音视频鉴别技术和健全辟谣机制等。

  “当然,最有效、最可行的解决方法仍是依靠技术制衡技术。”张旭东说,这主要包括两方面,一是开发出高精度的AI检测算法与检测产品,从源头制止虚假内容的泛滥传播;二是开发出相应的“防火墙”技术,从防御端铸造高墙,保障配备了人脸识别系统的公共安全设备攻不可破。付丽丽

[ 责编:肖春芳 ]
阅读剩余全文(

相关阅读

您此时的心情

新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 【互动小游戏】你晒年夜饭,我来送祝福!

  • 贺新春送锦鲤 《艺术公益大讲堂》拜年啦

独家策划

推荐阅读
据悉,去年国内地震正式速报平均用时572秒,比2018年减少88秒;自动速报平均用时111秒,比2018年减少22秒;自动速报震级平均偏差0.21级,相比2018年精度提高22%。
2020-01-23 09:23
目前,关于下地幔的异常主要由地震波速表征,因此,开展俯冲洋壳在下地幔温度和压强条件下的波速特征研究具有关键意义。俯冲洋壳可以很好地解释下地幔下部的高速异常体和在整个下地幔发现的散射体。
2020-01-23 09:22
买买买,看似一个简单的行为,殊不知,在决定买这个而不是那个的过程中,大脑神经活动可能比预想得更加复杂。此前,有研究指出,“大脑前额叶皮层的神经元负责编码选择项的估值”,也就是说,人们在选择购买某物时,大脑的前额叶皮层发挥了至关重要的作用。
2020-01-23 09:22
在地球历史中,曾经发生过重大的生态系统和环境的突变,导致了多次生物大灭绝事件。利用古生物数据库重建地质历史全球生物多样性模式,揭示地球生命的演化历史,以及与环境变化之间的关系,可以为了解当前的地球生物多样性危机提供重要启示。
2020-01-23 09:20
除草剂目前在农业生产中广泛应用,但常会“误伤”农作物。近期,中科院合肥物质科学研究院吴正岩研究员课题组研制出一种防护剂,如同“植物护甲”,可通过红外线和紫外线照射切换功能,让植物“智能”地选择吸收肥料但“避开”除草剂。
2020-01-23 09:19
“在藏北的伦坡拉盆地,我们又发现了一种鲶,还没命名,正在研究。”近日,在中科院物理所咖啡馆举办的第46期科学沙龙,中科院古脊椎动物与古人类研究所所长邓涛介绍。他以“演化千万载,生命逐山高”为题,讲述了青藏高原和生物共同演化的故事。
2020-01-23 09:16
病理性心肌肥大常见于高血压,心肌病等,发病机制尚不明确,是心血管疾病尤其是心力衰竭的关键病理环节。据曾春雨介绍,这项研究提示人为增强或抑制心肌肥大相关长链非编码RNA表达或可成为心力衰竭的关键治疗手段。
2020-01-23 09:14
“对于新型冠状病毒感染的肺炎病例目前没有特效药物。”22日,在北京市卫生健康委员会召开的防范新型冠状病毒感染的肺炎科普宣教媒体沟通会上,北京中医医院呼吸科主任、主任医师王玉光介绍。
2020-01-23 09:13
22日,记者从教育部了解到,教育部于日前发出通知,要求教育系统做好新型冠状病毒感染的肺炎疫情防控工作。通知指出,各地和学校要摸清寒假期间在校学习生活的学生情况,通过多种形式开展宣传教育,做好留校学生防控工作。
2020-01-23 09:12
据英国《自然·通讯》杂志21日发表的一项环境学报告,德国科学家开展的一项分析研究显示,与人类活动造成的土壤铅污染相比,来自钙钛矿太阳能电池的铅进入部分植物体内的效率是前者的10倍。
2020-01-23 09:11
1月17日,中国农历庚子年新春佳节即将到来之际,在北京人民大会堂举行了在华工作外国专家代表新春座谈会,共庆新春佳节。戴伟刚对中国高教的学生资助体系尤为认同,他说,中国的教育补贴和助学贷款系统非常完善,这让中国青年人对国家产生了强大的向心力。
2020-01-23 09:10
据美国《新闻周刊》网站近日报道,欧洲空间局(ESA)建造了一种原型设施,旨在利用月壤模拟物制造氧气。为利用月壤制造氧气,ESA在位于荷兰的欧洲太空研究与技术中心(ESTEC)建造了氧气生产设施。
2020-01-23 09:08
继2016年在比邻星附近发现比邻星b之后,天文学家最新研究发现,这颗恒星附近可能还存在另一颗行星——比邻星c。相关研究日前发表在《科学进展》杂志上。
2020-01-23 09:07
有人60多岁时心脏依然强健,但肾脏却已开始衰竭;有人可能拥有30岁人的肾脏,却经常罹患传染病。为什么人与人之间衰老过程迥然不同?美国趣味科学网站在近日的报道中称,新研究发现人类存在四种不同的“衰老模式”:免疫、肾脏、肝脏和代谢。
2020-01-23 09:06
据美国《新闻周刊》网站近日报道,美国科学家研制出一种微型设备,能以每分钟3000亿转的惊人速度旋转,刷新了旋转速度最快物体新纪录。
2020-01-23 09:05
美国研究人员近日在《自然·癌症》杂志上发表研究报告称,他们系统地分析了数千种现有药物,发现近50种非肿瘤药物可以杀死癌细胞。研究人员表示,这些新发现不仅有助于推动将现有药物用于癌症治疗,还有助于加速新癌症药物的研发。
2020-01-23 09:04

近日,中国医学科学院发布二〇一九年度中国医学三十九项重大进展,涉及临床医学等六大领域,这些医学重大进展,件件与你我相关。

2020-01-22 16:18
记者从中国卫星海上测控部获悉,1月20日,该部所属的2艘测量船远望3号、远望7号在圆满完成3次海上测控任务后,顺利停靠码头。
2020-01-22 16:17
近日据报道,德国能源巨头意昂集团最近发布的一份研究报告显示,5G网络将大幅增加数据中心的耗电量,由此产生的废热可用于市政供暖。
2020-01-22 09:34
南开大学生命科学学院、药物化学生物学国家重点实验室教授刘林团队通过完全化学小分子的方法,成功将卵巢颗粒细胞重编程为具有生殖系转移能力的诱导性多能干细胞,进而分化为卵子,并通过正常受精获得健康小鼠。
2020-01-22 09:30
加载更多