点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:道德伦理:人脸识别“热”中的冷思考
首页> 科技频道> 综合新闻 > 正文

道德伦理:人脸识别“热”中的冷思考

来源:科技日报2020-11-27 10:06

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  人脸识别系统已经给我们的城市带来诸多方便。然而,在许多国家,对人脸识别的抵抗声也在不断高涨。研究人员、公民自由倡导者和法律学者都受到人脸识别技术兴起的困扰。他们正在跟踪其使用,揭露其危害并开展运动以寻求保障甚至是彻底禁止技术的使用。然而,技术发展的潮流浩浩荡荡,更多人认为该技术的存在是“不可避免的”,但是其背后存在的道德伦理问题值得我们深思。

  近期,《自然》杂志的一系列报道对人脸识别系统背后的道德伦理学进行了探讨。一些科学家正在分析人脸识别技术固有的不准确和偏见,对其背后存在的歧视发出警告,并呼吁加强监管、提高技术透明度。

  《自然》杂志对480位从事人脸识别、人工智能和计算机科学领域研究的研究人员的调查显示,人们对人脸识别研究的伦理学普遍存在担忧,但也存在分歧。

  有些未经同意获取数据

  为了使人脸识别算法正常工作,必须对大型图像数据集进行训练和测试,理想情况下,必须在不同的光照条件和不同的角度多次捕获这些图像。过去,科学家普遍招募志愿者,只为收集各种角度的照片;但现在,大多数人未经许可即被收集人脸图像。

  在《自然》杂志的480位受访者中,当被问及对应用面部识别方法从外表识别或预测个人特征(如性别、年龄或种族)的研究有何看法时,约三分之二的人表示,此类研究只能在获得面部识别者知情同意的情况下进行,或者在与可能受到影响的群体代表讨论后进行。

  大多数人认为,使用人脸识别软件的研究应事先获得伦理审查机构(例如机构审查委员会)的批准。他们认为,对于在学校、工作场所或由私人公司监视公共场所时使用人脸识别进行实时监视感到最不舒服,但是他们通常会支持警察在刑事调查中使用人脸识别系统。

  从法律上讲,目前尚不清楚欧洲的科学家是否可以未经人们的同意而收集个人人脸的照片以进行生物识别研究。欧盟的通用数据保护条例并没有为研究人员提供明显的法律依据。在美国,一些州表示,商业公司未经其同意使用个人的生物识别数据是非法的。

  受访者强烈认为,应该有其他法规来规范公共机构使用人脸识别技术。超过40%的人则希望禁止实时大规模监视。

  存在性别和种族偏见现象

  人脸识别系统通常是专有的并且保密,但是专家说,大多数系统涉及一个多阶段过程,该过程通过深度学习对大量数据进行大规模神经网络训练。

  美国国家标准技术研究院(NIST)在去年年底发布的报告中称,人脸识别的准确率有了显著提高,深度神经网络在识别图像方面效果明显。但NIST同时也证实,相对于有色人种或女性,大多数人脸识别对于白人男性面孔的准确性更高。特别是,在NIST的数据库中被归类为非裔美国人或亚裔的面孔被误认的可能性是那些被归类为白人的面孔的10—100倍。与男性相比,女性误报的可能性更高。

  领导NIST图像小组的电气工程师克雷格·沃森认为,这种不准确很可能反映了每家公司培训数据库构成的不平衡,一些公司可能已经开始解决这个问题。

  有待严格立法和监管

  致力于人脸识别或分析技术的研究人员指出,人脸识别有很多用途,比如寻找走失的儿童,追踪罪犯,更方便地使用智能手机和自动取款机,通过识别机器人的身份和情绪来帮助机器人与人类互动,在一些医学研究中,还可以帮助诊断或远程跟踪同意的参与者。

  人脸识别技术有好处,但这些好处需要根据风险进行评估,这就是为什么它需要得到适当和细致的监管。

  目前,许多研究人员以及谷歌、亚马逊、IBM和微软等公司都呼吁在人脸识别系统方面出台更严格的监管措施。

  马萨诸塞州波士顿东北大学研究面部监控的计算机科学家、法学教授伍德罗·哈特佐格说视人脸识别技术为“史上最危险的发明”,说如果美国立法者允许公司使用人脸识别,他们应该编写规则,从健身房到餐厅都应当禁止“面部指纹”的收集和储存,并禁止将人脸识别技术与自动化决策(如预测性警务、广告定位和就业)结合使用。

  尚须谨慎研究和思考

  密歇根州立大学东兰辛分校的计算机科学家阿尼尔·贾恩说:“在我们的社会中,我们需要大量正当而合法的人脸和生物识别应用。”但一些科学家表示,研究人员也必须认识到,在人们不知情的情况下对人脸进行远程识别或分类的技术从根本上是危险的,应该努力抵制其被用来控制人们的做法。

  作为人工智能领域的首要会议之一,神经信息处理系统会议是今年首次要求进行这种道德考量,即提交有关人脸识别论文的科学家必须添加一份声明,说明他们的工作中存在的伦理问题和潜在的负面后果。

  此外,《自然机器智能》杂志也在试图要求一些机器学习论文的作者在文章中加入一项声明,考虑到更广泛的社会影响和伦理问题。

  纽约伊萨卡市康奈尔大学从事技术伦理研究的社会学家凯伦·利维认为,研究人脸识别的学者意识到道德伦理问题,“感觉像是科学界真正的觉醒”。

  (记者 张佳欣)

[ 责编:涂子怡 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 石家庄黄庄公寓隔离场所建设全力推进

  • “限塑”宣传进社区 倡导环保在行动

独家策划

推荐阅读
在揭晓年度流言的同时,2020年度的“科学”流言求真榜重点提炼总结“科学”流言背后的科学规律,梳理出错误联想、量变质变、成见效应、断章取义、借“技”卖货、夸大其词等六大谣言套路,引导公众理性质疑,独立思考,提高对“科学”流言的免疫力。
2021-01-16 19:57
没有一个冬天不可逾越,没有一场疫情不可战胜。寒潮之下,你们坚守岗位、履职尽责,请一定注意防寒保暖,劳逸结合,保持体力充沛,再接再厉做好疫情防控工作。
2021-01-16 19:45
从科学角度分析,我国古建筑防火的有效做法主要是远离火源,或者在建筑表面涂有阻燃材料。文渊阁的建筑侧面采用了砖砌的墙体,且不开设门窗,亦有利于防火。
2021-01-15 10:12
研究人员还对湖北武汉盘龙城遗址、左塚楚墓、乔家院墓地、九连敦墓地及河南南阳夏饷铺墓地等地出土的青铜器中的泥芯进行了系统分析。
2021-01-15 10:10
新型潜艇艇员单人脱险装具系统由快速上浮脱险服、头罩充气系统、脱险服检测装置、头罩充气系统检测装置4部分组成,兼顾了快速上浮脱险和减压脱险两种模式。
2021-01-15 10:04
量子力学理论的标准解释认为,量子场内的变化不可预测且是瞬时的。跃迁过程由系统低能态开始也称为基态;当跃迁至系统高能态时,也称为激发态,随后跃迁路径转向,再次回到基态。
2021-01-15 10:03
据中国科学院遗传与发育生物学研究所研究员周俭民介绍,由于我国主栽水稻品种引入Xa4、Xa21、Xa23等抗性基因,白叶枯病曾得到有效控制。
2021-01-15 10:02
目前关于苦荞的遗传基础和驯化过程并不清楚,重要性状和品质形成机理缺乏研究,严重制约其性状改良和遗传育种。这些关键位点和基因的发现,将极大推动荞麦的品质改良,加快荞麦的遗传育种进程。
2021-01-15 10:01
根据原子物理学的基本原理,当原子从一个能量态跃迁至低的能量态时,它便会释放电磁波。原子钟就是利用保持与原子的电磁波特征频率同步作为产生时间脉冲的节拍器。
2021-01-15 10:00
项目计划从2020年11月持续至2021年1月份,在首尔市5个区的17所老年人福利设施内,以3000名学员为对象,以非接触方式开展免费培训。
2021-01-15 09:58
俄亥俄州韦克斯纳医学中心首席科学官、最新研究合著者彼得·莫勒则指出,没有数据表明这两种新变异株会影响疫苗的有效性。
2021-01-15 09:58
这种套索技术或是从蛇爬树进化而来,但是蛇现在正在使用该方法来爬电线杆之类的人造结构。研究人员表示:“套索的环压紧了圆柱体以产生摩擦并防止打滑。
2021-01-15 09:56
“探险者”们的最新动作预示着,2021年将是太空探索、发射任务和天文事件让人们应接不暇的一年。
2021-01-15 09:54
同卵双胞胎在胚胎发育早期就开始出现遗传学差异,而同卵双胞胎的。研究报告指出,同卵双胞胎来自一个单合子,这个合子是一个精子让一个卵子受精后形成的。
2021-01-15 09:51
为此,在开展DESI光谱红移巡天之前,研究人员构建了比以往面积更大、更深的宇宙二维图像,以满足大规模光谱观测的需求。
2021-01-15 09:49
采用家猫卵子进行异种体细胞克隆技术,是目前唯一能够大量复制濒危动物的技术手段。
2021-01-15 09:43
空间站天和核心舱、天舟二号货运飞船、空间应用系统核心舱任务等主要系统完成出厂评审,标志着空间站建造即将转入任务实施阶段。
2021-01-15 09:33
安徽农业大学讲席教授马丁·F.巴赫曼和查丽莎教授团队研究发现,新冠病毒表面抗原蛋白间距不利于人体免疫系统的识别,进而不能使人体产生良好的保护抗体反应。
2021-01-15 09:29
随着中国各地开始有序接种新冠疫苗,一系列与之相关的问题备受关注。接种疫苗能保护多长时间?中国疫苗产能如何?老人小孩何时能预约接种?
2021-01-14 17:35
华东师范大学物理与电子科学学院教授保秦烨课题组把天然分子辣椒素作为添加剂引入到钙钛矿半导体,在国际上首次直接观察到软物质钙钛矿半导体表面电子结构从P型转变成N型的新现象。
2021-01-14 10:35
加载更多