点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:科学家探索AI“选择性失忆”新问题
首页> 科技频道> 综合新闻 > 正文

科学家探索AI“选择性失忆”新问题

来源:科技日报2021-08-24 09:37

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  科技日报北京8月23日电(记者张梦然)人工智能的“遗忘”与人类不同,这也是该领域面临的一大挑战。据《连线》杂志网站近日消息称,作为计算机科学中的新兴领域,机器学习研究者们已经开始探索在AI中诱发“选择性失忆”的方法,其目标是在不影响模型性能的前提下,从机器学习中删除特定人员或点的敏感数据。如果未来能够实现,那么这一概念将帮助人们更好地控制数据。

  机器学习宗旨是使用计算机作为工具并致力于真实、实时的模拟人类学习方式,其可以将现有内容进行知识结构划分,再广泛应用于解决工程应用和科学领域的复杂问题。现在,机器学习被视作最具智能特征的研究领域,但科学家已经提出了新的问题:机器会学习,但它会遗忘吗?实际上,它们的学习方式虽然在效仿人类,但“遗忘”方式却与我们大不一样。

  机器学习的“遗忘”,对于有需求的用户,也就是那些对他们在网上分享的内容感到后悔的人来说,其实很直观。但从技术层面来讲,消除特定数据点影响的传统方法,是“从零开始”重建系统,这是一项代价可能相当高昂的工作,令企业几乎难以承受。具体来说,某些地区的用户如果他们对披露的内容改变了主意,其实是有权要求公司删除他们的数据的。但彻底抹除这件事很难实现,因为一旦经过训练,机器学习系统就不会轻易改变,甚至就连训练者们自己,也不清楚系统是如何掌握这些能力的,因为他们并不能完全理解自己调试或训练出的算法。

  2019年有科学家提出可以将机器学习项目的源数据分成多个部分,以实现对单个数据点的“遗忘”,但最近已被证明存在缺陷。如果提交的删除请求以特定的顺序出现,无论是偶然的还是恶意的,机器学习系统都会崩溃。因此,要实现“选择性失忆”这个概念,科学家可能需要在计算机科学方面做出全新探索。

  “当他们(用户)要求删除数据时,我们能否消除他们数据的所有影响,同时避免从头开始重新训练的全部成本?”宾夕法尼亚大学机器学习教授亚伦·罗斯表示,他们目前进行的研究就是希望能找到一些“中间地带”。或许在不久的将来,有望找出一条既可以控制数据也可以保护由数据产生的价值的发展道路。

[ 责编:蔡琳 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 科考人员到达克马德克海沟最深点

  • 国产白羽肉鸡自主育种“突围”记

独家策划

推荐阅读
地质学家,中国科学院院士,中国地质科学院地质研究所研究员沈其韩,因病医治无效,于2022年11月27日在北京逝世,享年100周岁。
2022-11-28 20:00
从2021年4月天和核心舱发射到神舟十五号任务,19个月内,我国如期完成空间站“T”字基本构型组装建造。
2022-11-28 16:33
服务团将继续致力于成果转移转化的模式的积极探索,为航天科技成果转化摸索出一条合适的道路。
2022-11-28 11:02
论坛延续“开放、信任、合作”主题,设置主论坛、世界数字经济论坛以及16场分论坛,线上线下同步进行。
2022-11-28 10:55
走进“轨道上的京津冀”核心枢纽工程——雄安新区至北京大兴国际机场快线(简称“R1线”)建设现场,该线路首个车站——金融岛站主体结构已经封顶。
2022-11-28 10:50
电力赋能乡村振兴。
2022-11-28 10:02
11月26日,首批脑健康与认知障碍规范化诊疗示范中心建设启动会以线上线下结合的方式召开。该项目由国家中医药管理局中医脑健康与认知障碍防治办公室发起。
2022-11-28 10:10
记者24日从中国科学技术大学获悉,该校人文与社会科学学院科技史与科技考古系特任副研究员吕骎骎,通过考察丝绸之路沿线中亚、伊朗、两河流域与考古相关的地质环境状况,汇集锶、钕同位素数据,提出了该地区生物可利用锶同位素比值和岩屑中钕同位素比值的范围。
2022-11-25 09:53
11月23日,长沙,湖南省农科院杂交水稻研究中心二楼的办公室里,主任唐文帮正专注地瞅着桌上并排放着的三捧谷粒。
2022-11-25 09:43
在非常规超导体研究中,人们发现超导态与竞争电子态之间总是存在着错综复杂的竞争现象,并且它们还可以相互交织,进一步形成新奇的超导态。探索超导态与竞争电子态之间复杂的衍生现象及其物理机制,是当前超导研究领域的关键问题之一。
2022-11-25 09:38
中国式现代化是创新驱动的现代化,是高质量发展的现代化,更是人才引领驱动、人才支撑发展的现代化。
2022-11-25 09:37
中国石化“深地工程·川渝天然气基地”又获重大突破,由中国石化勘探分公司和西南石油局提交的綦江页岩气田首期探明地质储量1459.68亿立方米通过自然资源部专家组审定,标志着我国又一个超千亿立方米的大型整装页岩气田诞生。
2022-11-25 09:35
记者22日从西湖大学获悉,该校生命科学学院特聘研究员闫浈实验室的相关研究揭开了叶绿体蛋白转运之谜,其研究结果在线发表于《细胞》期刊。
2022-11-24 09:50
观测团队成员、德国马克斯·普朗克天文研究所(MPIA)负责人Laura Kreidberg表示:“我们以前研究过很多行星,但从未见过这样的数据集。”
2022-11-24 09:42
11月23日,第二次青藏科考队“气候变化与生态系统碳循环”科考分队宣布,他们成功研发了完全自主的“贡嘎”(GONGGA)大气碳反演系统(以下简称“贡嘎”系统)。这是“全球碳计划”2022年全球碳收支报告首轮脱颖而出的大气反演系统。
2022-11-24 09:40
前不久,随着梦天实验舱的成功入列,中国空间站T字基本构型组装完成,我国向着建成空间站的目标迈出了关键一步。作为参与我国空间站建设的一名科研工作者,目前,我正投身于小机械臂在梦天舱上的测试任务。
2022-11-24 09:22
目前,我国在轨稳定运行的300公斤以上的卫星有300余颗,居世界第二位。在轨遥感卫星200余颗,实现了16米分辨率卫星数据1天全球覆盖,光学2米分辨率数据全球1天重访,1米分辨率合成孔径雷达卫星对全球任意地区重访时间为5小时。我国天地一体化的空间基础设施体系建设取得进展。
2022-11-24 09:21
当前,建筑业是世界上最大的终端能源消耗即温室气体排放的主要部门之一,低碳发展,由此成为令全球建筑业“头疼”的问题。
2022-11-23 09:43
自2022年10月9日发射入轨一个多月以来,中国首颗综合性太阳探测卫星“夸父一号”三大载荷之一的硬X射线成像仪(HXI)开展了各项在轨测试和定标工作。科技日报记者获悉,中国科学院紫金山天文台11月21日发布了HXI首张科学图像。
2022-11-23 09:38
22日凌晨2时18分,国内首座超宽三维不对称转体桥——上海漕宝路快速路新建工程连续钢箱梁T构转体桥,在跨越7股铁路线时实现精准对接,刷新了转体三维不对称、转体桥面最宽、跨高铁整幅转体最宽等多项转体桥世界纪录。
2022-11-23 09:37
加载更多