点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:科学家探索AI“选择性失忆”新问题
首页> 科技频道> 综合新闻 > 正文

科学家探索AI“选择性失忆”新问题

来源:科技日报2021-08-24 09:37

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  科技日报北京8月23日电(记者张梦然)人工智能的“遗忘”与人类不同,这也是该领域面临的一大挑战。据《连线》杂志网站近日消息称,作为计算机科学中的新兴领域,机器学习研究者们已经开始探索在AI中诱发“选择性失忆”的方法,其目标是在不影响模型性能的前提下,从机器学习中删除特定人员或点的敏感数据。如果未来能够实现,那么这一概念将帮助人们更好地控制数据。

  机器学习宗旨是使用计算机作为工具并致力于真实、实时的模拟人类学习方式,其可以将现有内容进行知识结构划分,再广泛应用于解决工程应用和科学领域的复杂问题。现在,机器学习被视作最具智能特征的研究领域,但科学家已经提出了新的问题:机器会学习,但它会遗忘吗?实际上,它们的学习方式虽然在效仿人类,但“遗忘”方式却与我们大不一样。

  机器学习的“遗忘”,对于有需求的用户,也就是那些对他们在网上分享的内容感到后悔的人来说,其实很直观。但从技术层面来讲,消除特定数据点影响的传统方法,是“从零开始”重建系统,这是一项代价可能相当高昂的工作,令企业几乎难以承受。具体来说,某些地区的用户如果他们对披露的内容改变了主意,其实是有权要求公司删除他们的数据的。但彻底抹除这件事很难实现,因为一旦经过训练,机器学习系统就不会轻易改变,甚至就连训练者们自己,也不清楚系统是如何掌握这些能力的,因为他们并不能完全理解自己调试或训练出的算法。

  2019年有科学家提出可以将机器学习项目的源数据分成多个部分,以实现对单个数据点的“遗忘”,但最近已被证明存在缺陷。如果提交的删除请求以特定的顺序出现,无论是偶然的还是恶意的,机器学习系统都会崩溃。因此,要实现“选择性失忆”这个概念,科学家可能需要在计算机科学方面做出全新探索。

  “当他们(用户)要求删除数据时,我们能否消除他们数据的所有影响,同时避免从头开始重新训练的全部成本?”宾夕法尼亚大学机器学习教授亚伦·罗斯表示,他们目前进行的研究就是希望能找到一些“中间地带”。或许在不久的将来,有望找出一条既可以控制数据也可以保护由数据产生的价值的发展道路。

[ 责编:蔡琳 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 《为了民族解放与世界和平》主题展览面向公众开放

  • 第十七届中国国际现代化铁路技术装备展览会在京开幕

独家策划

推荐阅读
随着科技创新与产业创新深度融合,人工智能技术助力建材行业向更智能、更绿色、更高端方向变革。“通过数字化转型,建材企业可基本实现研发设计数字化、生产运营一体化、客户服务敏捷化,提升决策效率、协同能力和服务水平,快速提升生产力和核心竞争力。
2025-07-09 09:40
记者8日从湖南省自然资源厅获悉,通过创新地质找矿理论,经过长期勘探,湖南省郴州市临武县鸡脚山矿区已探获超大型蚀变花岗岩型锂矿床,共提交锂矿石量4.9亿吨,氧化锂资源量131万吨。
2025-07-09 09:39
根据国家卫生健康委8日晚间发布的通知,今后“颈深淋巴管/结—静脉吻合术”将不得应用于阿尔茨海默病治疗。“颈深淋巴管/结—静脉吻合术”是将颈部深层淋巴管或淋巴结与邻近的静脉进行吻合的手术,近年来部分医疗机构将其用于治疗阿尔茨海默病,引发争议。
2025-07-09 09:39
国家发展改革委、工业和信息化部、国家能源局日前发布《关于开展零碳园区建设的通知》。支持企业对标标杆水平和先进水平,实施节能降碳改造和用能设备更新,鼓励企业建设极致能效工厂、零碳工厂。
2025-07-09 09:37
近日,中国科学院近代物理研究所科研人员依托兰州重离子加速器冷却储存环,精确测量了极缺中子原子核硅-22的质量,实验发现硅-22的质子数14是一个新幻数。
2025-07-09 09:35
国家自然科学基金委员会7日发布消息,自然科学基金委近日制定重大非共识项目试点实施方案,将在2025年启动资助试点。
2025-07-08 09:20
近日,由农业农村部南京农业机械化研究所联合有关单位研制的全自动水稻覆膜插秧技术装备在江苏省靖江市投入使用,开启了我国水稻覆膜插秧新模式。
2025-07-08 09:11
日前,全球领先的720V高压固态钠盐电池,在位于内蒙古自治区鄂尔多斯市达拉特旗的建亨奥能科技有限公司正式量产,标志着中国成为全球第三个实现固态钠盐电池商用量产的国家。
2025-07-08 09:10
从国家自然科学基金委员会获悉,该委日前制定了重大非共识项目试点实施方案,将在2025年启动资助试点。
2025-07-08 05:05
什么是聚乳酸材料,在取代传统石化基塑料材料方面又有着怎样的优势?本期院士科普,让我们跟随中国科学院院士陈学思,一起走进生物降解高分子材料——聚乳酸的奇妙世界。
2025-07-07 14:19
科技的力量正让农民从传统体力劳动者向掌控全局的智慧决策者转变。
2025-07-07 12:33
在未来数十年,熟练使用人工智能很可能成为大多数职业的必备技能,并深刻影响就业市场。作为经济土壤中的“超级肥料”,新技术既带来传统岗位的替代,更促进新兴产业发展,直接创造新的岗位需求。
2025-07-07 09:12
抽水蓄能机组主要由发电电动机和水泵水轮机组成,利用山上山下两个水库进行水能和电能相互转换。
2025-07-07 09:11
回溯歼—10飞机研制历程,从立项、首飞到定型,历经数十载,“三滴油”看起来微不足道,却更加说明创新需要点滴用心、长期耕耘。
2025-07-07 09:10
从微小的夸克到浩瀚的宇宙,从生命的密码到自然的规律,科学这双“慧眼”不断重新定义着“可见”与“可知”的边界。从墓室中的真菌到实验室里的潜在新药,科学家用一套跨学科方法挖掘出这个隐藏在自然界的分子宝藏。
2025-07-07 09:08
在6日开幕的中国科协年会上,2025重大科学问题、工程技术难题和产业技术问题正式发布。这凝聚科技界智慧的30项问题、难题“锁定”了哪些前沿领域的核心赛道?其遴选标准蕴含着怎样的科学智慧?带着这些问题,记者专访了丛斌、邹冰松、王小云、陈坚四位院士。
2025-07-07 03:10
2025全球数字经济大会2日在北京开幕。除收录标准的优势外,东壁全球科技文献数据平台还根据中国科技界与教育界的习惯,对所收录期刊进行了学科分类。
2025-07-04 09:55
超材料是一类具有特殊性质的人造材料,而具有热辐射性能的超材料可以把多余的热量“打包”传递到外界,热辐射超材料可广泛应用于零能耗辐射冷却、建筑节能降温、航天热控等诸多重要领域。
2025-07-04 09:53
中国科学院院士、海南大学生物医学工程学院教授骆清铭团队成功绘制出了小鼠三维脑区和立体定位图谱
2025-07-04 09:52
加载更多