点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:【光明论坛】多措并举促进深度合成技术向善发展
首页> 科技频道> 综合新闻 > 正文

【光明论坛】多措并举促进深度合成技术向善发展

来源:光明网-《光明日报》2023-02-06 03:15

  【光明论坛】

  作者:马丽霞(中国科学院大学经济与管理学院高级工程师;汪寿阳,系中国科学院预测科学研究中心主任)

  “加快发展数字经济,促进数字经济和实体经济深度融合”“构建新一代信息技术、人工智能、生物技术、新能源、新材料、高端装备、绿色环保等一批新的增长引擎”,党的二十大报告的重要部署,为以人工智能等新兴技术驱动数字经济发展提供了重要遵循。作为人工智能领域的创新应用,深度合成近年来风头正劲,AI语音助手、虚拟人、数字人、AR购物、影像修复等在文艺、传媒、医疗、社交等多个领域造福着社会,成为促进数字经济“虚实融合”的关键性技术。

  不过,正如很多科技突破都带来了意想不到的“副产品”,深度合成在展露出可观经济价值的同时,也暴露出破坏性“潜力”,通过深度合成伪造的视频、音频进行诬陷、诽谤、诈骗、勒索等违法行为近年来层出不穷。尤其在互联网经济领域,深度合成技术能够生成真伪难辨的虚假信息,带来身份认证、信息存储等环节的技术难题,导致数字经济发展面临新的安全隐患。要求加强监管的呼声近年来日渐高涨。

  为促进深度合成技术向上向善发展,世界各国纷纷出台法律法规,对深度合成技术进行规约。在《网络信息内容生态治理规定》《网络音视频信息服务管理规定》等规章的基础上,近日,国家网信办等三部门联合发布《互联网信息服务深度合成管理规定》,并于今年1月10日起正式实施,其中明确了深度合成内容的用途、标记、使用范围以及滥用处罚,这意味着深度合成将迎来规范化发展的关键期。为新兴技术划定适当的使用框架是一项“技术活”,容易陷入一管就死、一放就乱的困局。如何推动智能技术向善发展,最大限度地趋利避害,还需从几个方向持续发力——

  促进深度合成技术向善发展,需完善规则,强化技术风险防控的法治保障。应当围绕国家信息安全和数字经济安全、社会治理以及保护公民合法权益,对深度合成服务划定合理开发使用的“绿线”和禁止性的“红线”,建立分级分类制度。一方面,加大深度合成服务应用程序推广前的审核力度,尤其是高风险产品和服务,确保技术应用的服务形式和服务范围符合国家有关规定。另一方面,要明确互联网平台尤其是社交媒体的内容审核义务,推动其建立虚假消息筛查机制,禁止上传可能危害国家安全或造成负面社会影响的深度合成制品。此外,还要充分赋予用户知情权和选择权,通过用户“投票”倒逼行业各类不规范行为的整治。

  促进深度合成技术向善发展,需构建体系,实现技术应用安全的常态化监管。在以人工智能新兴技术为主的算法服务安全应用监管中,普遍存在各主体之间权责不明确、数据信息传递过程不可控和缺乏社会监督等问题,亟须明确责任主体,贯彻常态化信息监管措施。首先,要确定深度合成服务提供者和使用者的主体责任,厘清界限,激活市场主动规约的积极性,使信息内容的生产源头公开透明、权责分配公正公平。其次,要对深度合成内容进行合成前、合成后、发布后和传播后的全流程监管,追踪合成内容的真实性,控制信息传递的风险。再次,要完善深度合成技术的应用体系,引入理性中立的第三方专业机构,完善行业标准,推动行业自律。最后,还应畅通用户投诉、举报渠道,确保以主流价值观为引领,强化信息内容的安全规范。

  促进深度合成技术向善发展,还需探索机制,提升技术风险治理的整体水平。新兴技术的敏捷、精准治理,需要多方合力、多措并举,构建多方协同治理模式。对于政府部门,要推动从传统管理向“包容审慎”治理转变,倡导有所为有所不为,给予新技术必要的发展时间与试错空间,以更为灵活的治理方式适应数字经济的发展特点。对于从业人员,要加强科技伦理教育和法律法规培训,建立系统性的科技伦理人才培养体系,鼓励开展深度合成与深度检测的技术对抗演练,以技术之道还治技术之险,从源头防范深度合成的安全应用风险。对于公众,要加强新兴技术科普教育特别是对特定群体数字鸿沟的弥合,提升技术应用在公众中的透明度,增强公众对合成媒体防伪的警惕度和辨识能力。在全球经济复苏的当下,相信深度合成等新兴人工智能技术必将迈着更加稳健的步伐迎接一个全面数字化的世界。

  《光明日报》( 2023年02月06日 02版)

[ 责编:邱晓琴 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 可爱、有趣又淘气!“小核同学”表情包来啦!请查收→

  • 天暖春光好

独家策划

推荐阅读
最新论文是第一篇指出宇宙组成不需要暗物质,同时也能与某些宇宙学关键观测结果相吻合的论文。
2024-03-19 09:24
方恩权透露,该研究成果用于广州、福州等多条地铁线路施工中,实现了盾构带压开仓超过100台·次,大大降低了盾构施工风险。
2024-03-19 09:23
据介绍,“海基二号”将于近期进行海上安装,建成后将服役于我国第一个深水油田二次开发项目,助推亿吨级深水老油田焕发新生机。
2024-03-19 09:23
高华伟介绍,实验室里,项目组正继续进行大豆耐密性、耐旱性的性状搜集,为下一步亲本选配做准备。
2024-03-19 09:22
截至3月18日14时,南水北调东中线一期工程累计调水突破700亿立方米。
2024-03-19 03:20
今年全国两会,“低空经济”成为热词,社会各界投以关注的目光。这个以有人驾驶和无人驾驶航空器的各类低空飞行活动为牵引,辐射带动有关领域融合发展的综合性经济形态,具有产业链长、辐射面广、成长性和带动性强等特点,是低空飞行活动与产业融合的新型经济形态。
2024-03-19 03:00
《中共中央办公厅国务院办公厅关于加强生态环境分区管控的意见》3月17日公开发布。意见出台的背景是什么?提出了哪些重点任务?记者就此采访了生态环境部有关负责人。
2024-03-18 09:49
近年来,随着我国新能源发电规模持续快速增长,新型储能进入大规模发展期。“十四五”以来,新增新型储能装机直接推动经济投资超过1000亿元,有力支撑能源电力发展,成为中国经济发展新动能。
2024-03-18 09:42
北京时间3月14日21时许,在地面科技人员的密切协同下,中国空间站材料舱外暴露实验装置及样品组合体由空间站机械臂成功转移至空间站气闸舱内。次日,航天员把取回的组合体从气闸舱转移至实验舱,并将装置内科学实验样品进行拆卸、存储。后续实验样品将随神舟飞船返回地面,移交科学家进一步开展地面研究工作。
2024-03-18 09:35
澳大利亚科学家开展的一项新研究表明,下一代锂硫电池有望在5分钟内完成充电,而不像目前这样需要数小时。这一突破有可能彻底改变储能技术,推动高性能电池系统的发展,为消费电子产品和电网应用储能系统提供性能更好的电力解决方案。相关论文发表于最新出版的《自然·纳米技术》杂志。
2024-03-18 09:26
17日,探月工程四期鹊桥二号中继星和长征八号遥三运载火箭在中国文昌航天发射场完成技术区相关工作,星箭组合体垂直转运至发射区,计划于近日择机实施发射。
2024-03-18 09:23
2024年,智慧海关建设进入全面实施阶段,将重点建设九大标志性工程,以数字化转型、智能化升级,推动海关监管服务越来越“智能”、越来越“自动”。
2024-03-18 09:22
今年,“人工智能+”首次被写入《政府工作报告》,这个新提法为发展数字经济、推进数实融合指明了新路径。值得注意的是,“人工智能+”不是简单相加,而是要通过新技术催生新质生产力,为经济社会各个领域带来新产业、新模式、新动能,发挥出乘数效应。
2024-03-15 09:32
各地区各部门压实责任,稳面积、提单产、强管理,扎实推进藏粮于地、藏粮于技,为夺取全年粮食丰收夯实基础。农业农村部有关负责人表示:“良田、良种、良法、良机、良制‘五良’技术集成,重点推广密植、水肥一体化等技术措施,让单产能够大面积提升。
2024-03-15 09:31
一辆49吨柴油重型卡车排放的二氧化碳相当于约40辆小轿车的排放量。与49吨柴油重卡相比,若把燃料换为液态的氢燃料电池,则每辆液氢重卡每年可减少碳排放约140吨,有望实现长途重载车辆的零排放。
2024-03-15 04:35
中国家用电器服务维修协会13日发布的数据显示,根据初步测算,2023年,家电服务业总体规模近万亿元,活跃法人单位数约10万家,服务收入及盈利增长已超过制造和销售行业。
2024-03-15 04:35
记者14日获悉,来自中国科学院物理研究所、国家纳米科学中心等单位的科研人员,通过研究三层石墨烯的菱形堆垛结构发现,在菱形堆垛三层石墨烯中,电子和红外声子之间具有强相互作用,这有望应用于光电调制器和光电芯片等领域。据悉,这项研究为理解菱形堆垛的三层石墨烯中的超导和铁磁等物理效应提供了新的视角。
2024-03-15 09:30
杨振清告诉记者,大多数主流社交平台和内容发布平台都有一系列规则和政策来限制伪科普内容的传播。北京科学中心副研究馆员孙小莉表示:“对于有意、无意传播的伪科普内容,平台应有相应的监管、处理方式,全力做到守土有责、守土尽责。
2024-03-15 09:28
高质量发展是增进民生福祉、提升人民幸福的发展,是解决新发展阶段社会主要矛盾的必然选择。
2024-03-14 09:42
要加强医疗监督执法队伍建设、建立健全定期会商工作机制、建立联合监督执法要情工作清单、推进问题线索跨部门联合处置,同时要建立重大案件督办机制、加强行政执法与刑事司法衔接,以及建立健全监督执法结果协同运用机制。
2024-03-14 09:38
加载更多