点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:【光明论坛】多措并举促进深度合成技术向善发展
首页> 科技频道> 综合新闻 > 正文

【光明论坛】多措并举促进深度合成技术向善发展

来源:光明网-《光明日报》2023-02-06 03:15

  【光明论坛】

  作者:马丽霞(中国科学院大学经济与管理学院高级工程师;汪寿阳,系中国科学院预测科学研究中心主任)

  “加快发展数字经济,促进数字经济和实体经济深度融合”“构建新一代信息技术、人工智能、生物技术、新能源、新材料、高端装备、绿色环保等一批新的增长引擎”,党的二十大报告的重要部署,为以人工智能等新兴技术驱动数字经济发展提供了重要遵循。作为人工智能领域的创新应用,深度合成近年来风头正劲,AI语音助手、虚拟人、数字人、AR购物、影像修复等在文艺、传媒、医疗、社交等多个领域造福着社会,成为促进数字经济“虚实融合”的关键性技术。

  不过,正如很多科技突破都带来了意想不到的“副产品”,深度合成在展露出可观经济价值的同时,也暴露出破坏性“潜力”,通过深度合成伪造的视频、音频进行诬陷、诽谤、诈骗、勒索等违法行为近年来层出不穷。尤其在互联网经济领域,深度合成技术能够生成真伪难辨的虚假信息,带来身份认证、信息存储等环节的技术难题,导致数字经济发展面临新的安全隐患。要求加强监管的呼声近年来日渐高涨。

  为促进深度合成技术向上向善发展,世界各国纷纷出台法律法规,对深度合成技术进行规约。在《网络信息内容生态治理规定》《网络音视频信息服务管理规定》等规章的基础上,近日,国家网信办等三部门联合发布《互联网信息服务深度合成管理规定》,并于今年1月10日起正式实施,其中明确了深度合成内容的用途、标记、使用范围以及滥用处罚,这意味着深度合成将迎来规范化发展的关键期。为新兴技术划定适当的使用框架是一项“技术活”,容易陷入一管就死、一放就乱的困局。如何推动智能技术向善发展,最大限度地趋利避害,还需从几个方向持续发力——

  促进深度合成技术向善发展,需完善规则,强化技术风险防控的法治保障。应当围绕国家信息安全和数字经济安全、社会治理以及保护公民合法权益,对深度合成服务划定合理开发使用的“绿线”和禁止性的“红线”,建立分级分类制度。一方面,加大深度合成服务应用程序推广前的审核力度,尤其是高风险产品和服务,确保技术应用的服务形式和服务范围符合国家有关规定。另一方面,要明确互联网平台尤其是社交媒体的内容审核义务,推动其建立虚假消息筛查机制,禁止上传可能危害国家安全或造成负面社会影响的深度合成制品。此外,还要充分赋予用户知情权和选择权,通过用户“投票”倒逼行业各类不规范行为的整治。

  促进深度合成技术向善发展,需构建体系,实现技术应用安全的常态化监管。在以人工智能新兴技术为主的算法服务安全应用监管中,普遍存在各主体之间权责不明确、数据信息传递过程不可控和缺乏社会监督等问题,亟须明确责任主体,贯彻常态化信息监管措施。首先,要确定深度合成服务提供者和使用者的主体责任,厘清界限,激活市场主动规约的积极性,使信息内容的生产源头公开透明、权责分配公正公平。其次,要对深度合成内容进行合成前、合成后、发布后和传播后的全流程监管,追踪合成内容的真实性,控制信息传递的风险。再次,要完善深度合成技术的应用体系,引入理性中立的第三方专业机构,完善行业标准,推动行业自律。最后,还应畅通用户投诉、举报渠道,确保以主流价值观为引领,强化信息内容的安全规范。

  促进深度合成技术向善发展,还需探索机制,提升技术风险治理的整体水平。新兴技术的敏捷、精准治理,需要多方合力、多措并举,构建多方协同治理模式。对于政府部门,要推动从传统管理向“包容审慎”治理转变,倡导有所为有所不为,给予新技术必要的发展时间与试错空间,以更为灵活的治理方式适应数字经济的发展特点。对于从业人员,要加强科技伦理教育和法律法规培训,建立系统性的科技伦理人才培养体系,鼓励开展深度合成与深度检测的技术对抗演练,以技术之道还治技术之险,从源头防范深度合成的安全应用风险。对于公众,要加强新兴技术科普教育特别是对特定群体数字鸿沟的弥合,提升技术应用在公众中的透明度,增强公众对合成媒体防伪的警惕度和辨识能力。在全球经济复苏的当下,相信深度合成等新兴人工智能技术必将迈着更加稳健的步伐迎接一个全面数字化的世界。

  《光明日报》( 2023年02月06日 02版)

[ 责编:邱晓琴 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 中医药文化进校园

  • 安徽黟县:生态乡村画振兴

独家策划

推荐阅读
国家一级博物馆、国家5A级旅游景区上海科技馆将自3月31日晚闭馆后启动其开放运行20余年来最大规模的系统化升级改造。上海科技馆自2001年12月18日正式向公众开放以来,已累计接待国内外观众逾8000万人次,是最热门的全国科普教育基地之一。
2023-03-25 18:54
在北京亦庄,乘客已经能通过手机约来一辆没有安全员、真正的无人驾驶“出租车”。
2023-03-24 10:55
工业和信息化部23日公布,截至2月末,我国5G基站总数达238.4万个,比上年末净增7.21万个,占移动基站总数的21.9%,5G网络建设稳步推进。
2023-03-24 10:32
因京剧与无线电结缘,学京剧要苦练扎实基本功的精神也深深影响了王小谟后来的科研之路。 在这样煞费苦心设计的人才培养机制下,王小谟还任命当时年仅30岁的曹晨担任某型预警机的副总师。
2023-03-24 10:14
新世纪之交,在南平,茶文化还与“科技特派员”这一新生事物相互交织,共同在闽北大地奏响茶山新曲。
2023-03-24 09:57
从蒸汽机到动力电池,从电子管到超大规模集成电路,从“大哥大”到智能手机……回顾人类科技发展史,技术创新进步从来都是一个不断优化迭代的过程。
2023-03-24 10:02
受气候变化和人类活动影响,上世纪70年代以来,由于持续干旱,加上用水结构不合理,华北地区水资源呈衰减趋势,地下水超采严重。“解决华北地区地下水超采问题,关乎首都水安全,关乎京津冀协同发展战略实施,也关乎人民群众对美好生活的需要。
2023-03-24 09:03
国家互联网信息办公室23日公布《网信部门行政执法程序规定》,明确了“一事不二罚”原则,将于2023年6月1日起施行。
2023-03-24 09:59
《湖北白猪选育方案》手稿。他在《湖北白猪选育方案》里直言“猪的新品种选育是养猪业现代化的重要环节之一”“……培育自己的优良新猪种——湖北白猪是十分必要的”。湖北白猪及其品系培育成功后,熊远著并没有停止前行的脚步。
2023-03-24 09:01
这是我国科学家在量子纠错领域的最新研究成果,相关学术文章于北京时间23日在国际著名学术期刊《自然》网站上刊登。
2023-03-23 15:20
近日,国务院办公厅印发了新修订的《食品安全工作评议考核办法》。
2023-03-23 04:30
在基因塑造生命的过程中,有个隐秘而伟大的遗传“剪辑师”——次要剪接体。
2023-03-23 05:05
大力推动油气勘探开发与新能源融合发展,积极扩大油气企业开发利用绿电规模。
2023-03-23 09:33
如今,数据已成为继土地、劳动力、资本、技术之外的第五大生产要素,正在为生产生活插上“数字翅膀”。
2023-03-23 05:00
电解质消毒液的有效成分是次氯酸钠,它是由食盐水经电解后产生的。
2023-03-23 09:36
天气、气候、水有何关系?人类今天为什么要关注天气气候水?中国气象局日前发布的《全球气候状况报告(2022)》和国家气候中心的专家给出了答案。
2023-03-22 07:55
3月初,在贵阳贵安新区网易贵安数据中心一期项目建设现场,各类工程机械忙碌不停,场平工程已全面开启。项目一期将于今年9月投入试运行,预计未来5年还将陆续启用5000个标准机架、4万台服务器。
2023-03-22 07:50
三峡集团昨天发布消息,国内首艘500千瓦氢燃料电池动力工作船“三峡氢舟1号”在广东中山下水。“三峡氢舟1号”采用氢燃料电池和锂电池动力系统,将用于三峡库区交通、巡查、应急等工作。
2023-03-22 09:35
至2月份,全国新增发电装机容量3511万千瓦,比上年同期多投产1162万千瓦。中国电力企业联合会发布的数据显示,全国跨区送电完成1198亿千瓦时,同比增长23.8%;各省份送出电量合计2698亿千瓦时,同比增长13.4%。
2023-03-22 09:32
中国人民银行定于2023年4月7日发行世界文化和自然遗产——黄山普通纪念币、世界文化和自然遗产——峨眉山-乐山大佛普通纪念币各一枚。
2023-03-22 09:27
加载更多