点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:以数据安全促进人工智能健康发展
首页> 科技频道> 人工智能 > 正文

以数据安全促进人工智能健康发展

来源:光明网-《光明日报》2025-11-25 03:05

  【学思践悟】

  作者:肖文(浙江大学经济学院教授)

  党的二十届四中全会指出,“加快人工智能等数智技术创新,突破基础理论和核心技术,强化算力、算法、数据等高效供给”。人工智能作为新一轮科技革命的关键领域和产业变革的核心动力,引领着经济社会发展范式变革。习近平总书记指出,“全面推进人工智能科技创新、产业发展和赋能应用,完善人工智能监管体制机制,牢牢掌握人工智能发展和治理主动权”。数据、算力和算法是人工智能的三大要素,数据为人工智能发展提供了“燃料”,而人工智能发展又会形成海量数据,由此形成人工智能迭代演进的良性循环。在实践中,保障数据安全,强化高质量数据供给,对于人工智能健康发展至关重要。

  数据安全是人工智能健康发展的必要条件

  2022年末大模型兴起,今年初DeepSeek以开源模式进一步推进了人工智能的迭代及应用,人工智能技术从实验室走向经济社会,对数据安全提出了更高要求。保障数据安全,为人工智能发展提供稳定、可信、合规的环境,是促进人工智能健康发展的客观要求和必要条件。

  数据安全能为人工智能发展提供稳定环境。数据要素是数字经济时代的核心战略资产,充分释放数据要素价值是发展人工智能的必然要求。人工智能发展需要海量数据集聚并进行训练,但人工智能技术本身对于数据的真实性并无判断的能力,大量虚假的、失真的数据供给将会导致人工智能输出虚构信息。不仅如此,数据篡改、“数据投毒”等恶意行为,将会严重影响数据可靠性和完整性,直接破坏人工智能模型的性能,对于高度依赖人工智能决策的领域带来极大危害。例如,在无人驾驶、医疗诊疗等领域,大量虚假数据、合成数据等会导致输出结果失真,从而形成错误决策,带来风险挑战。保障人工智能数据安全,为人工智能提供真实可靠、训练充足的优质数据,能够为人工智能提供稳定的发展环境。

  数据安全能为人工智能发展提供可信环境。人工智能加速融入经济社会运行各个领域,能够集成公开数据、个人数据等各类数据,进而通过分析挖掘更深层次的数据。但人工智能模型黑箱的特性也导致数据源头追溯存在困难,大量的虚构信息将会导致幻觉问题,用户难以进行有效辨别和追溯,影响着人工智能应用和发展的底层逻辑。不仅如此,人工智能在发展进程中,算法设计、数据训练、决策执行等环节也存在着算法不透明、模型歧视、责任认定模糊等问题,倘若缺乏相应的监管,就会将既有的虚假信息、社会偏见等负面影响进一步放大并精准推送。提升数据安全性,保障高质量数据供给,对于营造一个可信的人工智能发展环境至关重要。

  数据安全能为人工智能发展提供合规环境。人工智能发展依托海量数据,推动我国人工智能朝着有益、安全、公平方向健康有序发展,源头在于保障数据安全。一方面,人工智能集聚海量数据,在模型运行、数据流通等环节中存在敏感信息泄露的风险。不仅如此,人工智能平台拥有强大的数据搜集能力,但原始数据与衍生数据的归属权、使用权等问题并没有明确的界定,数据保护有待提升。另一方面,基于人工智能技术开发的脑机接口、人机交互设备等产业不断兴起,这些产业的发展将会自主无意识收集大量个人敏感的大脑数据,并且极大改变人与人之间的交互模式,现有加密技术难以完全阻断黑客逆向解码风险,数据安全和隐私保护难度加大。保障数据安全,才能更好地破解人工智能发展过程中的隐私泄露、伦理风险等,推动人工智能合规发展。

  在人工智能技术进步中更好保障数据安全

  数据安全与人工智能健康发展相辅相成、互为依托,习近平总书记强调,“我国数据资源丰富,产业体系完备,市场空间巨大,发展人工智能前景广阔,要加强政策支持和人才培养,努力开发更多安全可靠的优质产品”。这就要求在数据安全中更好地促进人工智能健康发展,在人工智能技术进步中更好地保障数据安全,以高质量数据供给促进人工智能健康发展。

  强化关键核心技术突破。不论是保障数据安全,还是发展人工智能,关键在于以问题为导向,全面增强创新能力,确保关键核心技术牢牢掌握在自己手里。一方面,要加大对数据安全、人工智能等领域基础研究和关键核心技术的支持力度,通过设立专项资金等方式加大研发支持力度。尤其是发挥好企业创新主体作用,加强企业与科研院所在数据安全防护、数据加密传输等领域技术的联合攻关。另一方面,引导高校面向数据安全与人工智能发展等领域调整专业设置方向,以“微专业”培养高技术人才。同时,强化高校、科研院所、企业等创新主体联合培养复合型人才机制,充分发挥人才作为第一资源的作用。

  强化数据基础设施建设。数据流通是充分释放数据价值的重要路径,加快建设数据基础设施,能够更好地促进数据安全流通,为人工智能发展注入原动力。一方面,加快数据基础制度建设,形成数据领域的规划体系,加速构建数据要素全国统一大市场。同时,合理布局和建设数据可信空间,推进区域、行业数据基础设施互联互通以及算力基础设施一体化发展,保障数据要素安全流通。另一方面,加快数据标准体系建设,明确数据采集、数据挖掘、数据流通、数据保护等方面的标准,分领域推进行业数据高质量归集和高效利用。不仅如此,还要积极参与国际标准制定,提升数据标准领域的话语权。

  强化协同治理格局构建。保障数据安全既要应对技术风险,也要防范社会风险,需要政府、企业、协会、科研院所等多主体共同参与,构建和完善协同治理格局。一方面,在现行法律法规基础上,完善人工智能算法、加密数据保护、个人隐私保护等重点领域政策法规体系,健全完善数据治理、数据安全等制度,为保障数据安全奠定基础。另一方面,明确政府、企业等主体责任,创新监管模式,促进信息共享,强化公众参与,搭建协同治理的框架体系。尤其是构建数据安全的评估平台,制定人工智能数据安全的指标体系,降低数据安全风险,提升人工智能发展成熟度,以此促进人工智能健康发展。

  《光明日报》(2025年11月25日 06版)

[ 责编:邢彬 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • “深”不可测?这个专业偏要测给你看!

  • 重庆巫山:初冬美景引客来

独家策划

推荐阅读
燕矶长江大桥是亚洲首个专业货运枢纽机场——鄂州花湖国际机场的重要配套工程,是鄂黄第二过江通道的重要组成部分。
2025-11-24 09:02
11月23日,由中国半导体行业协会、中国电子信息产业发展研究院主办的第二十二届中国国际半导体博览会在北京开幕。
2025-11-24 03:15
从国家管网集团西部管道有限责任公司获悉,截至11月21日,我国最长原油管道——西部原油管道实现安全平稳运行18年,累计输送原油超2亿吨。
2025-11-24 03:15
作为中国和南非两国合作推动科普教育的重要实践,中国科学技术馆与南非Sci-Bono科学中心合作建设的“倾听科学空间”21日正式向公众开放。逾百嘉宾和观众到场体验。
2025-11-24 03:15
为AI4S领域培养兼具理论素养与产业落地能力的复合型人才,同时助力企业技术创新与行业生态构建。
2025-11-24 03:15
2025年度“十大”科普热词从科技、文化、社会等维度,综合勾勒出2025年我国科普事业发展、科技前沿动态、科学传播与社会文化融合的整体态势和核心方向。
2025-11-21 15:11
枫清科技与麒麟软件达成战略合作,双方将围绕AI技术创新、产品研发、市场拓展等方面开展深度合作,共同推动信创产业生态的完善与发展。
2025-11-21 13:13
走进国家重要野生植物种质资源库辰山中心种子冷库,零下20摄氏度的寒气扑面而来,一排排整齐编号的收纳容器中,是进入“深度睡眠”状态的各类野生植物种子。
2025-11-21 09:53
小雪时节,容易发生感冒、皮肤干燥、关节疼痛及咳嗽等不适,大多因为寒燥外袭、津液失调。
2025-11-21 09:52
当前,关于精神疾病与心理治疗,公众还有哪些常见误解?带着这些问题,本报记者采访了北京安定医院多位专家。
2025-11-21 09:49
2023年11月,“天衍”量子计算云平台正式发布,截至目前,访问量已突破3700万次,覆盖海内外60多个国家和地区的用户,实验任务数超过270万个。
2025-11-21 09:47
20日,记者从南京大学获悉,该校沈树忠院士团队的侯金波博士等人记录了湖北省通山县一处距今约5.4亿年的埃迪卡拉纪化石宝库,并将其命名为“通山特异埋藏化石库”。
2025-11-21 09:38
完成第一阶段6G技术试验,形成超过300项关键技术储备,资本加速布局6G生态……尽管6G网络预计将在2030年开始部署,但我国6G产业布局正加速铺开,呈现政策护航、技术攻坚、资本活跃的特征。
2025-11-20 09:11
谷山梁3吉瓦/12.8吉瓦时储能电站项目建成后,每年预计可向电网输送36亿千瓦时的清洁能源电力。“独立新型储能电站放电时为发电企业,充电时视同电力用户,电网的峰谷电价价差形成利润空间,吸引企业投身于此。
2025-11-20 09:11
中国第一辆蒸汽机车就诞生在我的家乡唐山。我为之骄傲。为此,大学学习机械制造与设计专业的我,毕业后,就一头扎进轨道交通检测设备研发领域。
2025-11-20 04:25
常有人说,发动机是火箭的“心脏”。而我从事的工作是,液体火箭发动机推力燃烧系统高精密产品的生产加工,所以大家都叫我“火箭心脏钻刻师”。
2025-11-20 04:25
四川全口径外送电量已超1.9万亿千瓦时。这一规模相当于江苏、浙江、安徽三省全年用电量之和,标志着四川落实“西电东送”能源战略取得丰硕成果,
2025-11-20 04:25
大国重器又传好消息!江门中微子实验(JUNO)装置建成运行仅两个月,就取得首个物理成果——测量太阳中微子振荡参数,结果比此前实验的最好精度提升了1.5~1.8倍。
2025-11-20 04:35
为促进卫星导航定位产业有序发展,维护国家地理信息安全,我国将对卫星导航定位基准站实行统一规划、统一标准、统一监管。针对目前基准站重复建设、存在数据安全隐患等主要问题,办法规定自然资源部会同有关部门制定全国基准站建设布局规划。
2025-11-19 09:52
18日,我国首个配置冷却塔的“华龙一号”核电机组——中广核山东招远核电项目1号机组顺利完成核岛第一罐混凝土浇筑,标志着该项目一期工程建设全面启动。
2025-11-19 09:51
加载更多