点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:以数据安全促进人工智能健康发展
首页> 科技频道> 人工智能 > 正文

以数据安全促进人工智能健康发展

来源:光明网-《光明日报》2025-11-25 03:05

  【学思践悟】

  作者:肖文(浙江大学经济学院教授)

  党的二十届四中全会指出,“加快人工智能等数智技术创新,突破基础理论和核心技术,强化算力、算法、数据等高效供给”。人工智能作为新一轮科技革命的关键领域和产业变革的核心动力,引领着经济社会发展范式变革。习近平总书记指出,“全面推进人工智能科技创新、产业发展和赋能应用,完善人工智能监管体制机制,牢牢掌握人工智能发展和治理主动权”。数据、算力和算法是人工智能的三大要素,数据为人工智能发展提供了“燃料”,而人工智能发展又会形成海量数据,由此形成人工智能迭代演进的良性循环。在实践中,保障数据安全,强化高质量数据供给,对于人工智能健康发展至关重要。

  数据安全是人工智能健康发展的必要条件

  2022年末大模型兴起,今年初DeepSeek以开源模式进一步推进了人工智能的迭代及应用,人工智能技术从实验室走向经济社会,对数据安全提出了更高要求。保障数据安全,为人工智能发展提供稳定、可信、合规的环境,是促进人工智能健康发展的客观要求和必要条件。

  数据安全能为人工智能发展提供稳定环境。数据要素是数字经济时代的核心战略资产,充分释放数据要素价值是发展人工智能的必然要求。人工智能发展需要海量数据集聚并进行训练,但人工智能技术本身对于数据的真实性并无判断的能力,大量虚假的、失真的数据供给将会导致人工智能输出虚构信息。不仅如此,数据篡改、“数据投毒”等恶意行为,将会严重影响数据可靠性和完整性,直接破坏人工智能模型的性能,对于高度依赖人工智能决策的领域带来极大危害。例如,在无人驾驶、医疗诊疗等领域,大量虚假数据、合成数据等会导致输出结果失真,从而形成错误决策,带来风险挑战。保障人工智能数据安全,为人工智能提供真实可靠、训练充足的优质数据,能够为人工智能提供稳定的发展环境。

  数据安全能为人工智能发展提供可信环境。人工智能加速融入经济社会运行各个领域,能够集成公开数据、个人数据等各类数据,进而通过分析挖掘更深层次的数据。但人工智能模型黑箱的特性也导致数据源头追溯存在困难,大量的虚构信息将会导致幻觉问题,用户难以进行有效辨别和追溯,影响着人工智能应用和发展的底层逻辑。不仅如此,人工智能在发展进程中,算法设计、数据训练、决策执行等环节也存在着算法不透明、模型歧视、责任认定模糊等问题,倘若缺乏相应的监管,就会将既有的虚假信息、社会偏见等负面影响进一步放大并精准推送。提升数据安全性,保障高质量数据供给,对于营造一个可信的人工智能发展环境至关重要。

  数据安全能为人工智能发展提供合规环境。人工智能发展依托海量数据,推动我国人工智能朝着有益、安全、公平方向健康有序发展,源头在于保障数据安全。一方面,人工智能集聚海量数据,在模型运行、数据流通等环节中存在敏感信息泄露的风险。不仅如此,人工智能平台拥有强大的数据搜集能力,但原始数据与衍生数据的归属权、使用权等问题并没有明确的界定,数据保护有待提升。另一方面,基于人工智能技术开发的脑机接口、人机交互设备等产业不断兴起,这些产业的发展将会自主无意识收集大量个人敏感的大脑数据,并且极大改变人与人之间的交互模式,现有加密技术难以完全阻断黑客逆向解码风险,数据安全和隐私保护难度加大。保障数据安全,才能更好地破解人工智能发展过程中的隐私泄露、伦理风险等,推动人工智能合规发展。

  在人工智能技术进步中更好保障数据安全

  数据安全与人工智能健康发展相辅相成、互为依托,习近平总书记强调,“我国数据资源丰富,产业体系完备,市场空间巨大,发展人工智能前景广阔,要加强政策支持和人才培养,努力开发更多安全可靠的优质产品”。这就要求在数据安全中更好地促进人工智能健康发展,在人工智能技术进步中更好地保障数据安全,以高质量数据供给促进人工智能健康发展。

  强化关键核心技术突破。不论是保障数据安全,还是发展人工智能,关键在于以问题为导向,全面增强创新能力,确保关键核心技术牢牢掌握在自己手里。一方面,要加大对数据安全、人工智能等领域基础研究和关键核心技术的支持力度,通过设立专项资金等方式加大研发支持力度。尤其是发挥好企业创新主体作用,加强企业与科研院所在数据安全防护、数据加密传输等领域技术的联合攻关。另一方面,引导高校面向数据安全与人工智能发展等领域调整专业设置方向,以“微专业”培养高技术人才。同时,强化高校、科研院所、企业等创新主体联合培养复合型人才机制,充分发挥人才作为第一资源的作用。

  强化数据基础设施建设。数据流通是充分释放数据价值的重要路径,加快建设数据基础设施,能够更好地促进数据安全流通,为人工智能发展注入原动力。一方面,加快数据基础制度建设,形成数据领域的规划体系,加速构建数据要素全国统一大市场。同时,合理布局和建设数据可信空间,推进区域、行业数据基础设施互联互通以及算力基础设施一体化发展,保障数据要素安全流通。另一方面,加快数据标准体系建设,明确数据采集、数据挖掘、数据流通、数据保护等方面的标准,分领域推进行业数据高质量归集和高效利用。不仅如此,还要积极参与国际标准制定,提升数据标准领域的话语权。

  强化协同治理格局构建。保障数据安全既要应对技术风险,也要防范社会风险,需要政府、企业、协会、科研院所等多主体共同参与,构建和完善协同治理格局。一方面,在现行法律法规基础上,完善人工智能算法、加密数据保护、个人隐私保护等重点领域政策法规体系,健全完善数据治理、数据安全等制度,为保障数据安全奠定基础。另一方面,明确政府、企业等主体责任,创新监管模式,促进信息共享,强化公众参与,搭建协同治理的框架体系。尤其是构建数据安全的评估平台,制定人工智能数据安全的指标体系,降低数据安全风险,提升人工智能发展成熟度,以此促进人工智能健康发展。

  《光明日报》(2025年11月25日 06版)

[ 责编:邢彬 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 上海举行普通高校招生志愿填报现场咨询会

  • “汉语桥”比赛在多国举行 增进文化理解与民心相通

独家策划

推荐阅读
随着人工智能技术的不断突破和应用场景的加速拓展,AI相关领域人才需求攀升将成为未来较长一段时间内劳动力需求的重要趋势特征。企业作为劳动力市场的需求主体,也应主动应对AI技术变革,推动内部数字化转型,提升生产效率。
2026-06-15 09:17
智能经济带来的技术提升,不是对传统产业的简单替代,而是通过“人工智能+”行动实现全方位赋能。面对全球人工智能治理规则正在形成的窗口期,我国既要在技术上对标一流,更应在治理上贡献智慧,助力全球AI治理变革。
2026-06-15 09:16
过了芒种,在河南省获嘉县照镜镇樊庄村,村民宋其文家里的麦田已开镰,但他不慌不忙,心里稳得很。宋其文感受到的智慧灌溉来源于水肥一体机搭载的作物高效用水智能决策系统,在那里,天空地数据持续搜集,不断优化生成实时灌溉决策方案。
2026-06-15 09:16
在率先落地的机器人、数字人营业性演出场景中,符合条件的经营主体可将机器人、数字人作为演职人员纳入管理范畴。”  北京经开区有关负责人表示,下一步将持续优化试点流程、稳步扩大试点范围,做到放而不乱、管而有序、服务到位,全力扶持新业态、培育新主体、壮大新产业。
2026-06-15 09:15
6月14日,国家防总办公室、应急管理部组织自然资源部、住房城乡建设部、交通运输部、水利部、中国气象局等多部门联合会商,研判近期降雨发展趋势,研究部署重点地区防汛工作。
2026-06-15 09:13
在“环保智慧大脑”的加持下,河南省重点环境问题平均存续时间从17.4小时压缩至1.09小时,生态环境监管能力显著提升。近年来,河南省生态环境厅坚持科技创新驱动、智慧化引领,生态环境监管进入全流程智能化监测、执法、应急处置的数智化时代,环境治理格局正在重塑。
2026-06-15 09:13
据英国《自然》网站9日报道,美国生命生物科学公司当天宣布,首次通过细胞“部分重编程”疗法,尝试让一名青光眼患者眼部受损的衰老细胞“返老还童”。
2026-06-12 09:32
一项发表于《科学》杂志的最新研究,绘制了首张全球菌根真菌“地下网络”分布图。这是继去年《自然》杂志发表菌根真菌多样性全球分析之后,科学家首次实现对其物理密度的全球可视化。
2026-06-12 09:29
斯坦福大学数学家贾里德·杜克尔·利希特曼在社交平台X上将这种现象类比为国际象棋中的“非常规开局”,认为AI有时能跳出人类长期形成的“审美与惯例”。
2026-06-12 09:28
在前不久举行的第三十四届哈尔滨国际经济贸易洽谈会上,哈尔滨工程大学智能海洋航行器技术全国重点实验室的展台前,围满了参观者。
2026-06-12 09:27
如今,智谱的大模型已经成为全球众多顶级云服务商和知名编程平台的“默认选项”之一,深受海外开发者的欢迎。如果说智谱代表了AI通用大模型在信息空间的实力,那么北京科学智能研究院则展示了AI征服物理和微观世界的强大力量。
2026-06-12 09:26
“在洞窟里,把冷光灯打开,面对着千年壁画的那一刻,所有的烦恼都会瞬间远离,觉得能近距离接触如此杰出的艺术品,是很震撼、很幸运又很幸福的事。遵循这一“笨规矩”,于宗仁组织完成了莫高窟与甘肃省内外多处壁画彩塑保护方案与实施工作,例如莫高窟千像塔彩塑保护修复、莫高窟第196窟壁画彩塑保护修复,以及麦积山石窟部分洞窟的塑像壁画保护修缮等。
2026-06-11 10:23
国际科技出版机构施普林格·自然10日发布的自然指数2026科研领导者榜单显示,中国继续保持全球第一,2024年至2025年科研产出增长22.4%,是全球十强中唯一实现两位数增长的国家。机构表现方面,自然指数显示,中国科学院整体排名位列榜首,在除健康科学和社会科学以外的5个学科领域位居第一。
2026-06-11 10:23
量子传感是一种利用量子效应进行高精度测量的新技术。量子传感可通过增加粒子数量来提高传感性能,然而这面临一个重要挑战——量子热化。“这不仅深化了人们对量子热化这一基础科学问题的认识,也为发展新一代高灵敏度量子传感器提供了新的思路。
2026-06-11 10:23
扎根智能制造一线,很多像马遵农一样的年轻人用技术创新护航制造业转型升级。如今,基于模型的系统工程等方法已应用于飞机制造的各个环节,新工艺的研发更高效、更精准、更节约。
2026-06-11 10:23
阶段扩建,计划新增一个综合舱段,让空间站整体构型从“T”字变为“十”字。从初具规模的三舱组合,到不断扩容升级,中国空间站的成长,是中国载人航天稳步发展的缩影。
2026-06-11 10:23
6月9日16时23分,朱雀二号改进型遥六运载火箭在东风商业航天创新试验区发射升空。
2026-06-10 09:57
6月8日,火烈鸟在盐湖湿地嬉戏,成为一道亮丽风景线。
2026-06-10 09:57
日前,长江干线首个“复式航道”在安徽土桥水道和大通水道试运行,预计每日分流200余艘上行浅吃水船舶。
2026-06-10 09:52
近年,智能除锈凝胶与高相容性的新型加固材料的研发与成功应用,分别为脆弱青铜器无损清除锈蚀病害与矿化层加固提供了创新方法。
2026-06-10 09:51
加载更多