点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:给智能体应用装上“制度护栏”
首页> 科技频道> 综合新闻 > 正文

给智能体应用装上“制度护栏”

来源:光明网-《光明日报》2026-05-14 02:25

  作者:吴晓林(南开大学国家治理研究院院长、中国式现代化发展研究院高级研究员)

  近日,国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》(以下简称《实施意见》),明确支持探索智能体在城市规划、建设与治理环节的规范应用,同时将智能体安全、可靠、可信作为产业发展的底线要求。

  当前,以手机助手、终端智能管家、云端智能体等为代表的智能体产品加速涌现,呈现规模化应用态势,极大便利了人们的工作生活。智能体的广泛使用,使得各类风险能被快速感知、及时处置,城市也变得更加“聪明”、更有韧性。例如,上海警方首创的“交通治堵大模型”已在全市360个路口部署应用,平均车速提升12.9%;北京街道10万余井盖、地下6800余公里管道全部接入智慧巡检系统,智能井盖一旦监测到异常沉降,30秒内自动报警;天津中新生态城搭建起智能感知网络,可精准识别道路污染、建筑垃圾倾倒等行为,并实时上报预警信息,如同24小时在岗的“虚拟哨兵”。这样的智能体应用,在全国各类城市已经越来越多了。

  然而,技术跑得太快,也会让人心有疑虑。智能体的权限会不会越界?决策是否有效?如果决策出了问题谁来负责?隐私数据会不会“裸奔”?这些问题,老百姓关心,城市管理者更得放在心上。技术更新迭代速度快,制度建设跟不上,就会产生大量隐患。城市治理不是智能体的实验室,它关系着千家万户的切身利益,一旦出了问题,所带来的破坏和损失往往难以估量。在这方面,国外已有前车之鉴。

  这给我们提了个醒,智能体本身不是问题,真正的问题在于缺少“制度护栏”。当智能体帮我们提供服务时,它调用的数据是否必要、依据了什么规则,决策错了得纠偏问责;城市大脑调配信号灯时,算法偏差了得有人及时“踩刹车”;无人机飞越上空时,不能侵犯他人隐私和侵扰他人生活。也就是说,智能技术不能是“技术自运转”,它的运行必须有规矩、有边界。《实施意见》的出台,就是要及时填补技术应用与制度建设的“落差”。它不是给智能体创新“踩刹车”,而是给智能体“装上方向盘、系上安全带、画好轨道线”。

  智能体的应用,要遵循以人为本的理念。说到底,智能体是工具,它应该服务于人。《实施意见》明确要求“确保用户对智能体自主决策享有知情权和最终决策权”,正是将人的主体性摆在了核心位置。近日,工业和信息化部办公厅印发了《关于实施人工智能科技伦理审查与服务先导计划的通知》,将在北京、上海、天津、广东、山东等10个省市开展AI科技伦理审查。这些探索正是回归到人的权利本位。城市管理者要让智能技术从“无限运算”转向“最小必要运算”,从“替人做主”转向“助人决断”,让每一个被智能体服务的市民,享受得到服务、看得见规则、找得着说法。

  智能体的效果,取决于“制度护栏”的保障。政府不能只做智能技术的“使用者”,更要做智能体生态的“塑造者”。各地须统揽各类智能体,根据应用场景的风险高低,审慎划定智能体“可为”与“不可为”边界,同步建立算法备案与影响评估制度,让每一套算法在上线前先“过审”;同时完善人工复核与申诉救济机制,确保智能决策有据可查、有人负责、有地方说理。“制度护栏”不是为了束缚智能体,而是为了让它在服务市民的轨道上跑得更稳。

  智能体的生态,要靠多元共治的协同。智能体不是政府和企业的“专属工具”,它连接着企业、社区和普通市民。《实施意见》强调“坚持以人为本、智能向善、多元共治、安全稳妥”,鼓励行业自律、信用评价建设,引导公众和企业、高校、科研机构积极参与,这就是共建共治共享。政府应从单一的“智能体使用者”转向“多元共治的塑造者”。在这方面,国内已有鲜活实践。

  国务院国资委牵头打造的“焕新社区”,由25家企业、高校和标准化机构共同发起,面向全社会开放了40个央企高价值场景,使AI创新成果惠及更多中小企业和开发者。这启示我们,开放合作的智能体生态更有生命力。智能体的接口不仅应该开放给基层单位,而且应该向社会公众开放,用以成为“众包平台”,使政府内外的行动者能够在此基础上创新应用、共同治理。要让居民对影响自己生活的算法有发言权,让第三方机构参与评估认证,让行业自律与政府监管形成合力。

  《光明日报》(2026年05月14日 02版)

[ 责编:丛芳瑶 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 中国大熊猫保护研究中心迎来今年国内首只大熊猫幼崽

  • 2026味到京城美食节点亮北京夏日经济

独家策划

推荐阅读
“在洞窟里,把冷光灯打开,面对着千年壁画的那一刻,所有的烦恼都会瞬间远离,觉得能近距离接触如此杰出的艺术品,是很震撼、很幸运又很幸福的事。遵循这一“笨规矩”,于宗仁组织完成了莫高窟与甘肃省内外多处壁画彩塑保护方案与实施工作,例如莫高窟千像塔彩塑保护修复、莫高窟第196窟壁画彩塑保护修复,以及麦积山石窟部分洞窟的塑像壁画保护修缮等。
2026-06-11 10:23
国际科技出版机构施普林格·自然10日发布的自然指数2026科研领导者榜单显示,中国继续保持全球第一,2024年至2025年科研产出增长22.4%,是全球十强中唯一实现两位数增长的国家。机构表现方面,自然指数显示,中国科学院整体排名位列榜首,在除健康科学和社会科学以外的5个学科领域位居第一。
2026-06-11 10:23
量子传感是一种利用量子效应进行高精度测量的新技术。量子传感可通过增加粒子数量来提高传感性能,然而这面临一个重要挑战——量子热化。“这不仅深化了人们对量子热化这一基础科学问题的认识,也为发展新一代高灵敏度量子传感器提供了新的思路。
2026-06-11 10:23
扎根智能制造一线,很多像马遵农一样的年轻人用技术创新护航制造业转型升级。如今,基于模型的系统工程等方法已应用于飞机制造的各个环节,新工艺的研发更高效、更精准、更节约。
2026-06-11 10:23
阶段扩建,计划新增一个综合舱段,让空间站整体构型从“T”字变为“十”字。从初具规模的三舱组合,到不断扩容升级,中国空间站的成长,是中国载人航天稳步发展的缩影。
2026-06-11 10:23
6月9日16时23分,朱雀二号改进型遥六运载火箭在东风商业航天创新试验区发射升空。
2026-06-10 09:57
6月8日,火烈鸟在盐湖湿地嬉戏,成为一道亮丽风景线。
2026-06-10 09:57
日前,长江干线首个“复式航道”在安徽土桥水道和大通水道试运行,预计每日分流200余艘上行浅吃水船舶。
2026-06-10 09:52
近年,智能除锈凝胶与高相容性的新型加固材料的研发与成功应用,分别为脆弱青铜器无损清除锈蚀病害与矿化层加固提供了创新方法。
2026-06-10 09:51
为了让更多患者在关键时刻“用得上、用得起”,一群年轻的航天人坚定踏上了国产ECMO攻关之路。
2026-06-10 09:48
作为长江、黄河、澜沧江发源地,青海多年来持续推进三江源水生生物资源保护修复,持续巩固青海省高原河湖生态屏障。据悉,此次大批量土著鱼苗放流,进一步充实了黄河上游鱼类资源储备,对修复河道生物群落、改善水域生态环境具有积极作用。
2026-06-09 09:57
记者从自然资源部中国地质调查局获悉,“海洋地质六号”船近日完成深海地质调查第16航次科考任务,在深海地质环境调查、海洋探测关键技术装备研发应用等方面取得多项成果。
2026-06-09 09:56
培育新质生产力、建设现代化产业体系,是推动经济高质量发展、夯实中国式现代化产业根基的重要任务。未来产业依托前沿技术与颠覆性创新引领发展方向,赋能传统产业与新兴产业,拓展发展边界、培育全新增长点。
2026-06-09 09:52
人工智能与数智技术的发展,无疑是当下人们最为关切的议题之一。
2026-06-09 09:50
耕地是保障粮食安全的根本。当前,我国耕地质量总体呈现稳中有升良好态势,东北黑土地保护性耕作面积持续扩大,南方酸化耕地治理和北方盐碱地改造利用均取得积极进展。
2026-06-09 09:36
6月5日,记者从哈尔滨医科大学获悉,该校周钦、崔飞云教授科研团队融合人工智能、表面增强拉曼光谱检测与血液代谢分析技术,打造出一款全新的血液代谢分子解析检测平台。阿尔茨海默病是高发老年神经退行性疾病,依靠血液样本进行早期微创筛查,即液体活检,是当下临床医学的热点话题。
2026-06-08 09:56
近日,在山东胜利油田油区护卫中心,飞手贾承斌坐到电脑前,轻点鼠标,操纵室外无人机群升空。
2026-06-08 09:57
生态环境部日前发布的《中国履行〈生物多样性公约〉第七次国家报告》显示,截至2025年底,与生物多样性有关的27个国家目标中,我国有21个目标取得显著进展。
2026-06-08 09:57
大国工匠是我们中华民族大厦的基石、栋梁。大国工匠作为各领域的技艺集大成者,是工匠精神的生动代言人和时代典范,他们身上闪耀着执着专注、精益求精、一丝不苟、追求卓越的光彩。
2026-06-08 09:57
“甘肃是我国著名的‘有色金属之乡’,镍、钴、铂族金属等矿产资源储量全国领先,在国家战略资源安全保障中具有不可替代的地位。项目组将充分吸纳专家意见,力争提出务实管用、可落地、能实施的咨询建议,为保障国家资源安全贡献“甘肃方案”。
2026-06-08 09:57
加载更多