点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:给智能体应用装上“制度护栏”
首页> 科技频道> 综合新闻 > 正文

给智能体应用装上“制度护栏”

来源:光明网-《光明日报》2026-05-14 02:25

  作者:吴晓林(南开大学国家治理研究院院长、中国式现代化发展研究院高级研究员)

  近日,国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》(以下简称《实施意见》),明确支持探索智能体在城市规划、建设与治理环节的规范应用,同时将智能体安全、可靠、可信作为产业发展的底线要求。

  当前,以手机助手、终端智能管家、云端智能体等为代表的智能体产品加速涌现,呈现规模化应用态势,极大便利了人们的工作生活。智能体的广泛使用,使得各类风险能被快速感知、及时处置,城市也变得更加“聪明”、更有韧性。例如,上海警方首创的“交通治堵大模型”已在全市360个路口部署应用,平均车速提升12.9%;北京街道10万余井盖、地下6800余公里管道全部接入智慧巡检系统,智能井盖一旦监测到异常沉降,30秒内自动报警;天津中新生态城搭建起智能感知网络,可精准识别道路污染、建筑垃圾倾倒等行为,并实时上报预警信息,如同24小时在岗的“虚拟哨兵”。这样的智能体应用,在全国各类城市已经越来越多了。

  然而,技术跑得太快,也会让人心有疑虑。智能体的权限会不会越界?决策是否有效?如果决策出了问题谁来负责?隐私数据会不会“裸奔”?这些问题,老百姓关心,城市管理者更得放在心上。技术更新迭代速度快,制度建设跟不上,就会产生大量隐患。城市治理不是智能体的实验室,它关系着千家万户的切身利益,一旦出了问题,所带来的破坏和损失往往难以估量。在这方面,国外已有前车之鉴。

  这给我们提了个醒,智能体本身不是问题,真正的问题在于缺少“制度护栏”。当智能体帮我们提供服务时,它调用的数据是否必要、依据了什么规则,决策错了得纠偏问责;城市大脑调配信号灯时,算法偏差了得有人及时“踩刹车”;无人机飞越上空时,不能侵犯他人隐私和侵扰他人生活。也就是说,智能技术不能是“技术自运转”,它的运行必须有规矩、有边界。《实施意见》的出台,就是要及时填补技术应用与制度建设的“落差”。它不是给智能体创新“踩刹车”,而是给智能体“装上方向盘、系上安全带、画好轨道线”。

  智能体的应用,要遵循以人为本的理念。说到底,智能体是工具,它应该服务于人。《实施意见》明确要求“确保用户对智能体自主决策享有知情权和最终决策权”,正是将人的主体性摆在了核心位置。近日,工业和信息化部办公厅印发了《关于实施人工智能科技伦理审查与服务先导计划的通知》,将在北京、上海、天津、广东、山东等10个省市开展AI科技伦理审查。这些探索正是回归到人的权利本位。城市管理者要让智能技术从“无限运算”转向“最小必要运算”,从“替人做主”转向“助人决断”,让每一个被智能体服务的市民,享受得到服务、看得见规则、找得着说法。

  智能体的效果,取决于“制度护栏”的保障。政府不能只做智能技术的“使用者”,更要做智能体生态的“塑造者”。各地须统揽各类智能体,根据应用场景的风险高低,审慎划定智能体“可为”与“不可为”边界,同步建立算法备案与影响评估制度,让每一套算法在上线前先“过审”;同时完善人工复核与申诉救济机制,确保智能决策有据可查、有人负责、有地方说理。“制度护栏”不是为了束缚智能体,而是为了让它在服务市民的轨道上跑得更稳。

  智能体的生态,要靠多元共治的协同。智能体不是政府和企业的“专属工具”,它连接着企业、社区和普通市民。《实施意见》强调“坚持以人为本、智能向善、多元共治、安全稳妥”,鼓励行业自律、信用评价建设,引导公众和企业、高校、科研机构积极参与,这就是共建共治共享。政府应从单一的“智能体使用者”转向“多元共治的塑造者”。在这方面,国内已有鲜活实践。

  国务院国资委牵头打造的“焕新社区”,由25家企业、高校和标准化机构共同发起,面向全社会开放了40个央企高价值场景,使AI创新成果惠及更多中小企业和开发者。这启示我们,开放合作的智能体生态更有生命力。智能体的接口不仅应该开放给基层单位,而且应该向社会公众开放,用以成为“众包平台”,使政府内外的行动者能够在此基础上创新应用、共同治理。要让居民对影响自己生活的算法有发言权,让第三方机构参与评估认证,让行业自律与政府监管形成合力。

  《光明日报》(2026年05月14日 02版)

[ 责编:丛芳瑶 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 我国首条民营控股高铁客流破亿

  • 内蒙古阿尔山:多彩活动激活“清凉经济”

独家策划

推荐阅读
当地时间24日,世界气象组织在日内瓦为中国工程院院士、中国气象局卫星气象专家许健民颁发第七十届国际气象组织奖,表彰他为天气预报、卫星气象事业以及气象业务服务作出的卓越贡献。
2026-06-26 09:28
来自英国伦敦国王学院与加拿大麦克马斯特大学衍生公司Block Biosciences等机构的科学家,正在研制一类靶向IMPDH2酶的候选药物。团队已设计并合成了数百种靶向IMPDH2的候选药物,正从中层层筛选最优化合物,力争尽快推向临床开发。
2026-06-26 09:26
6月25日,以“弘扬伟大抗疫精神 走好疾控新长征路”为主题的2026年“我和我的疾控故事”宣讲会在中国疾病预防控制中心举办。中国疾病预防控制中心性病艾滋病预防控制中心综合防治与政策室主任单多的故事,要从一双生了冻疮的手讲起。
2026-06-26 09:23
届链博会期间,贸促智库交流活动暨全球供应链报告与指数发布会在京举办。2018—2025年,促进指数、连接指数、创新指数、韧性指数均呈上行态势,表明全球供应链继续朝着更具韧性、更有效率、更富活力的方向发展。
2026-06-26 09:20
需要看到,保护耕地是推进乡村全面振兴、建设宜居宜业和美乡村的重要组成部分,广大农民是保护耕地的重要行动主体。
2026-06-26 09:19
卢宇彤介绍,“灵晟”依托国产高性能CPU、片上高带宽内存、高速互连网络、高吞吐存储、三维浮动正交、全液冷散热等多项核心技术创新打造。如今,面向科学、工程、产业各领域的大规模应用需求,“灵晟”提供多学科、全流程、多精度融合的科学智能应用生产级平台。
2026-06-25 09:36
日内瓦时间6月24日,中国工程院院士许健民从世界气象组织秘书长塞莱丝特·绍洛手中郑重接过第70届国际气象组织奖奖章。作为我国气象卫星事业的开拓者、见证者,许健民的身影,也是中国气象人实干创新、勇攀高峰的生动写照。
2026-06-25 09:33
在中国与泰国联合倡议下,世界贸易组织信息技术协定委员会23日举办专题研讨会,围绕信息技术协定支持人工智能就绪及包容性数字化转型展开探讨。
2026-06-25 09:32
如果它们真的是宇宙中的某种全新的事物,将改变我们对宇宙的认知,正如20世纪60年代类星体(星系中心进食的黑洞)的发现彻底革新了星系演化理论一样。”  无论直接坍缩理论是否正确,小红点都可能是超大质量黑洞的前身,后者构成了现代星系的核心。
2026-06-25 09:27
绿电直连之所以能够从概念走向实践,离不开技术进步与产业协同的共同托举。随着市场机制与技术体系不断成熟,绿电直连有望从单点示范走向规模化网络发展,成为产业绿色转型的“新动脉”。
2026-06-25 09:32
事实上,天气预报从来不是一成不变的“标准答案”,而是一门在复杂大气运动中不断逼近天气真相的科学。但我们必须正视:天气预报是一门预测科学,天气系统的复杂性,是全球气象领域共同面临的世界级难题。
2026-06-25 09:28
AI的介入,正在将控制“人造太阳”从一门依赖经验和试错的手艺,提升为一门可计算、可预测、可自主优化的科学。
2026-06-25 09:31
瑞士巴塞尔大学科学家研制出一款多功能纳米递药机器人,由推进模块和有效载荷模块构成,两种模块可重复使用,并能够自行组装。
2026-06-24 09:58
从“双链贯通”升级为“四链融合”,折射出中国推动科技创新与产业创新深度融合的有力步伐。
2026-06-24 09:48
该成果通过改善帕金森患者最难治疗的行走障碍,开启了个性化神经调控新篇章。
2026-06-24 09:47
国家卫生健康委23日印发《营养指导员服务技术指南(试行)》,针对营养指导员提出营养监测与调查、膳食营养状况评价、营养咨询与指导、营养配餐、营养科普教育等五方面工作的技术能力要求。
2026-06-24 09:46
国家粮食和物资储备局23日发布的最新数据显示,随着夏粮陆续收获上市,旺季收购正逐步展开。
2026-06-24 09:44
瑞典哥德堡大学和查尔姆斯理工大学研究团队在人工智能(AI)应用方面取得新成果,教会一款名为SmartTrap的AI系统使用光学镊子,从而让光镊实现了全自动运行。光镊是一种利用高度聚焦的激光束来操控微小物体的技术,其操作对象包括单个DNA分子、活细胞以及其他直径远小于发丝的微观粒子。
2026-06-23 09:40
“十五五”规划纲要提出,建立健全数据产权、流通利用、收益分配、安全治理等数据要素基础制度。
2026-06-23 09:38
上午9时,随着小浪底水利枢纽3个闸门徐徐升起,巨大水流喷涌而出,在空中形成层叠奔涌的排浪,轰鸣着冲向水面——2026年度黄河调水调沙正式启动。
2026-06-23 09:35
加载更多