点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:给智能体应用装上“制度护栏”
首页> 科技频道> 综合新闻 > 正文

给智能体应用装上“制度护栏”

来源:光明网-《光明日报》2026-05-14 02:25

  作者:吴晓林(南开大学国家治理研究院院长、中国式现代化发展研究院高级研究员)

  近日,国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》(以下简称《实施意见》),明确支持探索智能体在城市规划、建设与治理环节的规范应用,同时将智能体安全、可靠、可信作为产业发展的底线要求。

  当前,以手机助手、终端智能管家、云端智能体等为代表的智能体产品加速涌现,呈现规模化应用态势,极大便利了人们的工作生活。智能体的广泛使用,使得各类风险能被快速感知、及时处置,城市也变得更加“聪明”、更有韧性。例如,上海警方首创的“交通治堵大模型”已在全市360个路口部署应用,平均车速提升12.9%;北京街道10万余井盖、地下6800余公里管道全部接入智慧巡检系统,智能井盖一旦监测到异常沉降,30秒内自动报警;天津中新生态城搭建起智能感知网络,可精准识别道路污染、建筑垃圾倾倒等行为,并实时上报预警信息,如同24小时在岗的“虚拟哨兵”。这样的智能体应用,在全国各类城市已经越来越多了。

  然而,技术跑得太快,也会让人心有疑虑。智能体的权限会不会越界?决策是否有效?如果决策出了问题谁来负责?隐私数据会不会“裸奔”?这些问题,老百姓关心,城市管理者更得放在心上。技术更新迭代速度快,制度建设跟不上,就会产生大量隐患。城市治理不是智能体的实验室,它关系着千家万户的切身利益,一旦出了问题,所带来的破坏和损失往往难以估量。在这方面,国外已有前车之鉴。

  这给我们提了个醒,智能体本身不是问题,真正的问题在于缺少“制度护栏”。当智能体帮我们提供服务时,它调用的数据是否必要、依据了什么规则,决策错了得纠偏问责;城市大脑调配信号灯时,算法偏差了得有人及时“踩刹车”;无人机飞越上空时,不能侵犯他人隐私和侵扰他人生活。也就是说,智能技术不能是“技术自运转”,它的运行必须有规矩、有边界。《实施意见》的出台,就是要及时填补技术应用与制度建设的“落差”。它不是给智能体创新“踩刹车”,而是给智能体“装上方向盘、系上安全带、画好轨道线”。

  智能体的应用,要遵循以人为本的理念。说到底,智能体是工具,它应该服务于人。《实施意见》明确要求“确保用户对智能体自主决策享有知情权和最终决策权”,正是将人的主体性摆在了核心位置。近日,工业和信息化部办公厅印发了《关于实施人工智能科技伦理审查与服务先导计划的通知》,将在北京、上海、天津、广东、山东等10个省市开展AI科技伦理审查。这些探索正是回归到人的权利本位。城市管理者要让智能技术从“无限运算”转向“最小必要运算”,从“替人做主”转向“助人决断”,让每一个被智能体服务的市民,享受得到服务、看得见规则、找得着说法。

  智能体的效果,取决于“制度护栏”的保障。政府不能只做智能技术的“使用者”,更要做智能体生态的“塑造者”。各地须统揽各类智能体,根据应用场景的风险高低,审慎划定智能体“可为”与“不可为”边界,同步建立算法备案与影响评估制度,让每一套算法在上线前先“过审”;同时完善人工复核与申诉救济机制,确保智能决策有据可查、有人负责、有地方说理。“制度护栏”不是为了束缚智能体,而是为了让它在服务市民的轨道上跑得更稳。

  智能体的生态,要靠多元共治的协同。智能体不是政府和企业的“专属工具”,它连接着企业、社区和普通市民。《实施意见》强调“坚持以人为本、智能向善、多元共治、安全稳妥”,鼓励行业自律、信用评价建设,引导公众和企业、高校、科研机构积极参与,这就是共建共治共享。政府应从单一的“智能体使用者”转向“多元共治的塑造者”。在这方面,国内已有鲜活实践。

  国务院国资委牵头打造的“焕新社区”,由25家企业、高校和标准化机构共同发起,面向全社会开放了40个央企高价值场景,使AI创新成果惠及更多中小企业和开发者。这启示我们,开放合作的智能体生态更有生命力。智能体的接口不仅应该开放给基层单位,而且应该向社会公众开放,用以成为“众包平台”,使政府内外的行动者能够在此基础上创新应用、共同治理。要让居民对影响自己生活的算法有发言权,让第三方机构参与评估认证,让行业自律与政府监管形成合力。

  《光明日报》(2026年05月14日 02版)

[ 责编:丛芳瑶 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 平陆运河建设有序推进

  • 山东青岛:大赛临近 赶制旗帜

独家策划

推荐阅读
“请帮我检索南京附近适合亲子旅游的路线”“我想买个电热水器,请帮我推荐几款实用的”……如今,越来越多的消费者开始将AI(人工智能)当作“随身消费参谋”。从规划旅游路线到挑选酒店民宿,再到日常购物选择,很多消费者习惯先问一问AI工具,再做消费决策。
2026-05-13 09:30
在这一过程中,颠覆性技术正由潜在变量转变为关键变量,成为重塑产业结构、重构竞争格局的重要力量。颠覆性技术具有“路径替代”特征,能够深刻改变产业格局。综上所述,未来产业发展呈现出“技术跃迁—场景转化—工程化扩张”的基本路径。
2026-05-13 09:22
搭载单核180个计算比特自主超导量子芯片的“本源悟空-180”量子计算机已上线运行,开始接收全球量子计算任务。
2026-05-13 02:30
2018年,厦大教师吴彩胜带着一群厦大青年来到这里。他们发现,当地的农副产品虽然产量不小,却因缺乏检测条件,面临“好产品难认证”的困境。
2026-05-13 02:20
浦江潮涌,惠风和畅。5月12日,第十二届亚太经合组织(APEC)食品安全合作论坛(FSCF)会议在上海举行。
2026-05-13 02:25
今年5月12日是第18个全国防灾减灾日,主题是“人人讲安全、个个会应急——提高防灾减灾救灾能力”。
2026-05-12 02:40
习近平总书记在加强基础研究座谈会上强调,基础研究是整个科学体系的源头,是所有技术问题的总机关。
2026-05-12 02:40
当前,我国正处于加快建设教育强国的关键时期。教育作为强国建设、民族复兴之基,战略地位更加凸显,迎来了前所未有的发展机遇
2026-05-12 02:40
十年来,北京大学考古文博学院坚守初心、守正创新,聚焦学科、学术、话语、育人四大体系一体化建设,并以实践创新贯穿始终,让四者协同赋能
2026-05-12 02:40
回顾人类社会发展史可以发现,任何一个国家的崛起都伴随着思想文化的兴盛和知识体系的自主建构。
2026-05-12 02:40
搭载AI创作PPT、AI绘画设计等功能的智能4G无线语音鼠标,具备清洗、离心、分选、培养等功能的全自动细胞制备一体机,覆盖多层级智慧生活场景的AI智能家居……
2026-05-12 02:40
据《自然》报道,联合国正在考虑设立31项新指标,以“补充并超越”全球衡量经济增长的主要指标——国内生产总值(GDP)。古特雷斯当天在美国纽约联合国总部举行的启动仪式上发表讲话,称该报告“迈出了纠正衡量进展方面长期存在的盲点的里程碑式的一步”。
2026-05-11 08:59
在中国科学院空间科学(二期)战略性先导科技专项的统筹布局下,依托中国科学院建制化优势,院内多家单位协同攻坚,成功完成卫星研制工作。接下来,中国科学院计划通过天地联合观测,深入开展有组织、体系化的前沿研究工作,解决一批国际公认的科学难题。
2026-05-11 08:58
面对质疑,路战远和团队天天扎进地里,一边在示范田讲技术,一边用实打实的产量说话。为了把技术讲清楚,路战远团队还自掏腰包,筹集经费40多万元,设计编撰了一套《保护性耕作技术·蒙汉对照》科普画册,把复杂的技术画成生动的漫画,让17万户农牧民看着漫画、学习技术。
2026-05-11 02:45
日前从中国科学院西北高原生物研究所获悉,全球唯一聚焦高寒、高海拔、强紫外特殊生境的专业化种质资源平台——青藏高原生物种质资源库
2026-05-11 03:15
旺季收购期间,国家粮食和物资储备局强化统筹组织,细化政策措施,相机灵活开展收储调控,多措并举推动产销衔接和农企对接,积极引导各类主体入市,不断激发市场购销活力,保障收购工作顺利开展。据初步统计,累计收购中晚稻1.03亿吨、玉米2.22亿吨、大豆1299万吨。河南、湖南、黑龙江3省启动中晚稻最低收购价执行预案,累计收购最低收购价中晚稻418万吨。
2026-05-11 02:45
“人类生活在大气之中,大气变化是有规律的,可以将其变化用方程方式来表示。” 李泽椿习惯用数据和公式说话,这位中国工程院院士、天气动力和数值预报专家说话慢条斯理,从没高声过。
2026-05-09 02:15
中医强调,“未病先防、既病防变、瘥后防复”。
2026-05-09 04:05
仓廪实,天下安。习近平总书记强调,只有农业强起来,粮食安全有完全保障,我们稳大局、应变局、开新局才有充足底气和战略主动。
2026-05-09 02:15
近期,某手机芯片厂商相关漏洞被不法分子定向利用,给网上热炒的“秒解BL锁”行为敲响了警钟。
2026-05-09 11:10
加载更多