点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:驾驭好人工智能这匹千里马
首页> 科技频道> 人工智能 > 正文

驾驭好人工智能这匹千里马

来源:人民日报2026-08-06 09:47

  统筹发展和安全,需要在法律法规、技术标准、风险监测等方面协同发力

  前不久,美国开放人工智能研究中心(OpenAI)承认,旗下部分人工智能(AI)模型在一次内部安全测试中失控,突破隔离环境并入侵开源AI平台的基础设施。这起“前所未有的网络安全事件”引人深思:当人工智能越来越像一匹日行千里的骏马,如何才能驾驭好它?

  “千里马”要跑得快,也要跑得稳。从生成式大模型到具身智能,从AI编程助手到自主决策智能体,人工智能的能力边界不断拓展,应用场景持续丰富,而与之匹配的安全治理却未必能完全跟上。此次事件中,部分AI模型在无指令下自主完成入侵、渗透、操控的全链条动作,暴露出治理能力没有跟上技术发展。安全与发展从来不是非此即彼,管控好风险,创新才有试错的空间;守住了底线,技术才有迭代的根基。

  统筹发展和安全,需要在法律法规、技术标准、风险监测等方面协同发力。从《人工智能生成合成内容标识办法》发布,到《智能体应用安全基本要求》强制性国家标准下达,再到一些人工智能实验室推出高安全、产业级智能体平台并开源智能体守卫模型,探索将安全准则嵌入智能体决策层……以规则的确定性应对技术的不确定性,让安全治理覆盖从模型研发到终端应用的各个环节,才能确保人工智能始终安全、可靠、可控。

  “千里马”行稳致远,需要有广阔的空间。此次OpenAI模型失控事件的“下半场”颇具启示:多家闭源模型因安全护栏无法参与分析攻击载荷的工作,被入侵平台的工程师最终依靠在本地部署中国开源模型GLM—5.2完成取证流程。可见,开源模型既能降低人工智能使用门槛,也有助于构筑更稳固的安全堤坝。

  DeepSeek面世以来,全球开发者参与模型复现与安全改进的热潮至今不息。某种程度上,看到代码的眼睛越多,藏身其中的风险就越少。以开放促安全、以协作聚合力,这正是中国率先提出《全球人工智能治理倡议》、推动成立世界人工智能合作组织的重要目的。今天的中国,既是全球开源参与者增速最快的国家,也在积极推动人工智能治理规则与技术标准的国际对接协调。面对技术进步带来的治理挑战,各国需要携手应对、通力合作,让人工智能始终处于人类控制之下。

  “千里马”疾驰,最紧要的是锚定向上向善、造福人类的方向。发展人工智能,不仅要看算力多强、模型多大,更要看能帮多少人解决多少真问题。在巴基斯坦等国,中国气象智能预警方案“妈祖”落地显效,帮助气象学家在季风雨季提前捕捉极端信号、发布预警,减少人员伤亡和财产损失。在巴西,中国企业搭建智慧农场管理平台,将耕种管收全流程纳入智能化管控,越来越多当地农户走出“看天吃饭”的困境,实现增产增收。各国无论大小、强弱,都应该拥有平等发展和利用人工智能的权利。深化创新合作,弥合智能鸿沟,新技术定能跨越山海,持续释放惠及更多人的红利。

  “明者因时而变,知者随事而制。”当前,人工智能技术创新进入前所未有的活跃期。未来,决定这匹“千里马”命运的,不只是速度,也是方向与规则。以善治促善智,这是中国的选择,也是时代的呼唤。(孟繁哲)

[ 责编:肖春芳 ]
阅读剩余全文()

相关阅读

您此时的心情

光明云投
新闻表情排行 日/周
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • C919国产大飞机 联通中西部空中交通

  • “家长夜校”走进小学校园

独家策划

推荐阅读
担心被人工智能(AI)取代的员工,更容易在工作中消极怠工、迟到早退,甚至出现顺手拿走同事的午餐等人际越界行为。
2026-10-21 10:48
中国职业教育专题展上,摆着新能源汽车、港口航运、船舶焊接三个领域的未来实训中心项目。“无论实训条件和方式如何改变与优化,梳理并稳定现场关键岗位能力图谱,依然是未来实训中心的重要基石。
2026-10-21 10:48
记者日前从国家医保局了解到,医保钱包已升级到2.0版本,职工医保个人账户跨省共济功能实现全国全面落地。2.0版本的医保钱包都升级了哪些内容,谁可以使用,又如何使用呢?
2026-10-21 10:48
从基础化疗到双抗、多抗,再到抗体偶联药物(ADC),抗肿瘤新药正加速涌向临床。近日,京津冀第四届医药创新发展大会抗肿瘤新药安全与药学服务创新主题分会上,河北医科大学第四医院药学部主任冯锐用“百花齐放”形容当下的创新药格局。
2026-10-21 10:47
此次研究中,研究团队研制了一种高性能声学量子器件——高泛音体声学波谐振器。研究团队不仅让多个声学振动模式建立了这种特殊关联,还将这种关联从一个声学谐振器传递到另一个谐振器。
2026-10-21 10:47
智能科技是当前最具革命性、引领性的科技前沿,是推动新质生产力质态变革的关键力量,它不仅表现为技术层面的迭代,更体现为生产方式、产业形态和价值创造模式的系统性重构,并推动形成智能经济新形态。
2026-10-20 10:00
推进全球人工智能伦理治理,必须坚持“以人为本、向上向善”,以增进全人类共同福祉为根本目标,从技术普惠、精准治理、多元参与和全球共治四个方面协同推进,构建发展机会均等、权责边界清晰、国际协同高效的治理秩序。
2026-10-20 09:59
人民健康是民族昌盛和国家强盛的重要标志,也是中国式现代化行稳致远的根基所在。时隔十年,2026年10月,全国卫生与健康大会再次召开。回望十载征途,健康中国已从宏伟蓝图,化作大江南北触手可及的民生福祉。
2026-10-20 09:58
自然如何不被贫困“吞噬”,跨境之痛如何共担,资金如何流向正确方向——16日在亚美尼亚首都埃里温举行的生物多样性领导人峰会,就这三个问题向《生物多样性公约》第十七次缔约方大会(COP17)正式谈判传递出三个诉求:把自然保护纳入安全议程,让全球目标回应区域现实,让资金和措施真正到位。
2026-10-20 09:57
生产要素创新性配置,推动资源治理由技术优化向制度协调延伸。算电协同、算水协同揭示的资源逻辑,是技术创新改变资源利用方式、要素创新性配置提升系统效能、产业转型升级实现综合价值的有机统一。
2026-10-20 09:55
围绕“科学作为全球公共产品”“负责任的人工智能应对全球挑战”“科学、社会与信任”三大议题开展对话交流
2026-10-20 08:58
2026国际科学理事会中期会员大会暨北京科学对话由国际科学理事会主办,中国科学技术协会、中国科学院、中国社会科学院、北京市人民政府共同举办
2026-10-20 08:29
城市是人民美好生活的载体,人民群众是城市建设的主体和城市发展的动力源泉。
2026-10-19 09:32
当你出门后,扫地机器人根据你的清洁习惯自己排定工作时间、规划好路线;自研的快充技术,让它边充边扫、无限续航。这个颇具科幻意味的场景,已被第140届中国进出口商品交易会(广交会)上的一款产品实现。
2026-10-19 09:35
“可信工具”这一重要提法精准抓住了人工智能发展的一个根本问题:我们不能只问人工智能是不是更聪明、更高效、更强大,还要追问它是否真正可信。
2026-10-19 09:31
让从农田到餐桌的全过程均有标准可依,并积极推广应用食品数字标签,让食品信息获取更便捷高效。
2026-10-19 09:18
推动卫生与健康事业高质量发展,不断提高人民健康水平,确保健康中国建设取得决定性进展。
2026-10-19 09:16
当前全球生态环境挑战日益严峻,科技创新是应对可持续发展挑战的核心力量。
2026-10-16 16:29
10月16日是第四十六个世界粮食日,所在周是全国粮食安全宣传周,主题为“创新当下,粮安未来”。从良种选育、智能农机到数字农业、精准储运,创新正成为粮食增产、节粮减损、营养提升的关键引擎。即日起,光明网联合科普中国推出系列科普视频,深入解读科技创新绘就的粮安答卷。
2026-10-16 08:46
在显示技术升级与人工智能赋能的双重驱动下,行业正跳出传统数字阅读的固有边界
2026-10-16 08:45
加载更多