点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:探索新路径 筑牢AI产业安全根基
首页> 科技频道> 人工智能 > 正文

探索新路径 筑牢AI产业安全根基

来源:经济参考报2025-03-03 09:02

  近来,DeepSeek遭到黑客持续攻击,侧面反映出国产大模型面临的安全困境。

  不可否认,以DeepSeek为代表的中国开源大模型的崛起,不仅降低了大模型训练和部署的成本,加速了人工智能技术的普及,也打破了技术封锁与商业壁垒的双重禁锢,推动人工智能行业走向更加开放的新时代。但是,如同一把双刃剑,作为开源大模型,DeepSeek同样需要面对所有开源软件共同的安全挑战:由于源代码开放,开源软件的安全问题比闭源软件更加复杂,攻击者可以自由查看、修改源代码,进而引发潜在的安全漏洞。

  这并非杞人忧天,DeepSeek的遭遇就证实了这个规律:一方面,来自外部的网络攻击持续时间长、破坏力大、手段多、变化快;另一方面,在部署和应用中发现的漏洞,暴露出多种安全风险。

  有鉴于此,2025开年以来,各家安全公司严阵以待,纷纷探索新路径、新范式,以筑牢网络安全防线,为国产大模型保驾护航。

  比如,亚信安全与亚信科技近日联合发布的大模型安全解决方案,其思路可以归纳为“以人工智能护航人工智能”,不仅融合了亚信科技大模型产品在重点行业领域的丰富实践经验,而且依托亚信安全在大模型安全领域的研究成果和技术实力,打造了兼具实战需求和大模型发展要求的安全解决方案,由云安全防护系统、大模型安全网关、终端数据防护系统、AI应用风险防护系统四大系统提供防护,为大模型建立起覆盖基础层、模型层、工具层和AI应用层的四层纵深防护。与此同时,该方案还提供两项专业服务,即人工智能风险评测和人工智能安全服务,定期进行风险评测评估,护航大模型及应用安全。

  今后,随着越来越多应用场景的落地,国产大模型仍将面临层出不穷的新风险。大模型安全不应该只是“亡羊补牢”,更应该未雨绸缪,重构安全体系。

  对此,多位受访专家表示,应重视大模型在安全架构、漏洞响应、数据合规等方面的“系统性短板”,从多个层面入手,综合运用多种手段,打造全方位、多层次的安全防护网络,尤其是要建设大模型的“原生安全”能力。

  更为重要的是,大模型在安全领域的应用潜力巨大,凭借其卓越的推理能力、定制化的训练方式和开源特性,能够有效提升各种安全任务的执行效率和准确性。因此,探索大模型在安全领域的创新应用、以大模型治理大模型安全问题成为重要方向。

  业界已经形成共识,大模型是一个覆盖多行业的交叉生态系统,大模型安全风险的综合治理不仅仅只是技术问题,需要政府、企业、科研机构等多方力量参与其中,群策群力,夯实国产大模型发展的基础,打开思路为人工智能产业保驾护航。(吴蔚)

[ 责编:肖春芳 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 距乌镇峰会开幕还有3天

  • 进博会场整装待发 静待开幕

独家策划

推荐阅读
近年来,中国审定推出了一批高产稳产、绿色节水、优质专用小麦新品种。2021年,这一情况出现了转变:“圣泽901”“广明2号”“沃德188”等3个国产白羽肉鸡品种通过审定,中国白羽肉鸡育种攻关实现从0到1的实质性突破。
2025-11-04 09:06
党的二十届四中全会提出,“加快高水平科技自立自强,引领发展新质生产力”“加快经济社会发展全面绿色转型,建设美丽中国”。
2025-11-04 04:25
人工智能的出现源于人类对提升生产效率与改善生活品质的持续追求,这一根本动因要求其发展必须始终以服务人类、增进福祉为核心。
2025-11-04 04:25
如何在新学期开展针对性训练,做好运动前准备和运动后体能恢复,已成为受到广泛重视的问题。
2025-11-04 04:25
我所在的他山中学,是贵州黔北山区的一所普通县中,有着4000多名师生。作为校长,我常常在思考:在现有条件下,如何为学生开辟更广阔的成长路径?在日复一日的探索中,
2025-11-04 04:25
11月3日11时47分,我国在文昌航天发射场使用长征七号改运载火箭,成功将遥感四十六号卫星发射升空,卫星顺利进入预定轨道,发射任务获得圆满成功。
2025-11-04 04:35
鸟类是生态系统的重要组成部分,是评估区域生态环境质量的关键指示物种,保护鸟类是推动人与自然和谐共生的关键环节。我国是世界上鸟类资源最为丰富的国家之一,
2025-11-03 05:05
人民城市人民建,人民城市为人民。2025年7月,中央城市工作会议指出,“要深刻把握我国城市发展所处历史方位”,“认真践行人民城市理念”,“以建设创新、宜居、美丽、韧性、文明、
2025-11-03 05:05
“从南极到北极,从草原到荒漠,到处都有昆虫的踪迹……”第三十二届中国杨凌农业高新科技成果博览会期间,西北农林科技大学博览园昆虫博物馆内,参会观众被讲解员李姗姗的讲述深深吸引。
2025-11-03 05:05
近日,中国科学院南京地质古生物研究所早期生命研究团队在湖北宜昌“石板滩生物群”研究中取得重要进展,发现了迄今最古老的复杂三维潜穴系统,
2025-11-03 05:05
秋水长天间,太湖正激荡起智能时代的万千涟漪。日前,以“万物智联,无尽前沿”为主题的2025世界物联网博览会在江苏无锡举办,一场关于万物智联的对话就此展开——人工智能如大脑般睿智思考,物联网似躯体般敏捷连接,当人工智能与物联网双向奔赴,万物就有了“感知”,人类正迎来一个全新智能时代。
2025-11-03 05:05
秋冬之际,正是候鸟迁徙之时。不知你有没有发现,从我们头顶飞过的候鸟,比以前更多了! 2024年全国水鸟同步监测结果显示,我国越冬水鸟总数达505.9万只,创最高纪录。
2025-11-03 05:05
HPV疫苗自2025年11月10日正式纳入国家免疫规划,2011年11月10日后出生的满13周岁女孩可以免费接种双价HPV疫苗。
2025-10-31 10:16
近日,飓风“梅利莎”横扫加勒比地区,成为近年来影响该地区最猛烈的飓风之一。
2025-10-31 10:14
10月30日下午,在中国科学院大连化学物理研究所(以下简称大连化物所),得知同事张洪章即将到“太空”出差的好消息,科研人员纷纷送上祝福:“好好照顾自己,好好完成任务。
2025-10-31 10:02
据新一期《天体物理学快报》报道,LIGO-Virgo-KAGRA国际合作组织宣布,他们在去年10月和11月探测到两起极为特殊的、由黑洞并合产生的引力波事件,分别命名为GW241011和GW241110。
2025-10-31 09:59
记者从生态环境部获悉:今年前三季度,我国环境空气质量和地表水环境质量总体持续改善。从重点区域来看,京津冀及周边地区“2+36”城市PM2.5平均浓度为33.0微克/立方米,同比下降15.6%;平均优良天数比例为73.5%,同比上升8.5个百分点。
2025-10-31 09:57
执行神舟二十一号载人飞行任务的航天员乘组由张陆、武飞、张洪章3名航天员组成。张陆担任指令长。
2025-10-30 13:03
记者10月29日从国家统计局获悉,根据国家统计局社科文司《中国创新指数研究》课题组测算,2024年中国创新指数为174.2(以2015年为100),比上年增长5.3%。
2025-10-30 10:15
绿氨作为绿氢核心载体与低碳原料,正成为钢铁、化工等高耗能行业实现深度脱碳的关键路径。
2025-10-30 10:12
加载更多