点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:深度解析:安全GPT检测大模型是怎样炼成的?
首页> 科技频道> 互联网 > 正文

深度解析:安全GPT检测大模型是怎样炼成的?

来源:光明网2023-12-28 11:33

  流量威胁检测的重要性无需多言。回顾发展历程,流量威胁检测技术经历了从正则匹配到语法语义匹配,再到结合统计分析、行为分析的机器学习小模型等技术路线。

  我们可以窥探其反映出攻击手段的升级迭代:从最开始带有明显特征,逐渐变成弱特征,甚至是组合利用的体系化攻击手法,再到最新的智能化手段运用。

  《世界互联网发展报告2023》中提到,网络攻防进入智能化对抗时代,低成本自动化的新形式网络攻击层出不穷。

  攻击者已经在利用AI大模型批量快速构建攻击工具、生成混淆攻击代码,并结合全方位立体攻击手法(如:0day 漏洞攻击、定向钓鱼、C2加密通信等)。很多人依然执着于通过持续叠加规则,包括结合云端情报等手段,让传统检测引擎应对新威胁,但这无异于以卵击石。

  深信服不沿袭老路,以Game Changer的思路独辟蹊径——利用大模型赋能流量检测。

  完爆传统检测引擎

  六项能力超越通用大模型

  深信服安全GPT可以作为检测引擎,赋能态势感知等传统安全设备,具备对未知攻击的意图理解、异常判定、混淆还原能力,当前已完成检测大模型的标准化落地。

  基于积累的千万条语料、千亿级Token的高质量训练数据,早在今年4月,安全GPT检测大模型的效果已显著超越了业界多家基于规则和小模型的流量检测引擎。经内部5000万样本数据测试,相比传统流量检测设备,安全GPT检出率由平均57.4%提升至92.4%,误报率由42.6%降低至仅4.3%。

  从实践中来到实践中去,安全GPT检测大模型一次次证明了自身实力:

  1.多方持续验证检测效果

  8月,在2023年大型实战攻防演练中,安全GPT检测大模型在没有任何先验知识的前提下,发现50+在野0day漏洞利用攻击。

  9-11月,深信服蓝军基于检测大模型的研判结果,捕获到了32个在野利用的0day漏洞,并将漏洞详情报送监管机构。

  10-11月,经多家用户验证安全GPT大模型,结果显示:针对25个高混淆数据包(可绕过传统引擎及通用大模型GPT-4),安全GPT检出率100%,其中针对三层混淆样本,传统引擎和通用大模型GPT-4均未检出;在实际网络环境中,与业界传统SOC、NDR产品进行对测,传统产品检出率平均12.5%,安全GPT检出率高达97.4%。

  2.六项能力均超越通用大模型

  结合安全专家经验,深信服从六个维度评估安全GPT检测大模型效果,分别是代码理解能力、攻防对抗理解能力、模型推理能力、安全基础知识能力、任务编排能力、模型幻觉对抗能力。

  结果显示,安全GPT检测大模型六项能力均超越通用大模型。

  我们知道,检测效果高度取决于对攻击代码的理解能力。通用大模型的参数至少十亿级别,其具有的理解、泛化、表达能力远超传统机器学习小模型,更非传统规则引擎可比拟。

  如今通用大模型已经可以对一段复杂的攻击代码进行高水平、准确地解读,不亚于人类高级专家。但深信服真正做到了把大模型能力运用到流量实时检测与研判中,并取得了更优异的效果。

  安全GPT检测大模型就像一个懂攻防、懂代码、懂协议的流量研判专家,对流量进行持续检测分析,从而发现传统检测引擎发现不了的高对抗、高绕过流量攻击。

  安全GPT检测大模型为何能降维打击?

  深信服通过知识蒸馏、模型量化、模型剪枝、Attention机制优化等,将安全GPT推理性能提升50倍,实现了在实际网络环境中,针对实时流量的实时检测。

  因而在实战考验面前,安全GPT取得了碾压式的优胜,从以下三个方面,几乎是对传统检测引擎的降维打击。

  1.少量样本/无样本前提下检出新型威胁

  传统语义分析技术开发成本高昂,且无法应对新型语言,导致传统检测引擎无法防御0day漏洞、高对抗攻击。

  安全GPT检测大模型通过学习大量开源的代码,先天性地对代码语义有深入理解,从传统代码片段Payload特征检测,进化到全报文综合分析的维度,能够挖掘弱特征攻击中的真实攻击目的,从而实现精准检测并减少误报。

  安全GPT 检测大模型还能触类旁通,实现更强的泛化能力,甚至能在少量样本/无样本的情况下,基于Zero/Few-Shot技术检测出新型威胁,因此大幅提升对0day漏洞攻击的检出率。

  2.破解攻击结果研判的业界难题

  众所周知,判定一个攻击是否成功是业界难题,也是安全运营工作中消耗大量人力精力的重头戏。传统的攻击成功检测引擎主要面临三大问题:攻击成功无回显、成功特征不固定、Payload混淆难理解的问题。

  安全GPT检测大模型不仅能还原攻击中的混淆Payload,还能从响应报文中动态识别其中是否存在攻击成功的特征。如下图中,通过将混淆的Payload还原成最简模式whoami,安全GPT能够准确识别攻击意图,进一步会关联分析响应的内容,从而判定攻击结果为成功。

  同时,针对攻击成功场景,不同的命令有不同的回显,有的命令回显无法提规则(比如whoami回显zhangsan)。安全GPT检测大模型在经过大量垂直领域数据训练后,能够找出潜在的攻击成功回显特征。

  3.自然语言辅助有效告警研判

  传统检测引擎在对威胁事件举证时,仅能通过高亮的方式展示恶意点。然而安全运营人员能力参差不齐,这种方式无法直接有效辅助其告警研判,时常导致高危事件的漏判误判。

  安全GPT检测大模型能够用自然语言对报文进行多维度剖析,辅助运营人员高效研判告警,突破人员能力和精力的瓶颈,真正实现“1个普通工程师+安全GPT检测大模型=N个安全专家”。

  安全GPT检测大模型是怎样炼成的?

  作为国内最早应用AI的网络安全厂商之一,早在2015年,深信服投入决策式AI技术的研究和应用。2016年,深信服不断加码AI技术并确立了AI First研发战略,在网络安全和云计算领域都有可落地、有效果的AI技术突破。

  由此,深信服积累了炼成安全GPT的必备要素:

  1.面向AI模型训练的高质量数据和算力

  持续累计的千亿级Token安全语料。

  自动化的训练数据生成和质量管理平台。

  55w+安全设备和组件接入云端。

  每日更新数千万训练样本。

  基于托管云的分布式算力平台。

  2.云网端智能产品架构

  数据采集/模型训练/部署落地全流程的安全产品。

  国内率先推出SASE、MSS等云化产品和服务。

  Genius AI研发平台模型训练速度提升3.5倍。

  全国100+节点托管云,支撑安全GPT贴近用户部署。

  3.四位一体的专家队伍

  快速组建既懂安全、又懂AI的专业团队。

  深信服相信,由“大模型+数据+安全和算法专家”形成的飞轮效应,将为安全GPT在威胁检测效果的提升持续带来巨大潜力。

  “世界上本没有路”,深信服将走出一条独特的安全GPT检测大模型之路,持续引领先锋体验,致力于每一位用户“安全领先一步”。(科文)

注:此文属于光明网登载的商业信息,文章内容不代表本网观点,仅供参考。
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 济南地铁4号线建设

  • 浙江废弃造纸厂变身影视城

独家策划

推荐阅读
令张治国兴奋的是,武王墩一号墓椁室盖板上已发现和采集墨书文字100多句、近千字,是典型的楚系文字。“对于南方潮湿环境下考古出土的丝绸保护而言,从饱水到干燥的过程,可以说是生死攸关。
2024-04-28 10:23
对此,《指导意见》明确了依法合规管理数据资产、明晰数据资产权责关系、完善数据资产相关标准、加强数据资产使用管理、稳妥推动数据资产开发利用等12方面主要任务。该负责人表示,为加强数字资产管理,《指导意见》突出以下基本原则:  坚持确保安全与合规利用相结合。
2024-04-28 10:19
为落实碳达峰碳中和目标,我国将应对气候变化作为国家战略,纳入生态文明建设整体布局和经济社会发展全局,加强顶层设计。
2024-04-28 10:17
复旦大学邯郸校区的一个小院里,藏着一件“镇院神器”——上海电子束离子阱装置。
2024-04-28 10:04
4月19日,元阳县沙拉托乡松树寨村的村民在哈尼梯田开展春耕播种。(张艳 摄)  在元阳县沙拉托乡的哈尼梯田缓冲区,当地举行“开秧门”活动,村民们在田间地头祈福,他们载歌载舞,迎接春耕的到来。
2024-04-28 10:03
研究人员表示,马岭河小苦荬的发现,表明兴义世界地质公园具有丰富的生物多样性,值得开展进一步系统性的调查研究。
2024-04-28 09:59
从1999年起,有着“神箭”称号的长二F火箭全程参与了中国载人航天工程“三步走”战略的每一步。它用100%的成功率,为航天员搭建出一条安全“天梯”。
2024-04-26 09:33
近期,人工智能(AI)+机器人赛道广受关注。尤翔宇表示,梳理人形机器人产业技术发展脉络,主要有底层硬件、运动控制和具身智能3条路线。优必选相关负责人表示,未来,公司将聚焦人形机器人的三大应用场景,包括工业制造、商用服务和家庭陪伴。
2024-04-26 09:41
中国工程院院士、中国探月工程总设计师吴伟仁在4月24日举行的2024年中国航天大会主论坛上透露,我国计划于2030年前后发射天问三号探测器,实施火星采样返回任务。
2024-04-26 09:40
春日里,云南双江县各大茶山的春茶迎来开采季。北回归线横穿而过的双江,拥有适宜茶树生长发育的自然条件,现有以“冰岛茶”为代表的百年以上栽培型古茶树3.69万亩。
2024-04-26 09:35
每年,都有这样一群“空中旅客”,南北来回奔波。迁徙之路漫长曲折,一路充满生死考验,它们却高声歌唱,不知疲倦地追逐着自己的目标。
2024-04-26 09:34
力争在生命科学等领域达到全球领先水平,在颠覆性技术和关键核心技术上实现重大突破;打造高水平人才集聚地,人才梯队体系较为完备,成为全球向往的创业乐土。
2024-04-26 09:26
4月25日20时59分,搭载神舟十八号载人飞船的长征二号F遥十八运载火箭在酒泉卫星发射中心点火发射,约10分钟后,神舟十八号载人飞船与火箭成功分离,进入预定轨道。航天员乘组状态良好,发射取得圆满成功。
2024-04-26 09:24
朱松纯表示,“通通”在日常学习与训练中,使用的A100芯片不超过10块,这意味着“通通”不依赖庞大的算力和海量数据就能学习成长。“通通”也可以与具身智能机器人相结合,为智能制造、智慧城市、医疗健康等领域带来革命性变化。
2024-04-26 09:38
日前,农业农村部发布非主要农作物品种登记撤销公告,撤销向日葵、黄瓜、甜瓜、油菜等问题品种312个,切实推进登记品种从严规范管理,持续营造激励创新、公平竞争的市场环境。
2024-04-25 10:36
英国牛津大学和美国麻省理工学院领导的一项新研究恢复了37亿年前的地球磁场记录,发现它与今天地球周围的磁场非常相似。
2024-04-25 10:34
“载人月球探测工程登月阶段任务经中央政府批准启动实施,总体目标是2030年前实现中国人登陆月球,目前各系统正按计划开展研制建设。神舟十七号航天员乘组在与神舟十八号航天员乘组完成在轨轮换后,计划于4月30日返回东风着陆场。
2024-04-25 10:32
国家卫健委24日发布的数据显示,2023年,我国居民健康素养水平达到29.7%,比2022年提高1.92个百分点,继续呈现稳步提升态势。 据了解,本次监测覆盖31个省(自治区、直辖市)的336个县(区)1008个乡镇(街道),对象为15岁至69岁的常住人口,共得到有效调查问卷73340份。
2024-04-25 10:30
中央气象台预计,24日夜间至26日白天,江南、华南等地雨势将再度加强,其中广东中部和西北部、广西东北部等地有大暴雨,局地伴有雷暴大风等强对流天气。
2024-04-25 10:28
加载更多