点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:企业高社工、高对抗的钓鱼攻击,安全大模型何解?
首页> 科技频道> 互联网 > 正文

企业高社工、高对抗的钓鱼攻击,安全大模型何解?

来源:光明网2024-05-17 18:41

  大家好,我是某个不方便透露名号的头部大企业的信息安全工程师。实不相瞒,自从干了这一行,提心吊胆就成了家常便饭。

  你说甲方单位的安全那么难做吗?那倒也不是,毕竟现在各种安全设备齐齐整整,安全服务无微不至,一般小喽啰也打不进我们这铜墙铁壁。但我最怕的,还是钓鱼。为什么怕钓鱼?因为我们人太多了!

  著名黑客凯文·米特尼克在《反欺骗的艺术》中曾提到,人为因素才是安全的软肋。我们集团大几万人,无论举办多少场安全培训,也没法防住哪位兄弟姐妹一时疏忽上当。

  好了,再吐槽就不礼貌了,说说我现在为什么半夜三点惊醒,原来是安全GPT检测到了一个钓鱼攻击。

  想到领导和我说安全GPT在高社工、高对抗的钓鱼攻击测试中,在传统检测引擎仅检出15.7%的情况下,检出率竟高达91.4%,误报率也更低,只有0.046%,我还有点不相信,没想到真有效果。擦掉我的冷汗,我决定明天再研究这件事。

  故事始末:由“租房补贴”引发的钓鱼事件

  第二天一早,我就直奔工位,研究起了到底是谁,半夜三点还在虎视眈眈我司。

  点开aES后台的安全GPT分析,原来是员工小王收到了一封《公司年度租房补贴申请》的邮件通知,发件人是高仿的公司邮箱,正文是催促他尽快扫码填信息申请补贴,过期不候。

  但安全GPT从发件人、正文内容、二维码页面和二维码链接判断出这封邮件就是钓鱼邮件。由于我之前设置了自动化处置,安全GPT直接进行了处置,并给我发了信息。

  不得不说,攻击者时机把握得非常精准,最近我们公司就在收集年度租房补贴的信息,如果我是一名普通员工,说不定也就相信了。

  没等我感慨完,后台又出现了一条安全告警。果不其然,另一位员工疑似收到了“公司HR”给他发送的补贴申请文件,他没有多想就打开了。而安全GPT却发现,文件解压后,除了释放申请说明的word文档,还拉起了后台其他进程。

  这妥妥又是一个文件钓鱼攻击事件!

  我心下惊喜,这安全GPT还怪好的嘞。才用上没几天,立刻就拦住了这么典型的事件,就这么解决了我的心头之患?

  本着活到老学到老的精神,我找到了深信服的研发进行一番深入交流。

  钓鱼难题:人性弱点+强对抗VS规则防御

  简单的寒暄之后,我直切主题:“这是怎么做到的?”

  深信服研发老哥腼腆一笑,说:“我们有这么高速运转的安全GPT进入网安行业……”

  我急了,“你说人话。”

  “好的,最主要是两个点,原谅我先卖个关子。首先让我们回想一下,在防钓鱼这条路上,以往是不是主要依靠杀毒软件、邮件安全网关设置的规则来防御?但规则有上限吗?没有的,攻击者可以伪造的场景和文件特征是无限的,总有能引人上当的新花样。”

  这可真是戳中我的痛处了,无数个寒风彻骨的加班夜,我们部门都在那人工判断海量的靠规则隔离的邮件和文件……我佯装淡定说道,“有道理,你继续。”

  “第二个难点,攻击者也不傻,他们知道安全设备是怎么进行检测的,加密加壳混淆,甚至干脆把文件做成一个下载器,这样一操作,恶意特征少,再加上变种多,识别难度就大大提高了。靠杀毒软件、规则检测技术甚至AI小模型都难以防御。”

  “我懂,正是因为我懂,我才好奇你是怎么解决的。”

  “所以,我们要靠大模型来解决问题。接下来我就要讲讲安全GPT+aES探针防钓鱼最重要的两个能力了。”

  安全GPT+aES探针=智能灵敏的防钓鱼安全专家

  “深信服安全GPT通过强大的自然语言处理能力、钓鱼攻击推理能力和海量安全知识储备,借助aES探针在端侧的邮件数据、文件信息和行为数据采集,不仅能够理解攻击意图,更能关联起完整且隐蔽的攻击链,像安置在每位员工身边的王者级防钓鱼专家一样。

  区别于传统检测技术的两个能力就在于攻击意图识别和全链条行为关联分析。

  精准识别攻击意图,识破伪装欺骗手法

  再缜密的防御规则,也难以把利用人性弱点的钓鱼攻击一网打尽,以往基于规则和AI小模型的检测技术都无法真正防住钓鱼攻击。

  安全GPT“另辟蹊径”,基于大模型推理分析,把判断的核心放在攻击意图的分析上,像思维缜密的安全专家一样透过表面看本质。

  场景一:火眼金睛识套路,社工欺骗别沾边

  企业HR给员工发补贴申请邮件、银行给个人发重置密码邮件、工作伙伴给你发来说明文件……从发件人到内容,攻击者伪造无限个”官方邮箱“或”无害人设“,模拟无限个日常工作生活场景,让人应接不暇。

  安全GPT内嵌了很多海量知识,如安全常识、情绪诱导等,同时,能够理解自然语言,像人一样理解背后的意图,火眼金睛识别攻击者的伪装欺骗套路。

企业高社工、高对抗的钓鱼攻击,安全大模型何解?

  场景二:主动踩坑辨真伪,高仿网页秒识别

  二维码中间加上官方LOGO,视觉上做到无害,一定程度上也让员工放下戒心,更加难以识别扫码后的高仿网页欺骗性。

  安全GPT会像安全专家一样使用二维码提取、网页爬取等工具,分析二维码内容,看接收地址是不是官方地址、页面代码是否存在克隆痕迹等,还会主动查询威胁情报做对比域名归属地和注册信息等,即使二维码快速变化也能精准识别。

  全链条行为关联分析,免杀、加密无处遁形

  说一个红队常用的钓鱼手法:首先通过“网络异常”“咨询业务”“需要客服服务”等借口骗取IT运维人员、客服服务人员的信任,随后发送看似正常、却带了木马的加密压缩包,一旦下载并打开,受害者的电脑就会被远程控制,进行下一步恶意行为。

  这样的高对抗手段,传统的检测引擎无从查起,甚至在产生严重后果后也无法溯源。

  安全GPT借助aES探针对文件名称、文件后缀以及终端行为数据进行全量采集和关联,再加上大模型进行推理分析和意图识别,不从文件特征出发,而是基于文件名称、后缀等信息去推理文件落盘后的正常行为,再去对比实际行为看是否发生偏离,从而定性攻击。

  例如,下图攻击者利用“企业税收稽查”文件进行的钓鱼攻击,GPT识别到它的文件名字和后缀,推理这个文件的正常行为应该只释放一个word文件,实际却同时释放了其他文件或拉起了其他进程等后渗透行为,安全GPT经过推理和对比分析判断出此为钓鱼攻击,精准检测。

企业高社工、高对抗的钓鱼攻击,安全大模型何解?

  通过3万高对抗钓鱼样本与100万白样本测试验证,对比传统方案,安全GPT+aES探针的检出率从15.7%飞升至91.4%,误报率从0.15%降低至0.046%。

  2023年APT钓鱼攻击模拟演练的7条攻击链,当前无论是传统还是国际的检测产品,都只能检出1~3条,而安全GPT依靠更高维度的检测能力能够全部检出,检测效果和攻击链完整还原度远超其他检测产品。

  除了能精准检测,我们也同时支持自动化及手动下发两种处置形式,有效闭环钓鱼事件。”

  “有点意思,搞得我对我的工作更有信心了呢。”

  “必须有信心,安全GPT从去年国内首发并落地到现在,已经迭代演进到3.0版本了,累计已在金融、能源、政府机关等130多家企业真实环境测试和应用。在真实场景下应用形成的海量优质数据,又会促进安全GPT防钓鱼数据飞轮,让防钓鱼的能力越来越强。未来也还会有更多场景的应用。”

  “那以后就靠你们了。”想到以后不需要为钓鱼攻击掉头发,我的心情不禁好了很多。(王宇)

阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 倒计时2天!人工智能安全治理分论坛即将举行

独家策划

推荐阅读
走进展区,多款新潮文创让人爱不释手;戴上设备,苏轼笔下的诗词世界任人遨游;指尖轻点,三千年前的青铜器“触手可及”……一系列新产品、新服务、新场景在2025年中国国际服务贸易交易会文旅服务专题亮相,漫步其中,处处感受到科技与创意奔涌、文化和旅游融合的无限活力。
2025-09-15 09:54
在2025年中国国际服务贸易交易会上,一批品类丰富、兼具趣味与文化内涵的文创精品成为展会现场的“人气王”,引爆观展热潮。
2025-09-15 09:54
最大网络基础设施的建成有助于我国突破关键技术的“卡脖子”困境,形成自主可控的核心技术优势,建立起数字经济产业的第二创新生态。 (作者:戎 珂,系清华大学社会科学学院经济学研究所所长、长聘教授;田晓轩,系清华大学社会科学学院经济学研究所博士研究生)
2025-09-15 09:53
今年暑期,工厂游火爆出圈。参观名额秒空、门票收入可观、社交平台相关笔记有10多万条,工厂游俨然成了文旅界新宠。 工厂游等新型旅游业态,实现了工业与文旅的跨界融合,也为文旅经济的发展提供了新增长点。
2025-09-15 09:52
深夜,河南焦作多氟多新材料股份有限公司的实验室依旧灯火通明,总工程师闫春生还在带着团队忙碌。 2006年,多氟多打响了由传统氟化工向精细氟化工、新能源材料转型的战役,闫春生临危受命加入六氟磷酸锂研发团队。
2025-09-15 09:51
2025年中国国际服务贸易交易会9月10日至9月14日在北京举办,众多科技产品亮相展区,吸引观众驻足参观。2025年中国国际服务贸易交易会9月10日至9月14日在北京举办,众多科技产品亮相展区,吸引观众驻足参观。
2025-09-12 10:08
汽车排放被认为是气候变化的“元凶”之一,但学术界一直缺乏对城市道路碳排放进行精准刻画的工具。”借助全景AI模型,可实现二氧化碳排放源的精准提取,模型的平均精度超过93%、平均误差低于1.3ppm(ppm为百万分比浓度)。
2025-09-12 10:01
习近平总书记指出:“要把握人工智能发展趋势和规律,加紧制定完善相关法律法规、政策制度、应用规范、伦理准则,构建技术监测、风险预警、应急响应体系,确保人工智能安全、可靠、可控。人工智能系统的可靠性不能停留在统计意义上的“高概率正确”,而应追求在复杂、开放、动态环境下的“高置信可靠”。
2025-09-12 10:01
10日,2025世界顶尖科学家协会奖(以下简称“顶科协奖”)获奖者名单在上海公布。顶科协奖是2021年在上海发起创设、由红杉中国独家提供永久资金支持的面向全球科学家评选的科学大奖。
2025-09-12 09:59
全球规模最大恐龙蛋化石群——湖北十堰青龙山恐龙蛋化石群的埋藏时代,首次被科学家认定为距今约8600万年。专家考证,这是迄今全球分布最集中、规模最大、埋藏最好、原地出露最多、原址保存最好的恐龙蛋化石群。
2025-09-12 09:58
9月10日上午,在马来西亚吉隆坡召开的国际灌排委员会第七十六届国际执行理事会会议上,2025年(第十二批)世界灌溉工程遗产名录正式公布,我国申报的云南元阳哈尼梯田、江苏句容赤山湖灌溉工程、四川彭州湔江堰、北京门头沟永定河古渠灌溉工程全部成功入选。
2025-09-11 10:18
“十四五”以来,我们牢固树立和践行绿水青山就是金山银山的理念,全力当好自然资源“大管家”和美丽中国“守护者”,全面完成了“十四五”规划的目标任务,有效支撑了经济社会的高质量发展。
2025-09-11 09:57
未来,城市的画卷上,AI、物联网与大数据等现代科技将继续深化推广,但唯有始终以人的尺度丈量技术,以人文的关怀驾驭创新,方能使城市永葆文气的深度、人气的热度与烟火气的温度,让每座城市都在科技的守护中,找到生生不息的发展动能。
2025-09-11 09:52
北京大学的科研团队与合作者联合开发出一种全新的“高维超分辨成像”技术,成功实现了对活细胞内15种细胞器的同时成像与精准识别,为细胞生物学研究打开了一扇全新的大门。
2025-09-11 09:43
要为“年纪尚小”的新职业破解“成长的烦恼”,不仅要完善新职业的职业标准和评价规范,还要有能跟上步伐的教育培训和职业培训,为新职业从业者提供支持政策,提升社会保障水平,以更好的保障制度、更强的身份认同感、更完善的培养体系为新职业就业者提供更广阔、更精彩的发展舞台,让他们在与时代“同频共振”的岗位上实现人生价值,也为创新创造的活力涌动持续贡献力量。
2025-09-11 09:39
宋美珍是中国农科院西部农业研究中心的棉花研究专家。2012年起,她和团队将目光瞄准新疆的棉花种植,成为当地棉花研究的一支重要技术力量。
2025-09-10 10:09
“十四五”以来,我国制造业增加值每年均超过30万亿元,总体规模稳居全球制造业首位。这份沉甸甸的成绩单,印证着推动新型工业化取得的新进展新成效。
2025-09-10 09:47
9月9日,2025年中国国际服务贸易交易会开幕前夕,记者跟随首钢媒体探营团,走进北京首钢园,提前探访服贸会的精彩内容。
2025-09-10 09:40
9日10时,我国在文昌航天发射场使用长征七号改运载火箭,成功将遥感四十五号卫星发射升空,卫星顺利进入预定轨道,发射任务获得圆满成功。
2025-09-10 09:39
光明日报北京9月9日电 记者李春剑从市场监管总局了解到,自2021年全国机器人标委会成立以来,我国已发布机器人领域国家标准126项,另有41项正在研制。近日,世界机器人大会和世界人形机器人运动会火爆“出圈”,相关产业发展引起各方热议。
2025-09-10 09:36
加载更多