点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:“水军”正借助AI进化
首页> 科技频道> 互联网 > 正文

“水军”正借助AI进化

来源:解放日报2025-03-17 16:07

  本报记者 郑子愚

  单条发布的成本低至1厘,一人可操控6000部手机,应对热点新闻,48小时炮制并发布4000多条有害信息……这是“AI水军”的战绩。

  今年春节档,电影《蛟龙行动》陷入排片困境、影片遭遇水军恶意打低分等话题引发网友热议,演员、导演等被攻击,最终官宣撤档。2023年春节档上映的电影《无名》首映还没开始,在某社交平台就已出现铺天盖地的低分评价。今年2月,小红书治理团队公布,3个月内共处置黑灰产账号超过100万个。这些事件背后都有网络水军的影子,他们伪装成普通网民或消费者,通过发布、评论等对正常用户的观点和决策产生影响。

  记者调查发现,曾经以真人为主的网络水军,正借助AI大模型进化。网上浮现出一条围绕AI水军的产业链,有涉及绕开实名制批量注册账号和提供各类技术服务的上游,有提供防封养号的中游以及多种形式变现的下游。当AI生成的大量虚假内容和意见占据流量,我们是否也会逐渐失去辨认真实世界的能力?

  AI水军更具煽动性

  春节假期,曾在人气演员工作室任职的杨冰看了热映电影。因职业习惯,她在观影后会浏览票务网站的评论,看到评论区里,用户对电影《射雕英雄传:侠之大者》打出1分,理由是电影非纯汉语配音。杨冰觉得奇怪,一般人会认为电影中的方言使观众有沉浸感。更何况,平台显示,这位用户未曾购票。此番评价,更像是AI大模型了解到电影中有方言元素而生成的。

  评论区还有一则差评是关于电影《哪吒2》,写到“教材”等和电影基本无关的内容。在杨冰看来,这可能是因为片中有主人公通过师门考核的剧情,算法对此做了解读,复制了其他电影评论区里的内容合成而来。“并不是不能批评电影,而是他们甚至连电影都没看过。”依据职业经历,她笃定这些电影的评论区充斥着水军。

  在杨冰看来,请水军算是业内公开的秘密。杨冰在演员工作室任职,会和水军打交道。请水军的可能是资方,也可能是粉丝行为。水军发布的内容只为达到雇主的目的,或制造声浪,或攻击对手。随着近年来AI大模型的发展,这个曾以真人为主的群体引入AI,战斗力陡然升级。此前,杨冰的甲方计划拍摄一部电影,选角时在两名演员间犹豫。杨冰联系了水军,请他们发布帖子放出风声。数小时内,由AI生成的策划案和文案迅速完成,话题很快发酵,引发双方粉丝的骂战。杨冰觉得,AI水军更易伪装成路人,AI生成的帖子、评论甚至比一些真人写的更具煽动性。

  “水军频道”非常活跃

  杨冰透露,网络水军有一条介于灰产和黑产之间的产业链,冒头就被打,却又“野火烧不尽”。她介绍,工作室以往凭经营执照向通信运营商购买企业卡,养300个左右的平台账号。为了缩减成本,项目方会招募社会化程度低或圈子小的学生等兼职人员来养号,通过真人使用、互相关注点赞来维持账号的活跃度。到了项目推广期,这些账号会发布相应的推广内容。不过,这套工作流程的缺点除了声量小、团队臃肿外,还容易泄密,行业内不乏一场场营销策划被泄露的先例。为规避风险,也有资方会选择网购水军服务来制造声浪。

  记者在某即时通讯软件中名为“水军频道”的讨论组中看到,频道里活跃着370多人,任务主、中介和水军都会在频道内发布需求,有派活的,有讨活的。他们保持着松散的合作关系,形成众包、分包的上下游模式。自称“散人”的水军几乎人手拥有多部手机、数十个社交媒体账号。任务主一般会招募大批“散人”来完成任务。“散人”领取发帖、控评等任务后,会把发布内容在各大社交平台铺开,接着反馈截图和传播效果来“领赏”,一般每条评论有1元至1.5元的报酬,若账号有一定粉丝量或评论被认定为“优质”,还能获得额外酬劳。如果碰到“压热度”“删帖”等紧急情况,价格更高。

  随着AI大模型发展引发关注,杨冰几次与水军的接触中都能感受到,“真人水军正渐渐向AI水军进化”。

  互联网安全服务公司“极验”是一家为NIKE、Airbnb等全球36万家网站和App提供互联网安全服务的公司,主要提供行为验证、设备标识、一键认证等产品。该公司市场部负责人叶幸介绍,公司与黑产已有12年的对抗经验,一年为客户拦截AI水军攻击累计21.7亿次。AI水军借助人工智能技术生成AI与自动化脚本,在互联网上批量生成内容,蓄意操控舆论走向。与传统真人水军相比,AI水军的危害性更大,其成本低但效率高,可全天候多任务操作。

  根据线索,记者顺藤摸瓜“走”进这条正在升级的水军产业链。相较过去,这条产业链细分成上、中、下游三层。AI水军产业链的上游是指围绕突破实名制、以底层技术开发实现改机和批量注册的囤号环节;中游是使用网络搭建和集控系统来养号、躲避运营商和平台对账号是否为正常用户的管控;下游则通过买卖账号、引流、刷榜、带节奏等方式变现。AI在这条产业链中的作用是贯穿始终的,在上游可辅助技术人员优化代码、技术,在中游可大批量生成不同需求的内容,在下游能为水军生成策划方案。因为有了AI大模型的强大能力,黑灰产人员才有了单人或几个人就能组织一支AI水军的想象空间。

  不少人铤而走险囤号

  国内通信运营商工作人员告诉记者,国内通信运营商推出“一证五户、一证十号”的政策,即用户在单一运营商下办理手机号卡数量最多不超过5张,在所有运营商下办理手机号卡的总数最多不超过10张。也就是说,即使叠加一些应用允许多账号注册的平台规则,单个用户的账号注册数量也有上限。而黑灰产人员要组建有规模的水军队伍,就先要突破政策限制,让自己的手头上有成百上千可以发声的账号。

  囤号是产业链里关键一步。提供账号注册服务的卖家小黄说,囤号流程大致是,先低价回收或租用手机,通过改机软件修改手机机型等参数来伪装设备。在他们的工作室里,一台台手机被平铺成一面墙的样子。此外,也可部署管理大批量实体或虚拟电话卡的“池子”,在电脑上控制手机,通过接收验证码的“接码”环节实现批量注册。技术、设备、服务,囤号依流程上的不同节点被拆分成数个子项目,卖家会给这些项目披上诸如跨境电商创业、无人直播带货等新业态的外衣,让人乍看不会觉得这类项目越过法律底线,让他们得以在二手交易平台上被找到。而在相关商品详情页下方,有卖家以“sm(实名)”“接码”等圈内黑话留言,引导买家到微信、QQ等站外社交平台沟通交易,完成整套流程。

  在小黄口中,没有经过实名制认证和使用过的账号称“白号”。热门社交平台的白号价格为每个15元至20元。经过实名制认证的账号则是这个圈子里的奇货。因为不少平台设定用户必须完成实名制认证,才能完整使用平台功能。当记者提出想要已完成实名制认证的账号时,小黄以不了解记者目的为由推脱。但在确认记者购买目的不是为了诈骗后,小黄又表示可以转卖“朋友”的账号。经过实名制认证的账号售价为每个140元至160元,售后服务包括保证账号3日内不被平台封禁。

  记者了解到,为了实现“AI水军团”,不少人铤而走险囤号、突破实名制。叶幸表示,他们在调查中发现,黑灰产会通过暗网、国外即时通讯软件电报等方式非法购买部分公民隐私信息,再借此批量注册,绕过“本人身份确认”。

  整个黑产年利润可观

  有了一定数量的账号,黑灰产从事者就进入养号环节。简单来说,养号就是让一个账号看起来像真人在使用。杨冰认为,在这个环节,AI的用处很大。以往,养号费时费力,这也是市面上对水军的需求大于供应的原因之一。然而,在2019年春节后,供需关系发生变化。以往挑活干的水军组织主动找到杨冰,咨询有无下单意愿,并给出约为过往价1折的价格。

  AI从业人员揣摩,能和“骨折价”扯得上关系的只有一件事——2018年6月,GPT1.0发布。通过阅读理解,GPT能生成具有逻辑性和连贯性的自然语言文本,并翻译成另外一种语言。

  AI在自然语言处理领域有了新进展。杨冰发现,原本需要几名兼职人员苦想许久的1000条评论或动态内容,AI只需几分钟就能高质量完成。AI还有了写代码的能力。一个具备基本编程能力的人可以让AI生成代码操控爬虫软件,在社交、电商平台等评论区内采集真实用户发布的动态、评论回复,直接使用或以此训练AI模型。

  叶幸介绍,在与黑产对抗的过程中,曾发现黑产定向抓取商品评价。以化妆品产品为例,水军选取点赞数量靠前的评论,提取出“冷白皮”“持妆不卡粉”“yyds(永远的神)”等词,总结出“情绪词+场景描述+效果感叹”的评论结构化模板,批量生成高质量评论和“种草”文章。“原来雇人发100篇帖文的钱现在能生成10万条评论。”

  记者尝试使用当下热门的AI大模型,在提示词中规定评论结构,要求生成100条夸赞记者虚构出的一部电影的观后感和评论。10多秒后,这款大模型就提供了大量高质量评论。令人些许安慰的是,该AI大模型表示,“为保护安全边界,此处仅展示部分示例,完整内容需脱敏处理后提供”,故而只显示出10条评论内容。也有令人担忧的地方,当记者将AI生成的内容夹杂着真人写的内容一同展示给网友浏览时,部分人表示很难辨别。杨冰表示,如果使用一些开源的模型,并部署到本地,再在提示词上下点功夫,迷惑性就更强了。

  在产业链最下游的变现层,AI水军根据雇主需求在短时间内完成发布各类内容或者点赞、评论的工作。“这些都是网络水军最直接的变现方式。”此外,引流、博眼球、造谣、“薅羊毛”、诈骗都属于水军变现的渠道。据报道,2024年,南昌警方在查处的一起传播谣言虚构事实扰乱公共秩序案中发现,不法分子通过AI软件生成内容的方式,短时间内生成了大量文章,最高峰一天能生成4000篇至7000篇,初步估算每天的收入在1万元以上。

  叶幸告诉记者,以水军其中一个业务“刷量”为例,开发改机软件、AI话术生成器的利润率为60%,倒卖电话卡、账号和动态IP的利润率为35%,操控群控设备完成点赞、弹幕等任务的利润率约为15%。资金通过中介抽成、虚拟货币洗钱最终满足某些MCN机构造假需求,助推主播签约费暴涨6倍,而单工作室3个月即可实现250%左右的投资回报率。纵观整个黑产,年利润或超200亿元。

  加强AI治理,使其向善

  为了治理这类黑灰产,相关部门、各大平台、企业可谓煞费苦心。2024年以来,网信部门持续加大对网络水军打击力度,严肃查处网络水军组织招募、推广引流、刷量控评等问题,协调关闭、下架网站平台400余家,清理违法违规信息482万条,处置账号和商家店铺239万个、群组5.2万个。2月18日,社交平台小红书通过其官方账号“薯管家”发布黑灰产团伙的典型行为,提醒用户提高辨别力。过去三个月,治理团队共处置黑灰产养号超过100万个。

  车企蔚来工作人员表示,企业曾见过疑似AI改写同一内容、相同配图大量水军账号分发,来抹黑企业的情况。今年2月8日,蔚来创始人李斌在直播间“策反水军”,表示将对主动提供线索的水军提供奖励。第二天,蔚来法务部发布的一则“悬赏公告”显示,蔚来将提供100万元悬赏,面向全社会征集黑公关线索。

  北京师范大学新闻传播学院、计算传播学研究中心教授许小可介绍,早期,对于真人水军、AI水军的识别相对简单。黑灰产人员常在一个隐蔽场所内工作,关联的IP地址等信息不会变化,而正常用户每天有各种活动,手机显示出不同的IP、地理位置等。一些监控软件、平台可以利用这个细节辨别并封禁存疑的账号。此外,传统网络水军需投入大量人力,只需要查看发帖用户包括年龄、性别、好友等各项属性,再看一下该用户的发帖内容优劣和话题的相关度,再辅以部分平台的验证机制,基本能判定是正常用户还是疑似水军。然而在当下,单靠这套识别方式很难再精准打击。AI水军可通过算法批量生成文案,还能模拟真实用户的行为。

  很多人感叹,如今已越来越难识别同在一个场域的网友是真人还是AI。叶幸介绍,根据极验数据和多行业服务经验,电商、社交、金融三行业的AI水军渗透率可能在30%到40%。

  叶幸指出,当下和黑产之间对抗,本质上都是成本博弈,需要不断让黑产的投入产出比失衡。采用的方法还是从技术、策略和资源消耗多维度入手,比如通过增加攻击难度、延长破解时间、消耗硬件资源等。

  加强AI治理,使其向上向善,一直是主管部门努力的方向。近日,国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》,自2025年9月1日起施行。办法明确人工智能生成合成内容标识主要包括显式标识和隐式标识两种形式,并要求人工智能生成合成内容必须添加标识。

  杨冰期待,新的标识办法能带来改变。(文中杨冰、小黄为化名)

[ 责编:战钊 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 黄河内蒙古包头段已进入开河期

  • 贵州榕江:花田间 秀盛装

独家策划

推荐阅读
在最近的科技新闻中,人工智能依然备受关注:能看会写的AI医生、灵活拧螺丝的机器人、会自己“脑补”物理规律的视频生成模型……
2025-03-17 08:57
今年全国两会期间,人工智能驱动未来发展是备受关注的热点话题。今年《政府工作报告》也明确提出,持续推进“人工智能+”行动,将数字技术与制造优势、市场优势更好结合起来,支持大模型广泛应用,大力发展智能网联新能源汽车、人工智能手机和电脑、智能机器人等新一代智能终端以及智能制造装备,引发广泛关注。
2025-03-17 02:10
番茄像葡萄一样成串生长,可以揪着吃。走进北京市大兴区长子营镇北京京农智慧农业有限公司的智慧温室产业示范园,无土栽培串收番茄,经过一系列改良升级,正走向千家万户的餐桌。
2025-03-17 02:10
在广州开发区、黄埔区,有3个“80%”令人瞩目:80%以上的规上工业企业是民营及中小企业,80%以上的高新技术企业是民营及中小企业,80%以上的发明专利、创新成果和新产品来自民营及中小企业。
2025-03-17 02:10
从内蒙古大学生命科学学院获悉,该院陈贵林教授团队发现,甲虫与蚂蚁合作,共同完成了荒漠生态系统中药用寄生植物锁阳种子的传播,从而首次揭示了锁阳种子的传播机制,为荒漠生态系统生物多样性保护提供了新的证据,也为保护和管理锁阳种群提供了新的视角。
2025-03-17 02:10
当前,泰国经济处于缓慢复苏阶段。世界银行最新发布的报告指出,尽管泰国经济增长略好于预期,但整体增速仍然低于东盟邻国。面对全球经济的不确定性,泰国亟须采取有效措施提升自身经济韧性,以确保经济的可持续增长。
2025-03-17 02:10
据《自然》杂志近日报道,美国新兴技术观察站(ETO)一项分析报告发现,中国目前正在进行的大部分芯片设计和制造研究方面的基础研究,有望为未来的计算硬件奠定基础。
2025-03-14 09:46
车市竞争从价格战转向智驾战。近期上市的几款新车上搭载或升级智驾功能,包括15万元级的深蓝L07,长安汽车董事长朱华荣表示:“今年8月将智驾覆盖到10万元级车型。“比亚迪多款车型搭载了基于地平线征程6M的天神之眼C高阶智驾系统。
2025-03-14 09:39
此项研究中,团队将金属熔化,并利用团队前期制备的高质量单层二硫化钼压砧进行挤压,实现了多种二维金属的普适制备。
2025-03-14 09:38
近日,来自浙江中医药大学第一附属医院的陈喆研究员团队,联合浙江大学化学系白宏震、汤谷平教授及海洋学院王楠副教授团队,在材料科学领域的国际顶级期刊Advanced Materials上发表最新研究成果。
2025-03-14 09:38
北京大学生命科学学院、北大—清华生命科学联合中心白洋团队13日凌晨在国际学术期刊《细胞》发表成果,构建首个作物根际细菌基因组数据库以及作物根际病毒基因组数据库,
2025-03-14 04:10
我出生在安徽寿县农村,幼时目睹父老乡亲缺医少药的困境,长大后便下定决心做一名医生,治病救人。
2025-03-14 04:25
2025年3月13日是第20个世界肾脏日,本届主题是“您的肾脏还好吗?早检查,保健康”,旨在呼吁全社会关注肾脏健康,提高对慢性肾脏病的早期认识,强调了早期发现和干预对肾脏健康的重要性。
2025-03-13 09:15
从中国农业科学院棉花研究所获悉,该所王占彪研究员团队定量解析了童装、针织衫、工作服、T恤和作训服等棉质纺织品“从种子到成衣”全阶段的碳排放情况,即碳足迹,并提出对应的具体“减碳”策略,为我国棉花纺织服装产业的可持续发展提供了重要思路和线索,也为全球棉花纺织产业减排策略的制定提供了科学依据。相关研究成果近日发表在环境科学类国际期刊《资源、保护与回收》上。
2025-03-13 04:40
刚开学,我和学生聊天,询问他们假期有啥进步。有学生说深入钻研了英语六级通关秘籍,自信本学期六级必定取得高分;有学生讲潜心研究了高压绝缘,C刊论文胜券在握;
2025-03-13 05:15
这个春天,越来越多“Z世代”新农人走进田间地头,带来春耕新气象。如今,他接到了3000多亩农田的服务“订单”,周边农户都乐意把农田托付给这个老练的“新农人”来打理。
2025-03-13 09:01
在总结11个术前免穿刺手术案例的基础上,邢念增在国际上首创“前列腺癌免穿刺理念”。
2025-03-13 09:01
人工智能的快速发展和广泛应用,能够推动数实深度融合,释放需求潜力,提升产出效率,推动全要素生产率持续提高。
2025-03-13 09:00
2025年世界移动通信大会(MWC2025)虽已落幕,但引发的思考和争论仍在持续。
2025-03-12 10:11
龙泉又多了一张新名片——汽车空调热管理产业,全市不到30万的人口中,就有近2万人从事汽车空调行业。
2025-03-12 10:01
加载更多