点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

首页> 科技频道> 评论 > 正文

AI,要小心数据污染

来源:人民日报海外版2025-07-15 09:15

  AI惹祸了。

  埃隆·马斯克旗下AI聊天机器人Grok,近日因发表美化希特勒等极端言论引发舆论哗然。

  据《纽约时报》报道,7月8日,Grok参考马斯克掌管的社交媒体平台X用户发布的内容,生成一系列“反犹主义”言论,声称犹太姓氏的人更容易在网上传播仇恨言论;用与二战期间纳粹大规模屠杀犹太人相关的言论回应对白人的仇恨言论是“有效的”,等等。

  “我们为许多人经历的(Grok的)可怕行为深表歉意。”该机器人的研发方——人工智能公司xAI随后致歉,称是系统更新误用了“废弃代码”所致。这看似技术故障,实则暴露了AI领域一个日益严峻的隐疾——数据污染正在悄然扭曲人工智能的“口舌”与“心智”。

  当Grok迎合并复述平台上的反犹言论时,它已不幸沦为数据污染的传声筒。所谓“数据污染”,就像数据河流中混入了工业废水——训练数据中潜藏的偏见、恶意诱导的输入甚至人为注入的有害指令,都能污染AI模型原本清澈的逻辑源头。数据污染无声无形,却能令AI输出如受病毒侵染般失序、失真甚至失控。

  此次Grok“失言”,表面上是废弃代码作祟,深层里却是开发理念存在裂痕。那些指令要求AI“直言不讳,不怕冒犯那些政治正确的人”“理解(X平台)帖子的语气、上下文和用词,并在回复中予以体现”“像人类一样回复帖子,保持互动性,不要重复原帖已有信息”……这无异于鼓励其迁就人性的幽暗面。

  当AI在这种“训练规则”下,“理所当然”地去附和某些极端观点,就不再是技术中立的工具,而沦为了特定立场的数字扩音器。

  “AI被污染”的阴影随着它与各个领域的融合,正在快速蔓延,也给人们提出一系列思考:自动驾驶汽车若被恶意数据误导,可能给行人和乘客带来安全隐患;医疗诊断AI若依赖带有偏见的数据训练,可能会对某些群体给出错误治疗方案;生成式艺术工具若“学习”了未经授权的版权作品,其产出便游走在侵权的灰色地带。可以说,数据污染具有传染性,一旦注入系统,便可能以指数级速度污染AI的判断与创造。

  对此,以更快的发展解决发展中的问题,成为务实之选。强化数据清洗过滤、建立实时监测反馈机制、实施更严密的伦理审查——这些技术升级如同为AI构筑“数字免疫系统”,有助于把不良信息屏蔽掉。

  另一方面也要看到,道高一尺魔高一丈,单靠技术升级难以抵达纯净彼岸。人们需深刻揣摩AI这柄双刃剑:当赋予机器近乎人类的“思考”能力时,我们是否也同步烙印上了价值定盘星?开发者、监管者、使用者、观察者,皆需对技术怀敬畏之心,警惕工具理性过度膨胀以至于挤压了价值理性的生存空间。

  两千年前老子曾言:“智慧出,有大伪。”太阳出来了,阴影也出现了。当人类以智慧凝结出AI这等璀璨的结晶,也需警惕随之衍生的“大伪”——那被偏见污染、遭恶意扭曲的智能异化。

  技术永远向前,但每一次跃进都当伴随伦理的同步校准。唯有让责任意识成为驱动发展的另一组核心代码,才能在数字洪流中为AI守住不容污染的一方净土——这是人类赋予机器智能时,不可推卸的文明责任。熊 建

[ 责编:肖春芳 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 第11届上海国际机床展开幕

  • 贺兰山下酿酒葡萄展藤

独家策划

推荐阅读
记者了解到,自20世纪60年代推广杂交玉米种以来,我国玉米的单产提高了约2.7倍,其中51%的增益都来自优良杂交种的选育与应用。进一步研究发现,在现代杂交育种过程中,玉米的基因有害变异被不断清除或互补,并且,杂交种中有害等位基因被抑制表达的比例与其产量和育成年代同步增长。
2026-03-24 09:29
2023年,国务院部署开展专利转化运用专项行动(以下简称“专项行动”)。教育部科学技术与信息化司司长周大旺表示,教育部着力畅通科技成果转化的链条,加速把高校丰富的专利转变为产业发展的红利。
2026-03-24 09:28
走进内蒙古博物院的有机质文物修复室,时间似乎放慢了脚步,空气中透着静谧,只有工具偶尔轻碰的细微声响。”  无机质文物修复室里,文物修复师季园园展示了另一种“手术”场景。
2026-03-24 09:28
柳申滨最初以针刺治疗皮肤炎症及穴位敏化机制为切入点,试图探寻针刺调控皮肤靶器官的效应规律。”  通过和临床医生交流,柳申滨了解到,在压力、焦虑等心理应激状态下,特应性皮炎患者的皮肤炎症会显著加重。
2026-03-24 09:28
全球最大人工智能(AI)模型API聚合平台OpenRouter最新数据显示,3月16日至3月22日,全球AI大模型总调用量为20.4万亿Token,环比增长20.7%。”
2026-03-24 09:28
杂交稻的大面积推广显著提升了水稻产量,但其生产长期依赖程序复杂、成本高昂且需年年重复的杂交制种过程。
2026-03-23 09:40
近日,澳大利亚一位机器学习领域科技企业家,通过人工智能大模型自行设计肿瘤疫苗,救治自家患癌宠物犬的故事广受关注。
2026-03-23 09:39
记者从中国石化获悉,我国首套全链条国产化溶液法聚烯烃弹性体工业化装置在天津进入试运行,相关生产技术取得原创性突破,将有效缓解我国光伏等战略性新兴产业对该材料的进口依赖。
2026-03-23 09:33
中国气象局日前发布了2025年度“中国十大气象科技进展”。3年来,评选工作有效推动气象科技成果涌现,助力资源共建共享,大力弘扬科学家精神,促进气象教育科技人才一体推进,持续激发科技能力和人才活力。
2026-03-23 09:32
3月22日是第三十四个“世界水日”,第三十九个“中国水周”同步开启。以非常规水利用为例,我国近年来在农业节水增效、工业节水减排、城镇节水降损等领域取得显著成效。
2026-03-23 09:28
“遥感是人们在距离和感官上的延伸,是认知地球、探查资源、监测环境的重要技术手段。本次活动由全国科学道德和学风建设宣讲教育领导小组主办,中国科协科学技术传播中心、湖南省科学技术协会、中南大学、光明网联合承办。
2026-03-20 09:42
每年春季,花粉过敏会给不少人带来困扰。该检测试剂盒采用微量血清特异性洋白蜡花粉过敏原IgE定量检测,用以辅助诊断,成为目前用于花粉症精准诊断的主要方法。
2026-03-20 09:39
3月18日,记者从新疆电力交易中心有限公司获悉,自2010年启动“疆电外送”以来,新疆累计外送新能源电量已达3043.6亿千瓦时,约占总外送电量的三成。
2026-03-20 09:39
吕小康:从现实语义上看,情感AI既指能够识别、理解、模拟和响应人类情感的人工智能技术,也指基于这类技术设计和开发的情感智能体。吕小康:为引导青年群体健康使用情感AI,还需要进一步加强协同治理,培育积极有益的陪伴型人工智能应用环境。
2026-03-20 09:36
据3月17日农情调度,全国早稻育秧已三成半,同比略快。据介绍,北方冬小麦当前的田管重点是继续促进弱苗转化升级,抓好病虫防控,防范春旱、倒春寒、干热风等灾害。“近日国家启动投放1000余万吨氮磷及复合肥储备,作为国家化肥储备重要承储主体,全国供销合作社系统农资企业积极按要求将储备化肥及时集中投放市场,稳定市场价格。
2026-03-20 09:36
小时候我们背过一句话:万物由原子组成。这一路走来,从质子的异常,到夸克模型的提出,再到量子色动力学和标准模型的建立,人类把物质拆解到了17种基本粒子的层级。曾获国家六部委回国人员成就奖、德国洪堡研究奖、吴有训物理奖、中国科学院优秀研究生导师奖。
2026-03-20 09:35
吴晓民(右一)团队在野外工作。藏羚羊曾广泛分布于高原全境,其漫长的演化史与复杂的种群波动,始终是全球动物保护与演化生物学领域关注的焦点。研究团队还通过生态位模拟,锁定了藏羚羊的生命庇护所——青藏高原北部的可可西里、羌塘高原等区域。
2026-03-19 10:11
通知明确,各城市群应优先选择具备条件的燃料电池汽车、绿色氨醇、氢基化工原料替代、氢冶金以及掺氢燃烧等应用场景开展试点,积极探索氢能创新应用场景,形成“1个燃料电池汽车通用场景+N个工业领域应用场景+X个创新应用场景”的氢能综合应用生态。通知要求,氢能综合应用试点以城市群为主体开展申报,城市群应立足自身资源条件,因地制宜、宜氢则氢,避免各场景一拥而上、低水平重复建设。
2026-03-19 10:10
2026中关村论坛年会将于3月25日至29日在北京举办。
2026-03-19 10:04
日前发布的《中国地热产业发展报告2025》显示,我国地热产业多元化利用格局正在形成。在地热供暖发展带动下,我国地热产业规模长期稳居世界第一。
2026-03-19 10:00
加载更多