点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

首页> 科技频道> 评论 > 正文

AI,要小心数据污染

来源:人民日报海外版2025-07-15 09:15

  AI惹祸了。

  埃隆·马斯克旗下AI聊天机器人Grok,近日因发表美化希特勒等极端言论引发舆论哗然。

  据《纽约时报》报道,7月8日,Grok参考马斯克掌管的社交媒体平台X用户发布的内容,生成一系列“反犹主义”言论,声称犹太姓氏的人更容易在网上传播仇恨言论;用与二战期间纳粹大规模屠杀犹太人相关的言论回应对白人的仇恨言论是“有效的”,等等。

  “我们为许多人经历的(Grok的)可怕行为深表歉意。”该机器人的研发方——人工智能公司xAI随后致歉,称是系统更新误用了“废弃代码”所致。这看似技术故障,实则暴露了AI领域一个日益严峻的隐疾——数据污染正在悄然扭曲人工智能的“口舌”与“心智”。

  当Grok迎合并复述平台上的反犹言论时,它已不幸沦为数据污染的传声筒。所谓“数据污染”,就像数据河流中混入了工业废水——训练数据中潜藏的偏见、恶意诱导的输入甚至人为注入的有害指令,都能污染AI模型原本清澈的逻辑源头。数据污染无声无形,却能令AI输出如受病毒侵染般失序、失真甚至失控。

  此次Grok“失言”,表面上是废弃代码作祟,深层里却是开发理念存在裂痕。那些指令要求AI“直言不讳,不怕冒犯那些政治正确的人”“理解(X平台)帖子的语气、上下文和用词,并在回复中予以体现”“像人类一样回复帖子,保持互动性,不要重复原帖已有信息”……这无异于鼓励其迁就人性的幽暗面。

  当AI在这种“训练规则”下,“理所当然”地去附和某些极端观点,就不再是技术中立的工具,而沦为了特定立场的数字扩音器。

  “AI被污染”的阴影随着它与各个领域的融合,正在快速蔓延,也给人们提出一系列思考:自动驾驶汽车若被恶意数据误导,可能给行人和乘客带来安全隐患;医疗诊断AI若依赖带有偏见的数据训练,可能会对某些群体给出错误治疗方案;生成式艺术工具若“学习”了未经授权的版权作品,其产出便游走在侵权的灰色地带。可以说,数据污染具有传染性,一旦注入系统,便可能以指数级速度污染AI的判断与创造。

  对此,以更快的发展解决发展中的问题,成为务实之选。强化数据清洗过滤、建立实时监测反馈机制、实施更严密的伦理审查——这些技术升级如同为AI构筑“数字免疫系统”,有助于把不良信息屏蔽掉。

  另一方面也要看到,道高一尺魔高一丈,单靠技术升级难以抵达纯净彼岸。人们需深刻揣摩AI这柄双刃剑:当赋予机器近乎人类的“思考”能力时,我们是否也同步烙印上了价值定盘星?开发者、监管者、使用者、观察者,皆需对技术怀敬畏之心,警惕工具理性过度膨胀以至于挤压了价值理性的生存空间。

  两千年前老子曾言:“智慧出,有大伪。”太阳出来了,阴影也出现了。当人类以智慧凝结出AI这等璀璨的结晶,也需警惕随之衍生的“大伪”——那被偏见污染、遭恶意扭曲的智能异化。

  技术永远向前,但每一次跃进都当伴随伦理的同步校准。唯有让责任意识成为驱动发展的另一组核心代码,才能在数字洪流中为AI守住不容污染的一方净土——这是人类赋予机器智能时,不可推卸的文明责任。熊 建

[ 责编:肖春芳 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 重庆武两高速凤来大溪河特大桥建设稳步推进

  • 红润扎西焕新颜

独家策划

推荐阅读
“九章四号”被应用于高效求解高斯玻色采样任务,其计算速度相比当前全球最快的超级计算机快1054倍(即量子优势比为1054),成功建立了国际上最强的量子计算优越性。
2026-05-15 03:15
夏粮收购是全年粮食收购的首战,对于保护种粮农民利益、维护粮食市场平稳运行、保障粮食稳定安全供给具有重要意义。
2026-05-15 03:25
5月14日,我国首座海上移动式多功能措施平台“海洋石油283”(又称“增产一号”)从青岛西海岸新区启运
2026-05-15 03:25
5月14日11时,朱雀二号改进型遥五运载火箭在东风商业航天创新试验区发射升空,运载火箭全程飞行正常,二子级进入预定轨道,飞行试验任务取得圆满成功。
2026-05-15 03:15
自然资源部13日发布的最新找矿成果显示,西藏罗布莎矿区新增铬铁矿资源量73.83万吨,实现矿山深边部找矿突破。找矿团队还在西藏东巧地区首次评价沉积型铬铁矿,新增伴生铬铁矿矿石量114.63万吨,拓展了我国铬铁矿找矿空间。
2026-05-15 02:55
中国科学技术大学潘建伟、陆朝阳、张强、刘乃乐等组成的研究团队联合国内多家科研单位,成功研制出1024个量子压缩态输入、8176模式的可编程量子计算原型机“九章四号”。
2026-05-14 09:49
当前,全球科技创新格局深度调整,科技成果转化已成为衡量国家创新体系效能的关键标尺。
2026-05-14 03:05
中国人对天宇的想象,自古便深沉而浪漫。在东华大学,科研人员将来自38万公里外的月球土壤化为一缕缕兼具柔性与强度的星际之丝。
2026-05-14 02:40
近日,中国科学院化学研究所研究员乔燕、王树团队联合国内外科学家,首次实现人工细胞的形态与功能不对称分裂,为理解类生命功能涌现和原始细胞形成提供了新路径。
2026-05-14 02:40
近日,国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》(以下简称《实施意见》),明确支持探索智能体在城市规划、建设与治理环节的规范应用,同时将智能体安全、可靠、可信作为产业发展的底线要求。
2026-05-14 02:25
“请帮我检索南京附近适合亲子旅游的路线”“我想买个电热水器,请帮我推荐几款实用的”……如今,越来越多的消费者开始将AI(人工智能)当作“随身消费参谋”。从规划旅游路线到挑选酒店民宿,再到日常购物选择,很多消费者习惯先问一问AI工具,再做消费决策。
2026-05-13 09:30
在这一过程中,颠覆性技术正由潜在变量转变为关键变量,成为重塑产业结构、重构竞争格局的重要力量。颠覆性技术具有“路径替代”特征,能够深刻改变产业格局。综上所述,未来产业发展呈现出“技术跃迁—场景转化—工程化扩张”的基本路径。
2026-05-13 09:22
搭载单核180个计算比特自主超导量子芯片的“本源悟空-180”量子计算机已上线运行,开始接收全球量子计算任务。
2026-05-13 02:30
2018年,厦大教师吴彩胜带着一群厦大青年来到这里。他们发现,当地的农副产品虽然产量不小,却因缺乏检测条件,面临“好产品难认证”的困境。
2026-05-13 02:20
浦江潮涌,惠风和畅。5月12日,第十二届亚太经合组织(APEC)食品安全合作论坛(FSCF)会议在上海举行。
2026-05-13 02:25
今年5月12日是第18个全国防灾减灾日,主题是“人人讲安全、个个会应急——提高防灾减灾救灾能力”。
2026-05-12 02:40
习近平总书记在加强基础研究座谈会上强调,基础研究是整个科学体系的源头,是所有技术问题的总机关。
2026-05-12 02:40
当前,我国正处于加快建设教育强国的关键时期。教育作为强国建设、民族复兴之基,战略地位更加凸显,迎来了前所未有的发展机遇
2026-05-12 02:40
十年来,北京大学考古文博学院坚守初心、守正创新,聚焦学科、学术、话语、育人四大体系一体化建设,并以实践创新贯穿始终,让四者协同赋能
2026-05-12 02:40
回顾人类社会发展史可以发现,任何一个国家的崛起都伴随着思想文化的兴盛和知识体系的自主建构。
2026-05-12 02:40
加载更多