点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:AI大模型大有可为——来自第十二届互联网安全大会的声音
首页> 科技频道> 综合新闻 > 正文

AI大模型大有可为——来自第十二届互联网安全大会的声音

来源:光明网-《光明日报》2024-08-09 06:05

  光明网记者 李政葳 刘 昊

  “安全认知,日见清晰;安全研究,路阻且长;安全行业,大有可为;紧跟创新,保障发展……”在近日举行的第十二届互联网安全大会上,中国工程院院士吴世忠的一番总结,折射了AI(人工智能)时代安全大模型行业的发展现状。

  一直以来,技术发展伴生的安全挑战、迭代防护,贯穿着行业发展始终,也备受各界关注。大会期间,多位院士,中国互联网协会、中国信通院、世界互联网大会等机构组织负责人,以及国内外企业代表齐聚,围绕“打造安全大模型”主题,分享来自政产学研用领域的各方观点。

  从“百模大战”到探寻更多应用场景

  在过去的两年里,随着ChatGPT在全球范围内爆红,AI大模型热潮在国内急速升温,多家互联网巨头纷纷加速布局大模型应用。记者从会上了解到,截至目前,我国已完成备案并上线、能为公众提供服务的生成式人工智能服务大模型有180多个,注册用户数已突破5.64亿。

  会上专家介绍,AI以激进式的科技创新,全面推进新一轮科技革命和生活赋能,以颠覆式的应用创新,激发出科技、经济、社会全方位的深刻变化。大模型的出现标志着AI发展进入新阶段,具备了强大的语言生成能力、人机自然交互能力、迁移(举一反三)能力。

  “我们已初步构建了较为全面的AI技术产业体系,建成了2500多个数字化车间和智能工厂,经过AI改造研发周期平均缩短20%,生产效率提升35%……”中国信息通信研究院副院长魏亮分享了这样一组数据。他分析认为,大模型技术发展带来高质量算力基础设施和数据集语料库的大量需求,我们要加快推进大模型基础设施化,促进行业应用和中小企业普惠使用,不断创新应用生态、推动纵深发展。

  从曾经的“百模大战”,到持续赋能千行百业,再到如今发力探寻具体应用场景。“2024年应该是场景之年,要结合业务找‘明星场景’,然后根据场景设计功能,对大模型进行专项训练。”360集团创始人周鸿祎认为。

  有专家提到“协作”的重要性,基础大模型是企业实现数字化转型不可或缺的一环,需要应对包括强大的算力、充足的数据、高水平的研材、新应用的算法等诸多挑战,这就需要大模型提供方与垂直行业紧密合作。

  大模型具有两用性和双刃剑特征

  “ChatGPT问世不到一年,科研前沿就有了风险预警。它是典型的两用性技术,具有双刃剑特性,人们担心技术发展失控、道理伦理失范、网络安全失守。”吴世忠谈到这样一组观察体会——近年来,美国人工智能公司“开放人工智能研究中心”(OpenAI)等国外行业巨头相继加大安全技术和监管措施的投入,国内诸多企业也在安全研究上布局投资。这说明,大模型能力增长需要安全研究快速跟进,这已成为业界共识。

  在业界看来,当前AI的发展存在诸多不足。“生成式AI存在‘幻觉’缺陷,它会‘胡说八道’,很多情况下还并不知道自己说错了。它和机器产生的错误不一样,后者往往我们可以控制,但前者是本身的错误,是一定会发生且不可控的。这是开发应用中需要重点考虑的问题。”中国科学院院士、清华大学计算机系教授张钹说。

  “AI既有向善的一面,也有向恶的一面。”中国工程院院士、国家数字交换系统工程技术研究中心主任邬江兴认为,AI应用系统安全责任与风险存在严重失衡。AI应用系统网络内生安全的共性问题,在于计算机带来了“娘胎的基因缺陷”,如果不能杜绝软硬件代码设计中的脆弱性,就无法杜绝网络问题。

  据了解,相对于大模型本身的研究,相关的安全研究才刚刚开始,不但任重道远,而且困难重重:一是对于大模型的解释性和透明性不足;二是安全保障技术存在复杂性和多样性;三是伦理和道德问题的复杂性;四是安全测试和风险评估的复杂性。

  推动协同共治,汇聚各方力量

  多年来,互联网技术的攻防对抗,宛如一场从未停歇的“正邪较量”。“需要不断探索新的防护策略来应对日益复杂的数字化环境,数字技术应用既是安全防御的重点,也是保障的有力手段,需要将大数据、AI、物联网等技术结合,提升保障能力。”中国工程院院士邬贺铨建议,传统安全防护手段需要向云化、服务化转型,数字安全企业应构建体系化的安全运营服务框架,为各行业提供安全能力,帮助构建和维护安全防御体系。

  “不发展是最大的不安全,约束是为了发展,没有约束的发展是不可持续发展。我们要明确这一思路。”中国互联网协会副理事长黄澄清呼吁,鼓励互联网企业利用AI技术提升安全防御的智能化水平,持续加大在人工智能与数字安全领域的研发投入,促进产学研用深度融合,加速技术成果向产业转化。

  据了解,自今年8月1日起,欧盟《人工智能法案》生效,这是全球首部全面监管人工智能法规。截至目前,已经有数十个国家先后发布了与人工智能相关的国家战略和法规文件。人工智能的核心关切主要是透明度、公开性、非恶意、负责任、隐私、向善、信任、尊严等,治理研究是将这些落实到从大模型部署、开发、计算推理、数据输入到推广应用的各个环节。

  “人工智能时代,确保网络安全不仅是发挥互联网作为全球纽带的核心要素,更是实现人工智能为人类社会带来福祉的基础前提。”在国际合作方面,世界互联网大会秘书长任贤良表示,我们要推动协同共治,汇聚各方力量,推动数字安全与新一代信息技术协同创新、示范应用、融合发展,构建理论交流、技术合作、人才培养的良好生态。

  《光明日报》(2024年08月09日 09版)

[ 责编:张悦鑫 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 温故丨“取法乎上”“见贤思齐”

  • 你最想对老师说哪句话

独家策划

推荐阅读
党的二十届三中全会强调,“完善扩大消费长效机制”。消费是满足人民对美好生活向往的直接体现,更是拉动经济增长的重要引擎。习近平总书记多次强调,“要增强消费能力,
2024-09-10 04:10
超慢速扩张洋中脊的岩浆是极度贫瘠还是丰富,一直以来都是困扰科学家的难题。传统观点认为,超慢速扩张洋中脊的岩浆供给极度贫瘠。然而,最新的研究成果颠覆了这一观点。
2024-09-10 10:23
传统制造业在数字化转型中常常难以找到满意的服务商,服务商有时也无法及时了解企业需求、取得企业信任。
2024-09-10 10:20
在广袤的黑土地上,吉林省正通过实施一系列保护性耕作技术,守护着“耕地中的大熊猫”。
2024-09-10 10:17
国家天然气基础设施互联互通重点工程——国家管网集团天津LNG(液化天然气)接收站二期项目9日正式投产。投产后天津LNG接收站正式迈入千万吨级LNG接收站行列,
2024-09-10 04:10
国家林草局动植物司司长王维胜介绍,我国本着统筹就地保护与迁地保护相结合的原则,启动北京、广州等国家植物园体系建设。
2024-09-09 10:16
与MCN一起打造出海内容繁荣生态。
2024-09-10 10:20
正是中国力量,让今天的中国铁路网覆盖全国99%的20万人口以上城市,高铁网覆盖96%的50万人口以上城市,成为现代化中国壮阔征程上的绚丽篇章。
2024-09-09 10:14
在科学教育的过程中,还需重视培养科学家精神和工匠精神,培养青少年在创新过程中的自信心。
2024-09-09 10:09
朱先生一生科研硕果累累,获奖20余项,发表论文210多篇,研究成果形成了五本专著。
2024-09-09 10:05
“两弹一星”精神是中国共产党领导中国人民在20世纪创造的宝贵精神财富,是爱国主义、集体主义、社会主义精神和科学精神的生动体现,成为支撑科研事业发展的不竭动力。
2024-09-09 09:58
通过三代核电自主化,中国正实现对国际最高水平的赶超,助力“双碳”目标实现。
2024-09-06 08:50
中国人民银行信贷市场司司长彭立峰给出一组亮眼数据:过去5年,我国科技型企业贷款的年均增速是20%,是贷款平均增速的近2倍。
2024-09-06 08:48
作为离地球较近且环境最相似的星球,火星一直是人类走出地月系统开展深空探测的首选目标。
2024-09-06 08:46
基于此成果,华大目前已联合香港理工大学,成立香港理工大学—华大·全球深海资源基因组学和合成生物学联合研究中心,实施进一步研发和产业化。
2024-09-06 08:45
5日,在国家林草局举办的国家公园和国家植物园体系建设成效新闻发布会上,国家林草局自然保护地管理司司长张利明介绍,我国已基本构建国家公园制度体系的“四梁八柱”。
2024-09-06 07:20
回音壁印章设计者、中国建筑材料科学研究总院有限公司北京分公司研发工程师焦朋告诉记者,回音壁存在特殊声学现象,可以让声音形成回声。
2024-09-06 08:47
有两组数据最能直观展现云南的丰饶:以仅占全国4%的国土面积,保育了48.01%的国家重点保护野生植物和56.27%的重点保护陆生野生动物;在南北间距不过900公里的土地上,拥有7种气候类型,囊括了地球上除海洋和沙漠以外所有的生态系统类型。
2024-09-06 07:20
近几年,人工智能在许多行业都有应用,成为人类的“好帮手”。但在这一过程中,也出现了各种各样的问题。
2024-09-05 05:30
经过近3千米的行驶,我们来到了这座小山的山顶,这里距离海面约750米,地貌以岩石为主,可以看到海星、海胆、珊瑚和海葵等。
2024-09-05 08:29
加载更多