点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:AI大模型大有可为——来自第十二届互联网安全大会的声音
首页> 科技频道> 综合新闻 > 正文

AI大模型大有可为——来自第十二届互联网安全大会的声音

来源:光明网-《光明日报》2024-08-09 06:05

  光明网记者 李政葳 刘 昊

  “安全认知,日见清晰;安全研究,路阻且长;安全行业,大有可为;紧跟创新,保障发展……”在近日举行的第十二届互联网安全大会上,中国工程院院士吴世忠的一番总结,折射了AI(人工智能)时代安全大模型行业的发展现状。

  一直以来,技术发展伴生的安全挑战、迭代防护,贯穿着行业发展始终,也备受各界关注。大会期间,多位院士,中国互联网协会、中国信通院、世界互联网大会等机构组织负责人,以及国内外企业代表齐聚,围绕“打造安全大模型”主题,分享来自政产学研用领域的各方观点。

  从“百模大战”到探寻更多应用场景

  在过去的两年里,随着ChatGPT在全球范围内爆红,AI大模型热潮在国内急速升温,多家互联网巨头纷纷加速布局大模型应用。记者从会上了解到,截至目前,我国已完成备案并上线、能为公众提供服务的生成式人工智能服务大模型有180多个,注册用户数已突破5.64亿。

  会上专家介绍,AI以激进式的科技创新,全面推进新一轮科技革命和生活赋能,以颠覆式的应用创新,激发出科技、经济、社会全方位的深刻变化。大模型的出现标志着AI发展进入新阶段,具备了强大的语言生成能力、人机自然交互能力、迁移(举一反三)能力。

  “我们已初步构建了较为全面的AI技术产业体系,建成了2500多个数字化车间和智能工厂,经过AI改造研发周期平均缩短20%,生产效率提升35%……”中国信息通信研究院副院长魏亮分享了这样一组数据。他分析认为,大模型技术发展带来高质量算力基础设施和数据集语料库的大量需求,我们要加快推进大模型基础设施化,促进行业应用和中小企业普惠使用,不断创新应用生态、推动纵深发展。

  从曾经的“百模大战”,到持续赋能千行百业,再到如今发力探寻具体应用场景。“2024年应该是场景之年,要结合业务找‘明星场景’,然后根据场景设计功能,对大模型进行专项训练。”360集团创始人周鸿祎认为。

  有专家提到“协作”的重要性,基础大模型是企业实现数字化转型不可或缺的一环,需要应对包括强大的算力、充足的数据、高水平的研材、新应用的算法等诸多挑战,这就需要大模型提供方与垂直行业紧密合作。

  大模型具有两用性和双刃剑特征

  “ChatGPT问世不到一年,科研前沿就有了风险预警。它是典型的两用性技术,具有双刃剑特性,人们担心技术发展失控、道理伦理失范、网络安全失守。”吴世忠谈到这样一组观察体会——近年来,美国人工智能公司“开放人工智能研究中心”(OpenAI)等国外行业巨头相继加大安全技术和监管措施的投入,国内诸多企业也在安全研究上布局投资。这说明,大模型能力增长需要安全研究快速跟进,这已成为业界共识。

  在业界看来,当前AI的发展存在诸多不足。“生成式AI存在‘幻觉’缺陷,它会‘胡说八道’,很多情况下还并不知道自己说错了。它和机器产生的错误不一样,后者往往我们可以控制,但前者是本身的错误,是一定会发生且不可控的。这是开发应用中需要重点考虑的问题。”中国科学院院士、清华大学计算机系教授张钹说。

  “AI既有向善的一面,也有向恶的一面。”中国工程院院士、国家数字交换系统工程技术研究中心主任邬江兴认为,AI应用系统安全责任与风险存在严重失衡。AI应用系统网络内生安全的共性问题,在于计算机带来了“娘胎的基因缺陷”,如果不能杜绝软硬件代码设计中的脆弱性,就无法杜绝网络问题。

  据了解,相对于大模型本身的研究,相关的安全研究才刚刚开始,不但任重道远,而且困难重重:一是对于大模型的解释性和透明性不足;二是安全保障技术存在复杂性和多样性;三是伦理和道德问题的复杂性;四是安全测试和风险评估的复杂性。

  推动协同共治,汇聚各方力量

  多年来,互联网技术的攻防对抗,宛如一场从未停歇的“正邪较量”。“需要不断探索新的防护策略来应对日益复杂的数字化环境,数字技术应用既是安全防御的重点,也是保障的有力手段,需要将大数据、AI、物联网等技术结合,提升保障能力。”中国工程院院士邬贺铨建议,传统安全防护手段需要向云化、服务化转型,数字安全企业应构建体系化的安全运营服务框架,为各行业提供安全能力,帮助构建和维护安全防御体系。

  “不发展是最大的不安全,约束是为了发展,没有约束的发展是不可持续发展。我们要明确这一思路。”中国互联网协会副理事长黄澄清呼吁,鼓励互联网企业利用AI技术提升安全防御的智能化水平,持续加大在人工智能与数字安全领域的研发投入,促进产学研用深度融合,加速技术成果向产业转化。

  据了解,自今年8月1日起,欧盟《人工智能法案》生效,这是全球首部全面监管人工智能法规。截至目前,已经有数十个国家先后发布了与人工智能相关的国家战略和法规文件。人工智能的核心关切主要是透明度、公开性、非恶意、负责任、隐私、向善、信任、尊严等,治理研究是将这些落实到从大模型部署、开发、计算推理、数据输入到推广应用的各个环节。

  “人工智能时代,确保网络安全不仅是发挥互联网作为全球纽带的核心要素,更是实现人工智能为人类社会带来福祉的基础前提。”在国际合作方面,世界互联网大会秘书长任贤良表示,我们要推动协同共治,汇聚各方力量,推动数字安全与新一代信息技术协同创新、示范应用、融合发展,构建理论交流、技术合作、人才培养的良好生态。

  《光明日报》(2024年08月09日 09版)

[ 责编:张悦鑫 ]
阅读剩余全文()

相关阅读

您此时的心情

光明云投
新闻表情排行 日/周
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 习近平会见越共中央总书记、国家主席苏林

  • 习近平会见加拿大总理卡尼

独家策划

推荐阅读
要让一台机器人真正能干活,到底靠什么?答案是,看得见、想得出、做得到。
2026-11-17 09:33
芯片越强、集群越大、部署越密,出故障的概率和代价也在同步飙升。
2026-11-17 09:29
胜利油田济阳页岩油民丰8号台新型井工厂首批12口井平均钻井周期13.83天,其中丰页1-8-B13HF井钻井周期11.68天,刷新国内超6000米井深陆相页岩油最短钻井周期纪录。
2026-11-17 05:15
红线划得清楚,但现实难题也依然存在:当作业能让AI助写,心事能向AI倾诉,孩子还会不会自己动脑、还愿不愿意跟真人打交道?如何帮助孩子减少依赖,合理使用AI?AI时代的青少年身心健康该如何守护?记者多方采访求解。
2026-11-17 05:15
随着人工智能深度赋能千行百业,不少高校毕业生主动“拥抱”AI,将专业所学同AI应用融合,探索解决行业重点难点问题。他们的经历带来哪些启示?多方主体怎样弥合产教断层,打造适应新岗位新场景的就业竞争力?
2026-11-17 05:15
16日,海南热带雨林国家公园管理局发布海南热带雨林国家公园的10种标志性物种,分别是海南长臂猿、海南坡鹿、海南孔雀雉、海南四眼斑水龟、鹦哥岭树蛙、丽拟丝蟌、坡垒、美花兰、陆均松、紫芝。
2026-11-17 05:15
今年“双11”,不少人的订单里多了一种看不见、摸不着的新东西:Token。81岁的图灵奖得主马丁·赫尔曼打了个有趣的比方:人类就像一个刚拿到驾照的人,不知怎么弄到了一辆500匹马力跑车。
2026-11-16 09:29
初冬时节,位于黄河岸边的河南开封前方园艺公司菊花销售依然火热,员工们忙着将一盆盆娇艳的观赏菊装上货车、送往开封市区各景点,将一包包新鲜的食用菊发往全国各地。
2026-11-16 04:50
14日,以“智能经济赋能·绿色引领未来——‘十五五’长江经济带高质量发展的新方位与新征程”为主题的第十一届长江经济带发展论坛在江苏南通举行。会上,南通大学江苏长江经济带研究院最新研究成果发布。
2026-11-16 04:50
11月18日至19日,亚太经合组织(APEC)第三十三次领导人非正式会议将在深圳举行。围绕“建设亚太共同体,促进共同繁荣”主题,聚焦“开放、创新、合作”三大优先领域,中国全年举办300多场APEC活动。
2026-11-16 04:50
14日,我国自主研制的10吨级电动商用飞机CE-25A在山东滨州完成首次有人驾驶智能飞行。飞机搭载2名飞行员、1名试飞工程师,飞行试验57分46秒,其中空中飞行16分38秒、60.4公里,飞机状态正常,各项指标符合预期。
2026-11-16 04:50
技能是劳动者的重要生产禀赋,是其嵌入生产过程、与生产工具协同的关键点。机械化、电气化和自动化催生了产业革命,建立起机器大生产与标准化流水线。在此情境下,对标准化设备的熟练操作成为劳动者的核心技能,“动手能力”成为技能人才的鲜明标签。
2026-11-13 09:55
由自然资源部、国家发展改革委联合印发的《关于“人工智能+自然资源”的实施意见》日前对外发布。《意见》旨在推动人工智能在自然资源领域规模化、产业化创新应用,服务国土空间规划“一张图”智能化升级。
2026-11-13 01:50
天津农业合成生物与生物智造科创园占地41.4亩,布局创新创业、中试、检验检测等七大功能板块,承担的是“从1到10”的成果转化职能。用谯仕彦自己的话说:“实验室实现‘从0到1’,工厂完成规模化制造,二者中间横亘着中试熟化、工程放大、市场验证等重重关口。这座科创园,就是一座跨越转化难关的桥梁。”
2026-11-13 01:50
知识的创新、传播与应用彼此关联,却承担不同的认知任务。把已有道理向更多人讲清楚,可以扩大知识的社会影响;提出此前尚未形成的科学解释,则可能改变人们对世界的认识。评判人工智能在知识生产中的作用,应区分知识传递的效率与知识创新的增量,并考察其在不同知识活动中承担的任务。
2026-11-13 02:20
该井位于渤海中部海域,紧邻渤海最大的富烃凹陷—渤中凹陷,在火山岩地层中累计钻遇超120米天然气层,完钻井深5770米。经测试,该井日产天然气约80万立方米(约2800万立方英尺),展现了海上超深层火山岩领域广阔的勘探前景,有力推动了渤中凹陷天然气勘探进程。
2026-11-13 02:20
绿色算力既是数字基础设施建设的重要方向,也是清洁能源优势转化为发展动能的现实路径。当前,人工智能技术加快迭代,算力在科技创新和产业升级中的基础作用日益凸显,持续增长的计算需求对电力保障能力和能源利用效率提出了更高要求。
2026-11-12 01:30
把两根绳子接起来量一量,总长就出来了,不必先把两段长度换算成数字再相加。模拟计算走的是这条路:不把问题拆成一条条指令,而是让物理规律直接给出结果。北京大学人工智能研究院孙仲团队牵头,联合意大利米兰理工大学、IBM苏黎世研究院和美国一家公司的研究人员,为正在升温的模拟计算研究提出“现代模拟计算”统一框架。相关论文于近日发表。
2026-11-12 01:30
眼下,重庆市彭水苗族土家族自治县的红薯正值采挖时节,一辆辆轻型卡车在通往种植基地的“产业路”上穿梭,将收获的鲜薯运送到县工业园的重庆乐薯农业有限公司,经过严格的品质检测、清洁和一系列加工程序后,便成了人们常见的红薯淀粉。
2026-11-12 02:05
11月10日,记者从山东省泰安市人民政府新闻办举行的发布会获悉,泰安将科学有序、免费开放部分泰山景区等场地,为国内外机器人企业、科研机构提供实景训练测试条件,同时统筹做好场景供需对接、数据算力支撑、落地服务保障等,推动泰安新型工业化强市建设。
2026-11-12 02:05
加载更多