点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:生成式人工智能应用需严格规范
首页> 科技频道> 人工智能 > 正文

生成式人工智能应用需严格规范

来源:经济日报2023-12-26 09:06

  近日,江苏省科技厅相关负责人在回应媒体关注时表示,将组织开展科技人员公开发表论文的自查和主动抽查,并开展科技伦理审查,采取措施防范ChatGPT引发的学术不端行为,引导科技人员提高诚信意识。

  人工智能作为一种战略性新兴技术,已经融入人们的生产生活,正在重构生产、分配、交换、消费等经济活动各环节,极大提高了工作效率,降低生产、管理等成本,并不断催生新技术、新产品、新产业,为经济社会发展不断注入新动能。近段时间以来,生成式人工智能的爆发式应用,也引发了人们对其安全性、可靠性的广泛关注。

  面对生成式人工智能为人类经济社会发展带来的无限可能,我们应该积极拥抱这一新机遇。而对其带来的新问题,也要加以重视、积极应对,从技术、伦理、法律等多方面设置“安全阀门”,防范生成式人工智能带来的风险,共同推动生成式人工智能健康发展。

  防范生成式人工智能风险,源头在于进一步完善相关法律法规的界定。在法律上划出生成式人工智能发展不可逾越的红线,并列明具体的负面清单。同时,加快立法进程,针对数据、内容安全、知识产权等生成式人工智能发展的关键问题,进行分类管理、分类立法,通过政策立法对生成式人工智能的设计、演进进行有效引导、统筹管理。

  防范生成式人工智能风险,核心在于确定底线,提升外部监督监管力度。要加快制定相应的技术使用规则和应急处理措施,强化对应用生成式人工智能的企业、平台的监管和约束,建立完整的安全评估规范和管理流程规范,定期检查评估,及时发现和处理违规行为,保障数据安全及隐私安全,防止技术滥用造成损失,确保其符合法律法规和社会公德。

  防范生成式人工智能风险,重点在于强化引导企业、平台和个人加强自我约束。企业应增强底线意识,在技术开发环节,遵循人工智能开发原则,遵循基本的社会价值规范和公共道德,承担相应的社会责任,不触犯相关法律法规;软件平台要严格检验应用权限,确保用户使用的安全性;个人用户要加强自我约束意识和行动,提升技术使用素养,培养正确认识、合理使用技术的能力。(蒋波)

[ 责编:肖春芳 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 福建莆田仙游:推动传统工艺美术产业升级转型

  • 霞光满天“扮靓”南京

独家策划

推荐阅读
科学家成功合成了一种新型全碳分子——环[48]碳(C48)。
2025-08-19 09:46
青岛科技大学教授刘凯团队开发出首个N型热电弹性体,即“热电橡胶”,为柔性电子学和可穿戴设备的能源采集技术提供了新方案。
2025-08-19 09:44
作为全球最具危害性的恶性入侵杂草之一,薇甘菊以惊人的繁殖速度和强大的环境适应性,严重破坏了亚洲、太平洋地区及中国华南地区的生态。
2025-08-19 09:43
中国新能源汽车保有量、产销量、充电桩数量均居世界第一。
2025-08-19 09:41
记者从国家数据局获悉:中文数据在国内大模型的训练性能提升方面发挥着重要作用。
2025-08-19 09:35
大约4亿年前,脊椎动物的活动范围仅限于海洋,鱼类尚未进化出适应陆地行走的四肢。”  2016年,Szrek和同事曾报告在圣十字山脉发现类似化石,他们认为这些痕迹属于一种正在捕食的古代肺鱼。
2025-08-18 10:28
8月15日,在全国生态日主场活动期间,中国环境科学学会理事长、中国科学技术协会生态环境产学联合体主席王金南代表学术界发布了“生态文明领域20项重大科技成果”。海上风电安全高效开发成套技术和装备及产业化应用于我国70%以上海上风电项目,大力推动我国海上风电技术和产业从“跟跑”到“领跑”。
2025-08-18 10:28
研究人员指出,决定锂离子电池能量密度的重要因素,是电池的正负极能够容纳多少锂离子,目前锂离子电池能量密度不高的主要症结就在于此。“这足以证明离域电解液显著提升了电池性能,特别是能量密度和循环稳定性方面的优越性。
2025-08-18 10:26
一张植被图可以反映一个地区植物群落的状况,是做好保护和发展工作的一个基础。3.7万多个野外调查样点支撑的新图,为青藏高原变暖、变湿的趋势提供植被地理学证据,进一步夯实了保护和发展的根基。
2025-08-18 10:25
从“暴雨引发山体滑坡”的伪造视频到“核电站泄漏”的AI生成新闻稿,“AI谣言”表现形式多样,让不少群众一度信以为真。某科技论坛上,一名网友上传教程:用开源AI模型,输入“生成一张某市发生恐袭的图片”,30秒即可获得以假乱真的画面。
2025-08-18 10:24
脂肪肝、血压偏高、空腹血糖异常……一些以往更多与中老年相关的健康问题,正悄然在不少年轻人身上显现。在糖尿病视网膜病变筛查方面,我们开发了DeepDR系统,利用人工智能助力基层医生解读眼底片子。
2025-08-15 09:54
现有的抗病毒药物只对特定病毒有效,因此,拥有一种作用广泛的治疗方法将极具价值。对于耐药性问题,Bogunovic认为,只要这种抗病毒药物包含一系列针对病毒不同生命周期的干扰素触发蛋白,病毒就不太可能对其产生耐药性。
2025-08-15 09:53
经过多年持续攻坚,数字领域突破了一批关键核心技术。据测算,2024年,上市数据企业平均研发投入较“十三五”末增长79%,产业链创新活力持续增强。
2025-08-15 09:45
我国又一个超千亿立方米的大型深层整装页岩气田诞生。
2025-08-15 09:42
随着电动交通、低空经济、消费电子、人形机器人等新兴领域迅速发展,人们对高能量、长续航可充放电池的需求日益迫切。
2025-08-15 09:40
截至目前,我国累计批准发布国家标准物质19007项,其中1—7月新批准发布国家标准物质549项,同比增长56%。
2025-08-14 10:29
一项发表于《自然-神经科学》的研究,首次成功建立了线粒体功能障碍与神经退行性疾病的因果关系。
2025-08-14 10:28
中国的黄牛育种终于有了自主、低成本的检测芯片!”
2025-08-14 10:27
提到全球变暖,人们往往首先想到二氧化碳、甲烷乃至氟利昂等能够加剧大气温室效应的温室气体。很多人不知道,大气中还存在一类可以抑制气候变暖的物质。而人类扩张农田等行为,可能在客观上导致大气中“降温物质”减少,进而加剧全球气候变暖。
2025-08-14 10:24
党的二十届三中全会明确提出,建立人工智能安全监管制度,完善生成式人工智能发展和管理机制。这就要求我们坚持统筹高质量发展和高水平安全,把创新作为第一动力、把安全作为底线要求、把普惠作为价值追求,积极融入“人工智能+”行动,鼓励和促进人工智能气象应用服务创新发展,前瞻应对人工智能技术应用带来的风险挑战。
2025-08-14 03:50
加载更多