点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:法治护航人工智能科技向善
首页> 科技频道> 综合新闻 > 正文

法治护航人工智能科技向善

来源:人民日报2025-04-10 10:11

  图①:江苏省宿迁市公安局宿城分局民警深入辖区企业,宣讲人工智能设备使用的相关法律问题。

  王 力摄(人民视觉)

  图②:江西省抚州市临川区第五实验学校人工智能小课堂上,学生观看仿生四足机器人表演。

  朱海鹏摄(人民视觉)

  人工智能快速发展,在赋能千行百业、助推经济社会发展的同时,利用AI进行违法犯罪、AI数据权属争议等新问题也随之出现。

  透过几个具有代表性的司法案例,看司法机关如何通过积极稳妥审理相关案件,运用法治方式厘清法律边界、做好规制监管、强化司法指引,护航人工智能向上向善。

  ——编 者

  生成AI作品 可享有著作权

  【案情】李某使用AI软件制作了一张图片。他为这张图片加上“AI绘画”等标签,发布在自己的社交平台上。之后,李某发现这张图片被博主刘女士擅自使用,还截去了署名水印。李某认为刘女士的行为侵犯了自己的著作权,便将刘女士诉至法院。

  涉案图片与一般的绘画或摄影作品不同,是利用AI技术生成的,那么它是否符合著作权法中关于作品的定义?李某是否拥有著作权?

  李某认为,使用AI软件进行绘画时,需要设置相关提示词、模型以及其他参数,并进行反复调试,最终才能得到想要的效果。AI软件只是制作工具,自己才是图片的主导者,因此应享有相关图片著作权。

  【说法】法院审理认为,本案中,图片以线条、色彩构成,有审美意义,可以认定为作品,且具备“智力成果”和“独创性”要件。通过设计提示词,不同的人会生成不同的结果,这种差异可以体现人类的独创性智力投入。涉案图片是基于原告的智力投入直接产生,而且体现出原告的个性化表达,因此可以认定涉案图片属于著作权法中规定的作品,李某可以被认定为作者,享有著作权。最终,法院作出判决,认为被告侵犯原告署名权和信息网络传播权,应该对原告赔礼道歉,并赔偿原告经济损失。

  法官提示,利用人工智能生成的内容,是否构成作品,何人能被认定为作者,需要个案判断,不能一概而论。关键在于查明人类使用AI模型是否给人以创作空间,以及生成的内容是否体现了人的独创性智力投入。本案裁判明确了利用人工智能生成图片的“作品”属性和使用者的“创作者”身份,对于保护人工智能生成作品创作,具有重要意义。

  保护AI数据 释放商业价值

  【案情】A公司是一家从事人工智能领域数据服务的公司,曾用近3年时间采集相关语音数据,形成一个语音数据集,并将其有偿授权给企业做人工智能相关训练使用。

  A公司发现,这个语音数据集中的一个数据子集,被挂在B公司官网上供注册用户下载。A公司认为,这侵害了自己的数据财产权、著作权和商业秘密,同时构成不正当竞争行为,遂将B公司起诉到法院。

  对此,B公司认为,A公司诉请保护的数据财产权益目前并无明确法律依据;涉案数据集为互联网上公开的开源数据集,并不构成商业秘密。

  【说法】法院审理认为,本案中,特定数据集的选择、编排因不具有独创性而不构成著作权法规定的作品,但由于A公司对数据的合法收集形成付出了大量技术、资金、劳动等实质性投入,在原始数据上添附了更多的商业价值,能够满足人工智能模型研发主体对特定数据集的需求,可为持有者带来交易机会与竞争优势等商业利益,属于反不正当竞争法所保护的合法权益。B公司未经合法授权或未遵循开源协议规定,获取、使用相关数据集,违反数据服务领域商业道德,构成不正当竞争。

  此外,该案审理过程中,国家知识产权局在多地推行了数据知识产权工作试点,为符合条件的申请方发放数据知识产权登记证书。A公司为涉案的语音数据集申请到一份《数据知识产权登记证》。最终,法院作出判决,认为被告B公司侵权,应赔偿原告A公司相关经济损失。

  法官认为,虽然目前对数据立法的相关条款有待进一步完善,但是通过裁判,传递了这样的司法导向和指引:在一定条件下,数据成为生产要素,具有商业价值,应当予以保护。

  滥用AI换脸 最终难逃惩处

  【案情】傅某在社交平台上发布“广告”,声称可通过“AI换脸”技术,帮助他人通过相关平台的人脸验证,以登录非本人账号。

  原来,傅某使用相关软件,用“客户”提供的头像制作换脸视频,预存在手机相册中,再点击客户要求通过的人脸验证链接,采用软件控制相关平台的人脸识别系统,读取到其指定的预先制作的人脸视频,以此通过平台的人脸验证。甚至客户只提供身份证号,傅某即从某些非法平台上购买相关公民信息,以制作换脸视频。

  傅某被公安机关抓获后,被检察机关以非法控制计算机信息系统罪提起公诉。

  【说法】傅某辩称,其只是借助AI软件,使得系统读取到的是其预先制作的人脸视频,并未“控制”平台的识别系统,刑法也未明确通过AI换脸帮助他人通过实名认证的行为定性为犯罪。

  法院经审理认为,傅某使用软件程序,改变手机系统原本调用自身摄像头的方式,并用虚拟摄像头助手程序读取指定的人脸视频,实现替换摄像头的功能。这种对后台系统进行干扰的行为,接近一种控制行为,符合“非法控制计算机信息系统罪”的犯罪特征。此外,傅某为制作验证视频而购买他人身份信息,构成侵犯公民个人信息罪。二罪是目的和手段的关系,属于刑法上的“牵连犯”,故从一重罪处断,也就是以非法控制计算机信息系统罪追究傅某刑事责任。

  法官提示,网络用户一方面要保护自身合法权益,另一方面不能触犯法律红线。对于监管机构而言,则需要持续跟进AI技术发展前沿,研判潜在行业风险,充分利用现有的算法备案机制、算法安全评估机制、科技伦理评估机制等,做好人工智能相关治理。

  利用AI造谣 依法予以严惩

  【案情】“浙江一工业园突发大火,‘视频曝光’,整个厂房都烧透了!伴有爆炸声,火光冲天!伤亡不明!”前不久一则“图文并茂”的“新闻”在网上广为流传,引起不少网友关注。很快,相关部门予以辟谣。原来这则“新闻”是利用AI技术制作的一则谣言。

  张某、陈某二人选取网络热点,复制新闻的标题、关键词并利用AI软件自动生成文案和视频,将其发布至网络平台供人浏览,以博取流量,进而牟利。虚假造谣视频累计阅读观看量超167万次,造成恶劣社会影响。二人被公安机关抓获并由检察机关提起公诉。

  【说法】法院审理认为,利用AI技术自动合成灾情、险情等虚假视频,在网络平台上传播,严重扰乱社会秩序的,应当以编造、故意传播虚假信息罪定罪处罚。对于是否达到“严重扰乱社会秩序”的程度,应当结合虚假信息的发布数量、点击转发量、对社会公共秩序的影响及相关职能部门采取的应对措施等因素进行综合判断。张某、陈某利用AI技术编造虚假的险情、灾情、警情,严重扰乱社会秩序,其行为已构成编造、故意传播虚假信息罪。

  法官提示,上述案件是人工智能时代编造、故意传播虚假信息罪的典型,该案警示网络用户在使用AI生成图片、音视频时,应注意甄别图片、音视频的真实性,尤其需警惕具有情绪煽动性、利益诱导性的内容。如发布AI生成内容,还应履行添加标识的义务,从而避免他人混淆,以防被不法分子利用。此外,通过认定与追究编造、故意传播虚假信息罪的刑事责任,可以有效净化网络内容,遏制人工智能时代虚假信息的泛滥之势,保障包括网络秩序在内的社会公共秩序的安定。(记者 金歆)

  案例来源:最高人民法院

[ 责编:林佳欣 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • “月季花环”扮靓初夏北京

  • 宁夏贺兰:冷凉蔬菜迎丰收

独家策划

推荐阅读
从日前闭幕的第九届数字中国建设峰会可以看出,我国人工智能技术已迈过能聊天、拼参数的初级阶段,进入会干活、有价值的跃升期。好用,既是用户体验的直观标尺,也是我国人工智能从技术跟跑到创新引领、从规模扩张转向质量提升的关键抓手。
2026-05-08 09:14
4月23日,100多家仪器企业带着自己的拳头产品,参加第十九届中国科学仪器发展年会。一个是以技术创新切入的初创企业,一个是深耕多年的国产老牌厂商,纳析科技和海能技术的实践,正是国产科学仪器企业不断向上突破的缩影。
2026-05-08 09:14
记者日前从中国科学技术大学获悉:近日,该校郭光灿院士团队在实用化量子密钥分发研究方面取得重要进展。团队突破量子态制备和单光子探测技术在高速、高信噪比和集成度方面相互制约的难题,首次利用半导体单光子探测器,实现了超越超导探测系统的安全密钥率纪录。
2026-05-08 09:13
由该校基础医学院教授侯宇领衔的研究团队,首次破解多聚蛋白1在白血病干细胞中驱动免疫逃逸与自我更新的全新机制,
2026-05-08 04:35
这还是那个荒凉的沙漠吗?晴空丽日,10万株玫瑰竞相绽放,花瓣层层叠叠,点缀在沙海边缘。微风拂过,淡淡花香扑面而来……
2026-05-08 04:35
儿童科学本质教育在科学教育中有着举足轻重的作用,发展科学本质观是科学教育的核心目标之一。
2026-05-07 05:35
面对现实世界中日益复杂的预测需求,科研人员围绕大模型预测技术,走出了两大核心主线、四种具体技术路径。
2026-05-07 05:35
人工智能是德国提升国家科技创新能力、竞逐全球科技产业高点的关键领域。
2026-05-07 05:35
该校邢立达课题组与河北省区域地质调查院合作,对河北宣化土城子组两个新的恐龙足迹点展开研究,记录下该地层迄今最慢的兽脚类恐龙行迹,
2026-05-07 06:00
大型体育赛事最令人头痛的当属“最后一公里”:车停到哪里最方便?从哪个入口进场最快捷?如今,这一状况正在改变。
2026-05-07 06:00
在刚刚过去的“五一”假期,“科技游”成为了众多游客的选择。辽宁沈阳航空科技馆则以大量模拟试飞游戏,让孩子们在玩乐中感知复杂的航空技术原理。当技术赋能的展陈体验成为标配,制度与运营模式的创新则为科技馆开辟了新的增长空间。
2026-05-06 09:13
光明日报西安5月5日电 记者李洁、张哲浩5日从中国科学院地球环境研究所获悉,该所联合国内外多家科研机构进行系统研究,提出土壤温度变化是东亚新石器时代粟作农业时空演化的重要调控因素。
2026-05-06 09:10
”日前,中国科学院院士、国家卫生健康委副主任曾益新在“高原重大心肺脑疾病预警关键技术与防治策略研究”项目启动会上表示。曾益新表示,该项目聚焦发病机制、易感人群识别、精准干预、治疗方案四大核心方向,其中发病机制研究是所有工作的基础。
2026-05-06 09:09
为此研究团队开发出纳米高熵陶瓷涂层,集防结焦、耐高温腐蚀、高导热于一体,还能降低煤耗。基于光谱学科基础,研究团队把“吸热”的思路反过来,开发了辐射制冷涂层。以吸热器表面的高温太阳能吸热材料为例,这种关键光学材料一旦断供,国内光热电站将陷入被动。
2026-05-06 09:08
联合国教科文组织5日发布《量子时刻:国际量子科学技术年成果全球报告》,首次对2025年国际量子科学技术年进行了全面评估。
2026-05-06 09:01
董耀会的理想是在全国的长城沿线开发出一万个村,把长城沿线的优质农产品卖到世界各地。
2026-05-02 08:15
习近平总书记强调,要以更大力度、更实举措加强基础研究,提升我国原始创新能力,进一步打牢科技强国建设根基。
2026-05-01 18:40
加强基础研究,建设科技强国的必由之路。
2026-04-30 16:22
“AI投毒”“控评”“互踩”“人肉”“开盒”“算法黑箱”……AI时代,面对这些媒介乱象,该如何约束?
2026-04-30 09:02
近日,国家市场监管总局与教育部联合发布全国首批“专业与标准化教育融合试点单位”名单,位于江苏苏州太仓市的苏州健雄职业技术学院入选。如今,苏州健雄职业技术学院立足太仓“德企之乡”的实际需求,建校20余年来为太仓560余家德企直接输送技能人才或提供相关培训。
2026-04-30 08:59
加载更多