点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:法治护航人工智能科技向善
首页> 科技频道> 综合新闻 > 正文

法治护航人工智能科技向善

来源:人民日报2025-04-10 10:11

  图①:江苏省宿迁市公安局宿城分局民警深入辖区企业,宣讲人工智能设备使用的相关法律问题。

  王 力摄(人民视觉)

  图②:江西省抚州市临川区第五实验学校人工智能小课堂上,学生观看仿生四足机器人表演。

  朱海鹏摄(人民视觉)

  人工智能快速发展,在赋能千行百业、助推经济社会发展的同时,利用AI进行违法犯罪、AI数据权属争议等新问题也随之出现。

  透过几个具有代表性的司法案例,看司法机关如何通过积极稳妥审理相关案件,运用法治方式厘清法律边界、做好规制监管、强化司法指引,护航人工智能向上向善。

  ——编 者

  生成AI作品 可享有著作权

  【案情】李某使用AI软件制作了一张图片。他为这张图片加上“AI绘画”等标签,发布在自己的社交平台上。之后,李某发现这张图片被博主刘女士擅自使用,还截去了署名水印。李某认为刘女士的行为侵犯了自己的著作权,便将刘女士诉至法院。

  涉案图片与一般的绘画或摄影作品不同,是利用AI技术生成的,那么它是否符合著作权法中关于作品的定义?李某是否拥有著作权?

  李某认为,使用AI软件进行绘画时,需要设置相关提示词、模型以及其他参数,并进行反复调试,最终才能得到想要的效果。AI软件只是制作工具,自己才是图片的主导者,因此应享有相关图片著作权。

  【说法】法院审理认为,本案中,图片以线条、色彩构成,有审美意义,可以认定为作品,且具备“智力成果”和“独创性”要件。通过设计提示词,不同的人会生成不同的结果,这种差异可以体现人类的独创性智力投入。涉案图片是基于原告的智力投入直接产生,而且体现出原告的个性化表达,因此可以认定涉案图片属于著作权法中规定的作品,李某可以被认定为作者,享有著作权。最终,法院作出判决,认为被告侵犯原告署名权和信息网络传播权,应该对原告赔礼道歉,并赔偿原告经济损失。

  法官提示,利用人工智能生成的内容,是否构成作品,何人能被认定为作者,需要个案判断,不能一概而论。关键在于查明人类使用AI模型是否给人以创作空间,以及生成的内容是否体现了人的独创性智力投入。本案裁判明确了利用人工智能生成图片的“作品”属性和使用者的“创作者”身份,对于保护人工智能生成作品创作,具有重要意义。

  保护AI数据 释放商业价值

  【案情】A公司是一家从事人工智能领域数据服务的公司,曾用近3年时间采集相关语音数据,形成一个语音数据集,并将其有偿授权给企业做人工智能相关训练使用。

  A公司发现,这个语音数据集中的一个数据子集,被挂在B公司官网上供注册用户下载。A公司认为,这侵害了自己的数据财产权、著作权和商业秘密,同时构成不正当竞争行为,遂将B公司起诉到法院。

  对此,B公司认为,A公司诉请保护的数据财产权益目前并无明确法律依据;涉案数据集为互联网上公开的开源数据集,并不构成商业秘密。

  【说法】法院审理认为,本案中,特定数据集的选择、编排因不具有独创性而不构成著作权法规定的作品,但由于A公司对数据的合法收集形成付出了大量技术、资金、劳动等实质性投入,在原始数据上添附了更多的商业价值,能够满足人工智能模型研发主体对特定数据集的需求,可为持有者带来交易机会与竞争优势等商业利益,属于反不正当竞争法所保护的合法权益。B公司未经合法授权或未遵循开源协议规定,获取、使用相关数据集,违反数据服务领域商业道德,构成不正当竞争。

  此外,该案审理过程中,国家知识产权局在多地推行了数据知识产权工作试点,为符合条件的申请方发放数据知识产权登记证书。A公司为涉案的语音数据集申请到一份《数据知识产权登记证》。最终,法院作出判决,认为被告B公司侵权,应赔偿原告A公司相关经济损失。

  法官认为,虽然目前对数据立法的相关条款有待进一步完善,但是通过裁判,传递了这样的司法导向和指引:在一定条件下,数据成为生产要素,具有商业价值,应当予以保护。

  滥用AI换脸 最终难逃惩处

  【案情】傅某在社交平台上发布“广告”,声称可通过“AI换脸”技术,帮助他人通过相关平台的人脸验证,以登录非本人账号。

  原来,傅某使用相关软件,用“客户”提供的头像制作换脸视频,预存在手机相册中,再点击客户要求通过的人脸验证链接,采用软件控制相关平台的人脸识别系统,读取到其指定的预先制作的人脸视频,以此通过平台的人脸验证。甚至客户只提供身份证号,傅某即从某些非法平台上购买相关公民信息,以制作换脸视频。

  傅某被公安机关抓获后,被检察机关以非法控制计算机信息系统罪提起公诉。

  【说法】傅某辩称,其只是借助AI软件,使得系统读取到的是其预先制作的人脸视频,并未“控制”平台的识别系统,刑法也未明确通过AI换脸帮助他人通过实名认证的行为定性为犯罪。

  法院经审理认为,傅某使用软件程序,改变手机系统原本调用自身摄像头的方式,并用虚拟摄像头助手程序读取指定的人脸视频,实现替换摄像头的功能。这种对后台系统进行干扰的行为,接近一种控制行为,符合“非法控制计算机信息系统罪”的犯罪特征。此外,傅某为制作验证视频而购买他人身份信息,构成侵犯公民个人信息罪。二罪是目的和手段的关系,属于刑法上的“牵连犯”,故从一重罪处断,也就是以非法控制计算机信息系统罪追究傅某刑事责任。

  法官提示,网络用户一方面要保护自身合法权益,另一方面不能触犯法律红线。对于监管机构而言,则需要持续跟进AI技术发展前沿,研判潜在行业风险,充分利用现有的算法备案机制、算法安全评估机制、科技伦理评估机制等,做好人工智能相关治理。

  利用AI造谣 依法予以严惩

  【案情】“浙江一工业园突发大火,‘视频曝光’,整个厂房都烧透了!伴有爆炸声,火光冲天!伤亡不明!”前不久一则“图文并茂”的“新闻”在网上广为流传,引起不少网友关注。很快,相关部门予以辟谣。原来这则“新闻”是利用AI技术制作的一则谣言。

  张某、陈某二人选取网络热点,复制新闻的标题、关键词并利用AI软件自动生成文案和视频,将其发布至网络平台供人浏览,以博取流量,进而牟利。虚假造谣视频累计阅读观看量超167万次,造成恶劣社会影响。二人被公安机关抓获并由检察机关提起公诉。

  【说法】法院审理认为,利用AI技术自动合成灾情、险情等虚假视频,在网络平台上传播,严重扰乱社会秩序的,应当以编造、故意传播虚假信息罪定罪处罚。对于是否达到“严重扰乱社会秩序”的程度,应当结合虚假信息的发布数量、点击转发量、对社会公共秩序的影响及相关职能部门采取的应对措施等因素进行综合判断。张某、陈某利用AI技术编造虚假的险情、灾情、警情,严重扰乱社会秩序,其行为已构成编造、故意传播虚假信息罪。

  法官提示,上述案件是人工智能时代编造、故意传播虚假信息罪的典型,该案警示网络用户在使用AI生成图片、音视频时,应注意甄别图片、音视频的真实性,尤其需警惕具有情绪煽动性、利益诱导性的内容。如发布AI生成内容,还应履行添加标识的义务,从而避免他人混淆,以防被不法分子利用。此外,通过认定与追究编造、故意传播虚假信息罪的刑事责任,可以有效净化网络内容,遏制人工智能时代虚假信息的泛滥之势,保障包括网络秩序在内的社会公共秩序的安定。(记者 金歆)

  案例来源:最高人民法院

[ 责编:林佳欣 ]
阅读剩余全文()

相关阅读

您此时的心情

光明云投
新闻表情排行 日/周
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • C919国产大飞机 联通中西部空中交通

  • “家长夜校”走进小学校园

独家策划

推荐阅读
担心被人工智能(AI)取代的员工,更容易在工作中消极怠工、迟到早退,甚至出现顺手拿走同事的午餐等人际越界行为。
2026-10-21 10:48
中国职业教育专题展上,摆着新能源汽车、港口航运、船舶焊接三个领域的未来实训中心项目。“无论实训条件和方式如何改变与优化,梳理并稳定现场关键岗位能力图谱,依然是未来实训中心的重要基石。
2026-10-21 10:48
记者日前从国家医保局了解到,医保钱包已升级到2.0版本,职工医保个人账户跨省共济功能实现全国全面落地。2.0版本的医保钱包都升级了哪些内容,谁可以使用,又如何使用呢?
2026-10-21 10:48
从基础化疗到双抗、多抗,再到抗体偶联药物(ADC),抗肿瘤新药正加速涌向临床。近日,京津冀第四届医药创新发展大会抗肿瘤新药安全与药学服务创新主题分会上,河北医科大学第四医院药学部主任冯锐用“百花齐放”形容当下的创新药格局。
2026-10-21 10:47
此次研究中,研究团队研制了一种高性能声学量子器件——高泛音体声学波谐振器。研究团队不仅让多个声学振动模式建立了这种特殊关联,还将这种关联从一个声学谐振器传递到另一个谐振器。
2026-10-21 10:47
智能科技是当前最具革命性、引领性的科技前沿,是推动新质生产力质态变革的关键力量,它不仅表现为技术层面的迭代,更体现为生产方式、产业形态和价值创造模式的系统性重构,并推动形成智能经济新形态。
2026-10-20 10:00
推进全球人工智能伦理治理,必须坚持“以人为本、向上向善”,以增进全人类共同福祉为根本目标,从技术普惠、精准治理、多元参与和全球共治四个方面协同推进,构建发展机会均等、权责边界清晰、国际协同高效的治理秩序。
2026-10-20 09:59
人民健康是民族昌盛和国家强盛的重要标志,也是中国式现代化行稳致远的根基所在。时隔十年,2026年10月,全国卫生与健康大会再次召开。回望十载征途,健康中国已从宏伟蓝图,化作大江南北触手可及的民生福祉。
2026-10-20 09:58
自然如何不被贫困“吞噬”,跨境之痛如何共担,资金如何流向正确方向——16日在亚美尼亚首都埃里温举行的生物多样性领导人峰会,就这三个问题向《生物多样性公约》第十七次缔约方大会(COP17)正式谈判传递出三个诉求:把自然保护纳入安全议程,让全球目标回应区域现实,让资金和措施真正到位。
2026-10-20 09:57
生产要素创新性配置,推动资源治理由技术优化向制度协调延伸。算电协同、算水协同揭示的资源逻辑,是技术创新改变资源利用方式、要素创新性配置提升系统效能、产业转型升级实现综合价值的有机统一。
2026-10-20 09:55
围绕“科学作为全球公共产品”“负责任的人工智能应对全球挑战”“科学、社会与信任”三大议题开展对话交流
2026-10-20 08:58
2026国际科学理事会中期会员大会暨北京科学对话由国际科学理事会主办,中国科学技术协会、中国科学院、中国社会科学院、北京市人民政府共同举办
2026-10-20 08:29
城市是人民美好生活的载体,人民群众是城市建设的主体和城市发展的动力源泉。
2026-10-19 09:32
当你出门后,扫地机器人根据你的清洁习惯自己排定工作时间、规划好路线;自研的快充技术,让它边充边扫、无限续航。这个颇具科幻意味的场景,已被第140届中国进出口商品交易会(广交会)上的一款产品实现。
2026-10-19 09:35
“可信工具”这一重要提法精准抓住了人工智能发展的一个根本问题:我们不能只问人工智能是不是更聪明、更高效、更强大,还要追问它是否真正可信。
2026-10-19 09:31
让从农田到餐桌的全过程均有标准可依,并积极推广应用食品数字标签,让食品信息获取更便捷高效。
2026-10-19 09:18
推动卫生与健康事业高质量发展,不断提高人民健康水平,确保健康中国建设取得决定性进展。
2026-10-19 09:16
当前全球生态环境挑战日益严峻,科技创新是应对可持续发展挑战的核心力量。
2026-10-16 16:29
10月16日是第四十六个世界粮食日,所在周是全国粮食安全宣传周,主题为“创新当下,粮安未来”。从良种选育、智能农机到数字农业、精准储运,创新正成为粮食增产、节粮减损、营养提升的关键引擎。即日起,光明网联合科普中国推出系列科普视频,深入解读科技创新绘就的粮安答卷。
2026-10-16 08:46
在显示技术升级与人工智能赋能的双重驱动下,行业正跳出传统数字阅读的固有边界
2026-10-16 08:45
加载更多