点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:透视欧盟人工智能法草案
首页> 科技频道> 综合新闻 > 正文

透视欧盟人工智能法草案

来源:光明网-《光明日报》2023-03-16 06:45

  【环球视野】 

  作者:柳建龙(中国社会科学院大学法学院教授)

  随着人工智能技术的应用和发展,人们对它可能带来的收益和风险的认识日益深刻。当下,人工智能的跳跃式发展在给人类社会带来广阔前景的同时,也给个人安全和保障带来很大风险,增加了侵犯人类基本权利的可能性。然而,各国政府却普遍存在欠缺权力、程序框架和资源以确保人工智能的发展和使用符合法律规定的能力。

  如何从立法着手促进人工智能产业的健康发展,成为迫在眉睫的课题。

  从跨国视角来看,碎片化的监管措施会妨碍跨境人工智能市场的形成,并威胁到数字主权。为此,欧盟出台了一系列措施鼓励企业发展人工智能解决方案。本月底,《关于制定确立人工智能统一规则(人工智能法)以及修改部分联盟法律的欧盟议会和欧盟理事会的条例的提案》(以下简称“草案”)将提交欧盟议会表决。如获通过,意味着该法案将成为具有拘束力,可在欧盟成员国内直接适用的法律。

  目前,草案已提交欧盟议会一读。草案为调和人工智能的发展和利用与欧盟国家社会价值观和公民基本权利保障,对人工智能的概念和分类,高风险人工智能系统的提供者、使用者及其他人的义务、法律后果等作了详细的规定。鉴于当下人工智能技术的发展、利用以及流转程度的加深,特别是在日益复杂的全球科技格局和国际关系背景下,有必要对相关动态予以进一步关注。

  1.监管“黑箱”技术的核心诉求

  统一人工智能立法对于欧盟而言,最重要的诉求就是要确保投放到欧盟市场的人工智能系统及其使用的安全性。近来,人工智能系统的平民化使得藏在“黑箱”里的新技术变得触手可及。人工智能变得可以与普通人“交流”,但是它的好多“想法”却让人产生不安。

  怎么才能确保人工智能尊重现行法律中所包含的价值观和基本权利成为一个现实问题。人工智能可以“理解”欧盟社会的价值观吗?如何让一个智能系统符合欧盟对于建立一个包容、宽容、公正、团结、非歧视的社会的期待?尊严、自由、平等、民主、法治、人权保障等理念如何经由对人工智能系统的分类处理、细化各类主体的职责和义务、完善有关程序,进而被强化、具体化、内化到人工智能安全规定本身之中?《欧盟基本权利宪章》所保障的基本权利又如何能通过人工智能系统得到推进,如:人性尊严、尊重私生活和保护个人数据、不受歧视权和男女平等、获得有效救济和公平审判的权利、辩护权和无罪推定等以及一些特殊群体的权利,如工人享有公平和公正的工作条件的权利、消费者权益保护、儿童权利和残疾人的复归社会,与人们的健康和安全有关的,如获得高水平的环境保护和改善环境质量的权利。

  从更宏观的层面来看,人工智能没有国界,未来它很可能被用于不同国家的经济和社会部门,在整个欧盟内或者跨境进行流转。部分成员国已经制定了相应的法律,但这种做法对于人工智能的经营者而言,容易欠缺法律的稳定性。因此,制定统一的法律框架、确保法律的确定性和可预见性,进而促进人工智能的投资和创新成为迫在眉睫的问题。

  历史上,各自为政的立法措施造成市场碎片化的案例屡见不鲜。制定统一的法律框架,可以促进合法、安全和可靠的人工智能的应用,确保基于人工智能的货物和服务的跨境自由统一市场的形成。不过,值得注意的是,草案旨在确立统一的法律框架,而非具体法律规范,这为成员国在不损害立法目标的情况下采取不同程度的行动,特别是市场监督系统的内部组织和促进创新措施的采纳,留下了空间。

  2.从宽泛界定到细化指引

  最初的“草案”对人工智能系统作了宽泛界定,将其界定为采取一种或多种技术和方法开发的软件,并且能够针对一组特定的人工定义的目标,产生诸如内容、预测、建议或决定等影响其互动环境的输出。不过,欧盟理事会认为,标注过于宽泛难以提供清晰的指引,为此,进一步将人工智能的范围缩小,即通过机器学习以及以逻辑和知识为基础的方法发展起来的系统,以区别于一般软件系统。

  按照对个人人身和安全、基本权利可能造成的风险高低,《欧盟人工智能法》将人工智能系统分为三类加以区别处理,分别是禁止、高风险、非高风险三类。

  草案禁止人类的人工智能实践及实时远程生物识别系统的运用作了规定。首先,禁止在市场上投放、交付使用的包括:以个人无法认知的方式,采用潜意识教化技术严重扭曲个人行为或者利用特定群体的年龄、残障或者特定社会或经济处境等弱点,其目的旨在或者效果为严重扭曲与该群体相关的人的行为,业已或可能对个人生理或心理造成伤害的人工智能系统,以及根据自然人的社会行为或者已知或预测的个性特征或人格特征,在一定时期内对自然人进行评估或分类,但其所产生的社会评分可能造成自然人或其整个群体在社会环境中受到不利或不适宜待遇的人工智能系统。

  与此同时,草案对实时远程生物识别系统的使用作了一般性禁止规定。其例外情形作了严格限制,当且仅当其使用存在绝对必要性时,执法机关或受其委托者可在公共场所诉诸前述系统。

  高风险的人工智能指可能对个人健康、安全及基本权利产生重大有害影响的人工智能。草案虽然未作明确界定,但给出了高风险人工智能系统的判断标准。具体而言,下列人工智能系统应视为高风险人工智能系统:根据欧盟统一立法清单,相关产品或者作为其安全部件的人工智能系统本身,在投放市场或者投入使用前需要接受第三方合规评估的,如运输、机械、电梯、压力设备、医疗设备、安全设备、无线电设备的人工智能系统;旨在用于包括自然人的生物识别和分类、关键基础设施的管理和运作、教育和职业培训、就业、执法、移民、难民和边境管制以及司法和民主过程等领域的人工智能系统;就其严重程度和发生概率而言,其对个人健康、安全和基本权利造成不利影响的风险极大的人工智能系统。

  与前述相比,诸如聊天机器人之类的非高风险人工智能技术,只需要满足最低限度的透明性要求。草案起草者认为,只要告知用户他正在与人工智能进行互动就可以减少潜在风险,故其对个人的健康、安全及基本权利造成损害的可能性较小。

  3.高风险技术需要全过程监管

  对高风险人工智能系统,草案设计了全过程监管制度。高风险人工智能系统“从摇篮到坟墓”——自投放市场或投入使用前直至整个存续期间——都要接受审查,以确定其是否遵守强制性的风险管理系统、严格的数据和数据治理规定,技术文件和日志保存的规定及上市后监测和事故报告的规定。与之相应,草案对高风险人工智能系统的提供者课以较重义务。

  提供者负有合规义务。提供者应确保高风险人工智能系统的预期使用目的符合规定,按照规定建立、运行、记录并维持风险管理系统,并确保人工监管的准确性、韧性和安全性。

  提供者应建立合理的质量管理系统,并以书面政策、程序和指令的形式系统、有序地载明该质量管理系统,确保合规程序的执行、相关文件的草拟以及强有力的售后监管制度的建立;确保高危人工智能系统在投放市场或投入使用前,经过相关的评估程序。在高风险人工智能系统投放市场或投入使用前,提供者应起草并持续更新技术文件。技术文件的编制方式应能证明高风险人工智能系统符合欧盟人工智能法的要求,并为国家主管部门提供全部必要的信息,以评估人工智能系统是否符合这些要求。

  提供者有记录保存义务。在人工智能系统投放市场或者投入使用之日起的10年内,提供者应保存技术资料、质量管理系统相关文件等以备检查。依照与用户的协议或法律规定由其控制高危人工智能系统自动生成的日志的,则提供者有义务保存上述日志。保存期限根据高危人工智能系统的预期使用目的、欧盟或成员国的法律规定予以确定。在投放市场或投入使用前,提供者应依法向欧盟委员会在成员国协助下设立的欧盟数据库申请登记。欧盟数据库应只包含根据本条例收集和处理信息所必要的个人数据。这些信息应包括负责注册系统的以及有权代表供应商的自然人的姓名和联系方式。倘若提供者认为或有理由认为其投放市场或投入使用的高风险人工智能系统不符合规定,应立即采取必要的纠正措施,酌情撤回或召回。他们应告知有关高风险人工智能系统的经销商,并在适用时告知授权代表和进口商。

  4.人工智能发展违法必究

  一旦草案获得批准,成员国应根据相关规定和条件制定相应罚则,采取必要措施确保这些规定得到适当和有效的执行。所规定的处罚应是有效的、相称的和教育性的,并应特别考虑到小规模提供者和初创公司的利益和经济生存能力。

  草案规定,提供者违反有害的人工智能禁止性规定和数据治理义务的,可以处以最高3000万欧元的罚款或全球年营业额的6%(以较高者为准);高风险人工智能系统的使用违反其他规定的,可以处以最高2000万欧元或营业额的4%的罚款;向成员国主管机构提供不正确、不完整或具有误导性的信息,将被处以最高1000万欧元或营业额2%的罚款。

  草案规定,欧盟机构、机关违反有关禁止性人工智能和数据治理义务规定的,可以处以最高50万欧元的行政罚款;违反其他规定的,可以处最高25万欧元的罚款。

  草案试图在促进人工智能的发展和利用与欧盟价值观和基本权利保障之间寻找平衡:首先,其对人工智能采取了较确切的定义并对禁止的和高风险人工智能系统作了详细的规定,课予提供者较大的义务,并对包括欧盟机构、机关在内的义务主体设定了高额的罚款,可以在较大程度上确保人工智能的发展和利用不至于严重损害欧盟价值观和基本权利;其二,前述规定同时也构成了对欧盟和成员国的限制,非有授权其不得干预和限制人工智能的发展和利用,并要求在适用相关罚则时,应考虑小规模提供者和初创公司的利益和经济生存能力,这为人工智能的发展预留了一定空间;同时,为保护重要的公共利益和个人权利,草案对公权力机关,尤其是执法机关使用的人工智能系统预留了较多空间,并对诉诸禁止的人工智能系统的例外情形作了规定,这可以确保公权力职能的实现。

  不过,正如批评者所指出,鉴于基本权利侵害风险主要来自于国家,尤其是例外情形和对公权力使用的人工智能系统的差别对待,也使得上述平衡处于危险之中。正因为此,目前欧盟议会尚未能达成一致意见,以至于不少人担心草案可能流产。

  《光明日报》( 2023年03月16日 14版)

[ 责编:丁玉冰 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 陕西西安举行仿古入城仪式,献礼文化遗产数字化论坛

独家策划

推荐阅读
“科创游”是一种将科技与旅游相结合的新型旅游形式,不仅展示科技企业的生产过程和产品,还注重科技教育的普及和科技创新的体验
2025-09-17 10:23
此次大会将讨论通过“人与生物圈计划”及其世界生物圈保护区网络杭州战略行动计划,明确未来十年的发展方向、目标和行动方案
2025-09-17 10:21
人造地球卫星、载人飞船、空间站、空间探测器要“上天”进入预定轨道,运载火箭少不了。在“火箭家族”展台,长征一号至五号运载火箭模型笔直而立。
2025-09-17 10:20
在化学生物学研究中,有一种强大的“分子地图绘制技术”——邻近标记技术。在癌症免疫治疗中,免疫细胞需要足够强和足够多的“信号”才能发起攻击,但癌细胞表面的天然信号往往非常稀疏。
2025-09-17 10:18
当前,秋粮陆续进入成熟期。各地抓住最后的窗口期,落实落细各项增产措施,全力以赴抓好秋粮生产,确保秋粮丰产丰收。
2025-09-17 09:32
人工智能的浪潮正在席卷从科技到教育,乃至全社会的各个角落,中国教育界正在积极推动学习和应用人工智能,以便乘势站在时代前列。今年6月,中国工程院院士、华中科技大学校长尤政提出,人工智能和批判性思维结合形成DNA式的“双螺旋结构”,将有力推动创新。
2025-09-16 09:14
15日,在2025年国家网络安全宣传周主论坛上,《人工智能安全治理框架》2.0版正式发布。落实《全球人工智能治理倡议》,《人工智能安全治理框架》1.0版于2024年9月发布,受到国内外广泛关注。
2025-09-16 09:13
光明日报北京9月15日电 记者陈晨从农业农村部获悉,2025畜禽种业发展论坛14日在北京市平谷区举行。论坛发布了第三次全国畜禽遗传资源普查、濒危畜禽遗传资源保护成效、主要畜种分子身份证构建和遗传评估优秀种公畜等重大成果,举办了畜禽种业振兴成果展,26家单位现场推介新技术、新设备、新成果,72家单位进行专场展示。
2025-09-16 09:13
数智技术以及数智互联技术将推进青年间社会化协同与知识共享,可精准连接青年学习者,并形成跨地域的学习社群与项目协作组。总而言之,数智技术能够为青年群体参与终身学习创造良好条件,能够充分激发青年群体参与终身学习的动力,能够更好地帮助青年群体全面发展。
2025-09-16 09:12
作者:王 珩、程松泉,分别系浙江师范大学教师教育学院教授;浙江师范大学教师教育学院博士生  当前,全球教育正经历一场由人工智能技术驱动的深刻变革。唯有坚守育人初心,在伦理框架内审慎推进技术应用,才能让人工智能真正成为引领教育发展的引擎,而非解构教育本质的飓风。
2025-09-16 09:11
在合成生物学和气候变化应对领域有巨大潜力。
2025-09-16 09:11
走进展区,多款新潮文创让人爱不释手;戴上设备,苏轼笔下的诗词世界任人遨游;指尖轻点,三千年前的青铜器“触手可及”……一系列新产品、新服务、新场景在2025年中国国际服务贸易交易会文旅服务专题亮相,漫步其中,处处感受到科技与创意奔涌、文化和旅游融合的无限活力。
2025-09-15 09:54
在2025年中国国际服务贸易交易会上,一批品类丰富、兼具趣味与文化内涵的文创精品成为展会现场的“人气王”,引爆观展热潮。
2025-09-15 09:54
最大网络基础设施的建成有助于我国突破关键技术的“卡脖子”困境,形成自主可控的核心技术优势,建立起数字经济产业的第二创新生态。 (作者:戎 珂,系清华大学社会科学学院经济学研究所所长、长聘教授;田晓轩,系清华大学社会科学学院经济学研究所博士研究生)
2025-09-15 09:53
今年暑期,工厂游火爆出圈。参观名额秒空、门票收入可观、社交平台相关笔记有10多万条,工厂游俨然成了文旅界新宠。 工厂游等新型旅游业态,实现了工业与文旅的跨界融合,也为文旅经济的发展提供了新增长点。
2025-09-15 09:52
深夜,河南焦作多氟多新材料股份有限公司的实验室依旧灯火通明,总工程师闫春生还在带着团队忙碌。 2006年,多氟多打响了由传统氟化工向精细氟化工、新能源材料转型的战役,闫春生临危受命加入六氟磷酸锂研发团队。
2025-09-15 09:51
2025年中国国际服务贸易交易会9月10日至9月14日在北京举办,众多科技产品亮相展区,吸引观众驻足参观。2025年中国国际服务贸易交易会9月10日至9月14日在北京举办,众多科技产品亮相展区,吸引观众驻足参观。
2025-09-12 10:08
汽车排放被认为是气候变化的“元凶”之一,但学术界一直缺乏对城市道路碳排放进行精准刻画的工具。”借助全景AI模型,可实现二氧化碳排放源的精准提取,模型的平均精度超过93%、平均误差低于1.3ppm(ppm为百万分比浓度)。
2025-09-12 10:01
习近平总书记指出:“要把握人工智能发展趋势和规律,加紧制定完善相关法律法规、政策制度、应用规范、伦理准则,构建技术监测、风险预警、应急响应体系,确保人工智能安全、可靠、可控。人工智能系统的可靠性不能停留在统计意义上的“高概率正确”,而应追求在复杂、开放、动态环境下的“高置信可靠”。
2025-09-12 10:01
10日,2025世界顶尖科学家协会奖(以下简称“顶科协奖”)获奖者名单在上海公布。顶科协奖是2021年在上海发起创设、由红杉中国独家提供永久资金支持的面向全球科学家评选的科学大奖。
2025-09-12 09:59
加载更多