点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:守住产品底线,防范人工智能作恶
首页> 科技频道> 综合新闻 > 正文

守住产品底线,防范人工智能作恶

来源:科技日报2021-01-04 09:32

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  “未来10—20年,AI技术将渗透至与人类密切相关的领域,比如医疗、司法、生产、金融科技等风险敏感型领域,AI技术如果犯错,就会造成较大系统风险。”2020年12月29日,在未来科学大奖周举办的“青年对话”活动中,清华大学计算机系长聘副教授、中国科协全国委员会委员崔鹏说。

  活动中,腾讯科学技术协会秘书长张谦表示,面对AI技术所引起的风险问题,首先应该关注的是守住AI产品底线,即避免技术作恶。

  在这方面,美团首席科学家夏华夏认为,法律法规方面需要做大量工作,包括制定AI行业的标准、规范,以及从国家层面完善、出台相关法律法规,从而对AI技术发展进行把控。

  谈及AI标准化的实践,中国人民大学法学院副教授、未来法治研究院社会责任和治理中心主任郭锐提到两个原则——人的根本利益原则和责任原则,“这两个原则的宗旨是让AI的决策和行动尽可能通过人的干预来避免对人的伤害”。

  “徒法不足以自行。”郭锐坦言,法律本身也存在局限,规避AI技术潜在风险,需管理者对AI技术有透彻的了解,这样才能对其进行有效管制,“法律是建立包容性社会的重要工具,法律界要和企业、技术等方面专家合作,这样通过法律来对AI技术进行管理约束的目标才能达成。”

  星界资本管理合伙人方远认为,各大核心数据平台处于AI风险管理的重要位置,“在互联网和大数据时代,大平台是数据的采集者也是守护者。务必要对数据使用权做出清晰界定,这对整个社会的AI发展有重要意义”。

  “AI技术的风险治理需要科技工作者、企业管理者、政策制定者、相关法律专家以及投资人多方努力。”中科院计算所研究员山世光说。

  除了守住底线,与会者还提到,要厘清边界,引导技术向善。

  崔鹏指出,犯错并非AI特有的风险,人也会犯错。“但人犯错大多数可控、可预测。而目前AI技术犯错的话是不可预测的,或者犯错后人们会发现其犯错机制是无法从技术层面解释的。这涉及到AI在决策和行为上的边界问题。”

  厘清边界具体包括AI需要明白它会什么、不会什么,以及人需要明白AI什么事能做、什么事不能做等问题。崔鹏认为,如不厘清边界,AI还会犯更多低级错误,带来更大风险。

  郭锐认为,目前AI遇到的伦理问题,实际上是因为它远未达到人类智能的程度,却已被赋予为人类做决策的责任,“还有人把AI技术当作借口,用科学的名义做不符合伦理的决策,这样做是不对的。需要人决策的地方应该由人决策”。

  2020年新冠肺炎疫情期间,英国用一套算法得出学生成绩,结果近40%的学生成绩低于教师的预估分数,导致很多学生与名校失之交臂。山世光说,有些人工智能模型或数据模型没有考虑到社会公平、优势累计恶果,导致看起来运算过程很严谨、结果很准,但却并不足以支持AI做出科学决策。

  有专家表示,这并非AI技术的错。夏华夏说,真正应承担社会责任的是使用AI技术的人、企业等。AI技术向善需要社会整体文明发展到一定阶段,形成良好氛围。张谦则提到,技术并不可怕,可以通过技术进一步发展解决技术存在的问题。

  山世光称:“说到底,我们还是希望AI技术能得到健康发展,满足对科技真、善、美的追求。”(记者 代小佩)

[ 责编:武玥彤 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 彭丽媛会见德国伯乐中文合唱团师生代表

  • 明前茶飘香

独家策划

推荐阅读
见证大国底气从“核”来
2024-03-29 14:15
人工智能可以取代人力勾绘农作物地块,快速完成耕地识别,工作效率相比人工作业提升数十倍。在他看来,我国在星上智能处理和地面遥感AI大模型技术上同步发力,推进人工智能遥感技术发展,太空中的卫星将变得越来越“聪明”。
2024-03-29 09:36
3月27日发表于《自然》的一项分析预测,融化的冰盖正在减缓地球的自转速度,以至于下一个闰秒将被推迟3年。论文作者之一、美国斯克里普斯海洋研究所地球物理学家Duncan Agnew说:“融冰足以使海平面上升,以至于我们可以看到地球自转速度受到了影响。
2024-03-29 09:33
3月28日,小米汽车的价格“谜底”揭开,小米SU7提供九种颜色可供选择,售价21.59万起
2024-03-29 17:17
胡新立表示,研究团队将进一步探讨生理性乳酸水平变化对机体代谢的意义,以及恶病质中骨骼肌萎缩与乳酸的直接关系。
2024-03-29 09:31
近日,日本小林制药保健品事件持续发酵。小林制药此前表示,该公司的红曲原料中可能含有导致消费者出现肾功能不良状态的非预期成分。小林制药出产的红曲原料除用于自家生产保健品外,还出售给其他公司,用于酿酒及食品制造等。
2024-03-29 09:22
朱雀三号可重复使用垂直起降回收验证火箭在酒泉卫星发射中心圆满完成试验任务。2023年12月,蓝箭航天朱雀二号遥三液氧甲烷运载火箭在酒泉发射中心圆满完成发射任务,将三颗商业卫星顺利送入预定轨道。
2024-03-29 09:30
记者28日从南京大学获悉,由该校物理学院杜灵杰教授领衔的国际团队利用极端条件下的偏振光散射技术,在砷化镓量子阱中对分数量子霍尔效应的集体激发进行了测量,在世界上首次观察到引力子激发,即引力子在凝聚态物质中的新奇准粒子。
2024-03-29 08:38
世界卫生组织27日发布新闻公报说,已启用“冠状病毒网络”(CoViNet),以促进和协调全球的专业知识和能力,及早准确地检测、监测和评估新冠病毒、中东呼吸综合征冠状病毒和其他可能新出现的冠状病毒。
2024-03-29 08:38
万兆元年,谁来领航?是更智慧AI,是更领先的Advance,是刷新极限的速度,还是升级多维的体验?中国移动5G-A商用发布会,重新定义数智新时代,邀您共同见证!3月28日15:00-16:00
2024-03-28 12:36
作为中国大科学装置之一,高能同步辐射光源是由中国科学院、北京市共建的怀柔科学城大科学装置集群的核心装置。
2024-03-28 09:54
2022年8月15日,国际天文学联合会小天体命名工作组发布公告,将国际永久编号为192353号的小行星命名为“王大中星”。围绕大学的根本任务是育才造士这一核心要义,王大中归纳并紧抓建设一流大学的三大要素:大师、大楼和大学精神。
2024-03-28 09:34
坎潘特强调,最新观测表明,精确的星震学技术可用于探测表面温度低至4200℃(比太阳表面低约1000℃)的矮星,为天体物理观测开辟了一个新领域。这一最新结果表明,星震学技术有望详细表征这些恒星及其宜居行星的细节,而精确确定附近冷矮星的年龄对于阐释系外行星上发现的生物特征可能至关重要。
2024-03-28 09:33
记者从自然资源部3月27日召开的例行新闻发布会上获悉:今年是极地考察40周年,自然资源部将开展一系列活动纪念这一重要时间节点。7月北极黄河站建站20周年时,在黄河站举办招待会、研讨会等相关活动,中国第四十一次南极考察期间将在长城站、中山站举行招待会、研讨会等相关活动,“雪龙”号、“雪龙2”号船停靠外港时举行公众开放日活动。
2024-03-28 09:32
联合国教科文组织执行局27日批准18处地质公园列入世界地质公园网络名录,其中包括中国的6个地质公园,分别是长白山世界地质公园、恩施大峡谷-腾龙洞世界地质公园、临夏世界地质公园、龙岩世界地质公园、武功山世界地质公园、兴义世界地质公园。
2024-03-28 09:31
据介绍,除了服务于中国探月工程四期,后续鹊桥二号中继星还可为国内外月球探测提供中继通信支持。
2024-03-28 09:25
涂白防虫、修剪树枝、引水灌溉……每当春天到来,在祖国西北边陲新疆托里县老风口,生态造林工作就紧锣密鼓地开始了。
2024-03-27 10:22
今年我国纪念“世界水日”“中国水周”的活动主题为“精打细算用好水资源,从严从细管好水资源”。
2024-03-27 10:21
在齐齐哈尔市甘南县宝山乡巨宏村,村民苑忠国正在准备春耕,多年来通过参与县里的培训,春耕物资的采购对他来说已是轻车熟路。
2024-03-27 10:20
在开展调查监测,评估新污染物环境风险状况方面,《行动方案》提出建立化学物质环境信息调查制度、建立新污染物环境调查监测制度、建立化学物质环境风险评估制度、动态发布重点管控新污染物清单等具体措施。
2024-03-27 10:18
加载更多