正在阅读: 机器与人 怎样当好“合伙人”

机器与人 怎样当好“合伙人”

2018-08-17 09:32来源:人民日报

  15日,2018世界机器人大会在北京亦创国际会展中心开幕,展示全世界机器人产业的最新成果。为期3天的论坛上,由机器人发展引发的人工智能伦理和法律话题就是议题之一。

  应当建立规范机器人及其使用行为的法律框架

  在国际人工智能界,不少人认为人工智能会对人类产生巨大威胁,呼吁不要开发“人工智能自主武器”,警惕人工智能的潜在风险。他们讨论的人工智能,通常指的是未来能自主进化、有类人意识的“强人工智能”,而当前应用的多是擅长单项任务、完成人类指令的“弱人工智能”。即便如此,人工智能的迅速发展带来的挑战已经逐渐显现。

  为保护隐私,人们发布照片或视频时,会打上马赛克覆盖人脸,但美国一个研究小组开发了一套机器学习算法,通过训练,神经网络可以识别图像或视频中隐藏的信息。

  时下,一些机器人应用到儿童和老人陪护中。中国社会科学院哲学研究所研究员段伟文认为,机器人与儿童对答、给老人喂饭等行为看似简单,长期相处可能使人类对机器倾注感情、产生依赖,有必要设置防止过度依赖机器人的原则。此外,无人驾驶汽车发生交通事故怎么界定责任,医疗外科手术机器人出现意外怎样处置……随着智能机器人深入参与人类生活,专家认为,如何建立规范机器人及其使用行为的法律框架,成为人工智能和机器人产业发展无法回避的重要问题。

  清华大学人工智能研究院院长、中科院院士张钹曾表示,当前的人工智能与人类智能本质上是不同的。与人类相比,人工智能系统抗干扰能力差,推广能力弱,甚至可能犯大错。因此使用这样的人工智能系统需要小心。

  思考与智能机器的相处模式,控制不良影响

  人工智能的发展几经波折,也在不断进化。

  “人工智能及其智能化自动系统的普遍应用,不仅仅是一场结果未知的科技创新,更可能是人类文明史上影响深远的社会伦理试验。”段伟文说。

  北京师范大学哲学学院教授田海平表示,机器深度学习和算法体系,使得智能体具有了一种准人格或拟主体的特性。当前,“阿尔法狗”、医疗机器人“沃森”和智能伴侣虚拟机器人微软“小冰”仍属于“弱人工智能”,离真正的智能主体还比较远。即便如此,它们也已经呈现改变人类形态的发展趋势。未来假若“强人工智能”出现,并深度介入人类事务,那么,“我们必须提前思考人类如何与之相处的问题,控制它的不良影响。”田海平说:“人工智能是否以及如何为自己的行为负责,这仍然且始终是技术难题。”

  近年来,国际人工智能界日益重视人工智能中的伦理与法律问题,并推动相关技术标准及社会规范的研讨和制定。2017年1月,一个国际学术会议制定并发布了人工智能23条伦理原则,其中包括,人工智能研究的目标应该建立有益的智能,而不是无向的智能;人工智能系统的设计和运作应符合人类尊严,权利,自由和文化多样性的理念等。电气和电子工程师协会(IEEE)也颁布了《人工智能设计的伦理准则》,试图从工程设计和生产的角度,提出人工智能的伦理标准。

  我国人工智能研究及实践走在世界前列,但在相关机器伦理、立法研究和安全标准等方面起步相对较晚,近些年正在积极加强这些方面的研究。

  有专家表示,人工智能伦理法律等涉及科学界、企业界、哲学、法学等多个领域,有必要成立应对人工智能发展的联盟组织,吸纳各方面的力量,共同推进相关研究。

  运用算法,将人类道德规范体系嵌入智能机器

  段伟文说,人工智能系统的“拟主体性”,使得它们的行为可以看作是与人类伦理行为类似的拟伦理行为。因此,人工智能界在探讨能不能运用智能算法,将人类的价值观和道德规范体系嵌入到智能机器中。有专家认为,这既是人工智能未来愿景,也是当前面临的最大挑战。

  田海平说,把道德代码嵌入机器,是人工智能发展的必然趋势。缺少这一步,自动驾驶、无人机、助理机器人等智能体就不可能进入人类生活。机器在自主性上达到了人类高度后,它在做决策时,只有遵循道德算法,才能发展各种各样的功能。

  段伟文介绍,让机器符合人类道德规范,学界大体有3种设想:一是自上而下,即在智能体中预设一套伦理规范,如自动驾驶汽车应将撞车对他人造成的伤害降到最低;二是自下而上,即机器通过数据驱动,学习人类的伦理德道规范;三是人机交互,即让智能体用自然语言解释其决策,使人类能把握其复杂的逻辑并及时纠正可能存在的问题。

  “人工智能伦理研究目前没有一套普遍原则,因此可以从应用中遇到的实例出发,找到价值冲突点,讨论需要作哪些伦理考虑。”段伟文说,比如针对偏见,有必要追溯到机器学习的数据中,完善数据信息,并改进算法,让人工智能判断尽量客观公正,符合人类的价值观。

  尽管人工智能发展存在许多潜在问题,但更多人对技术应用的前景表示乐观。他们认为,人工智能能提供更安全、更智能的生活体验,不能因为技术潜在的不足而因噎废食,在提前布局,防范可能出现的挑战的同时,也要利用新技术来应对风险。

  以隐私安全为例,人工智能并不是隐私的天敌。北京大学信息科学技术学院教授郭耀说,利用人工智能技术能够应对一些常规方法难以应对的安全问题。比如,基于行为分析,人工智能可以快速检测出恶意软件,通过机器学习还能及时检测异常网络流量行为,预警黑客入侵,从而提升网络安全防御水平。

  张钹说,不管人工智能如何发展,基本理念应该不是用智能机器代替人,而是要协助人做好工作。人和机器各有优势,要互相了解才能实现人机协作,但人还是人机关系的主导者。如此,才可能将人工智能引向人机合作的发展道路。

[责编:赵清建]

阅读剩余全文(

相关阅读

您此时的心情

新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 北京世园会园区建设基本成形

  • 雅鲁藏布江堰塞湖抢险

独家策划

推荐阅读
为了帮助用户更好的进行自我管理,10月18日,花呗正式上线了“额度管理”功能,用户可以根据自身实际需求、自主调整自己的花呗额度。如今,不管是餐饮商超、公交地铁,还是医院、教育等民生场景,甚至是家门口的早餐店、水果摊,人们都可以用花呗来解决日常生活所需。
2018-10-19 08:51
这次亚马逊的案例就让人认识到原来即便在倡导了几百年男女平权的西方社会,性别歧视问题依然如此严峻。提高算法问责的意识并将之纳入人工智能发展规划和顶层设计,确为人工智能长远发展并造福于人的必要举措。
2018-10-19 08:51
积极承担地方扶贫任务,大力推进对口支援与定点扶贫工作,全力以赴助力贫困地区脱贫攻坚,努力让贫困地区、贫困群众搭上互联网发展快车。
2018-10-19 08:50
武春风说,我国的“人造月亮”准确表达是一种携带大型空间反射镜的人造空间照明卫星,预计其光照强度最大将是现在月光的8倍。
2018-10-19 08:50
针对上述情况,国家计算机病毒应急处理中心提醒广大手机用户不要下载这些违法有害移动应用,避免手机操作系统受到不必要的安全威胁。建议用户打开手机中防病毒移动应用的“实时监控”功能,对手机操作进行主动防御,这样可以第一时间监控未知病毒的入侵活动。
2018-10-19 08:49
据电子商务研究中心发布《2018年(上)中国跨境电商市场数据监测报告》显示,2018上半年中国跨境进口电商交易规模达1.03万亿元,同比增长19.4%,预计2018全年将达到1.9万亿元。
2018-10-19 08:49
未来,为大家服务的送餐车、送货车、巡逻车和出租车,都可能是无人驾驶的车辆。”  在产业创新方面,北京将推进“国家新能源汽车技术创新中心(国创中心)、国汽(北京)智能网联汽车研究院、自动驾驶和车联网试验验证与示范应用中心”3个创新中心建设。”美团无人配送部负责人说,目前一款小型无人配送车已经在朝阳大悦城做测试。
2018-10-19 08:49
(记者 吴涛)17日深夜,苹果隐私页面迎来重大更新。此次苹果隐私页面称,用户已经安装到设备上的APP,如果需要访问照片、通讯录等个人信息,则需要预先得到用户的许可,而用户可以随时更改这些许可设置。
2018-10-19 08:49
锂离子电池要大规模应用,制造费用偏“贵”,因为要考虑到在线维护以及回收处理的问题、电池的使用寿命问题、系统安全问题,以至整个产业的可持续发展。董衫木介绍了一种“刚柔并济”的设计理念,其中“刚”指的是刚性的聚合物骨架以及刚性的无机颗粒,“柔”指的是柔性的聚合物离子传输材料。
2018-10-19 08:49
对美国众包雇佣数据进行的研究显示,拥有天文学博士学位的女性在找到一份教职前离开该领域的速度比男性同行快3~4倍。Flaherty发现,第三种模型对众包数据作出了最好解释,更具体地说,女性离开劳动力市场的速度比男性快3~4倍。
2018-10-19 08:48
去年,当一颗美式足球场大小的雪茄形天体Oumuamua进入太阳系时,它并非仅仅让人们第一次看到了一块星际岩石。然后,研究人员将这个捕获率乘以一个星际天体在其携带的任何微生物全部死亡之前遇到的恒星数量。
2018-10-19 08:51
恒星诞生于巨大的气体和尘埃云,在其最初阶段,它们被一层薄薄的物质包围着。阿塔卡马大型毫米阵列(ALMA)是智利阿塔卡马沙漠中的一个射电天文台,它使得研究原行星盘更加容易。
2018-10-19 08:51
继彭博新闻社10月9日更新了其所谓的“中国黑客利用间谍芯片攻击美科技公司”的报道之后,业内专家分析认为该事件的真实性越来越离谱。韩银和认为,要应对硬件安全挑战,我国在科研上还应围绕硬件安全组织开展方方面面的研究。
2018-10-19 08:48
一项新研究介绍了一种裸眼探测紫外线辐射(UVR)的低成本、高灵敏度传感器的全新制造方法。澳大利亚墨尔本皇家理工大学的Vipul Bansal和同事设计出一种具有光谱选择性的高灵敏度UV传感器。
2018-10-19 08:48
据媒体报道,嫦娥四号中继星具备了在每秒1000米高速在轨飞行中,速度控制精度误差不大于每秒0.02米的超强本领。叶培建介绍,在第四期任务中,探月四期的主要目标任务包括开展以机器人为代表的月球南北极探测、建立无人的月球科考站。
2018-10-19 08:48
10月18日,2018年全国高性能计算学术年会(HPC China 2018)在山东青岛举行。榜单的前三名毫无变化,依然分别是部署在国家超级计算无锡中心的“神威·太湖之光”、部署在国家超级计算广州中心的“天河二号”、部署在国家超级计算天津中心的“天河一号A”。
2018-10-19 08:48
”  科学家们争议的焦点,在于一种叫做c-kit的干细胞究竟能不能转化为心肌细胞,进而治疗心肌梗塞。今年4月,中科院生物化学与细胞生物学研究所研究员周斌在《循环》杂志上发表论文,指出成年小鼠发生心肌梗塞后,非心肌细胞不会变成心肌细胞去弥补创伤。
2018-10-19 08:48
玻色—爱因斯坦凝聚可看作是低密度原子气体冷却到接近绝对零度并且坍缩成非常致密的量子态时形成的物质状态。这种状态后来被命名为玻色—爱因斯坦凝聚,也被称为是与气态、液态、固态、等离子态并列的“物质的第五态”。
2018-10-18 09:28
作为地球最近的邻居,月球一直是人类载人航天活动的重要目标之一。杨宇光表示,比照美国最新提出的航天规划就能看出,袴田健的愿望只是不切实际的空想。从月球在航天计划中的定位来看,它绝非人类的“太空家园”,而更适合作为人类前往火星以及更遥远深空的中转站。
2018-10-18 09:28
过去,仅有两架探测器拜访过水星,其中一架是美国国家航空航天局(NASA)的“水星10号”(Mariner 10),在1974年—1975年间,“水星10号”3次飞掠水星,并传回近距离拍摄的水星照片。
2018-10-18 09:28
加载更多