正在阅读: 机器与人 怎样当好“合伙人”

机器与人 怎样当好“合伙人”

2018-08-17 09:32来源:人民日报

  15日,2018世界机器人大会在北京亦创国际会展中心开幕,展示全世界机器人产业的最新成果。为期3天的论坛上,由机器人发展引发的人工智能伦理和法律话题就是议题之一。

  应当建立规范机器人及其使用行为的法律框架

  在国际人工智能界,不少人认为人工智能会对人类产生巨大威胁,呼吁不要开发“人工智能自主武器”,警惕人工智能的潜在风险。他们讨论的人工智能,通常指的是未来能自主进化、有类人意识的“强人工智能”,而当前应用的多是擅长单项任务、完成人类指令的“弱人工智能”。即便如此,人工智能的迅速发展带来的挑战已经逐渐显现。

  为保护隐私,人们发布照片或视频时,会打上马赛克覆盖人脸,但美国一个研究小组开发了一套机器学习算法,通过训练,神经网络可以识别图像或视频中隐藏的信息。

  时下,一些机器人应用到儿童和老人陪护中。中国社会科学院哲学研究所研究员段伟文认为,机器人与儿童对答、给老人喂饭等行为看似简单,长期相处可能使人类对机器倾注感情、产生依赖,有必要设置防止过度依赖机器人的原则。此外,无人驾驶汽车发生交通事故怎么界定责任,医疗外科手术机器人出现意外怎样处置……随着智能机器人深入参与人类生活,专家认为,如何建立规范机器人及其使用行为的法律框架,成为人工智能和机器人产业发展无法回避的重要问题。

  清华大学人工智能研究院院长、中科院院士张钹曾表示,当前的人工智能与人类智能本质上是不同的。与人类相比,人工智能系统抗干扰能力差,推广能力弱,甚至可能犯大错。因此使用这样的人工智能系统需要小心。

  思考与智能机器的相处模式,控制不良影响

  人工智能的发展几经波折,也在不断进化。

  “人工智能及其智能化自动系统的普遍应用,不仅仅是一场结果未知的科技创新,更可能是人类文明史上影响深远的社会伦理试验。”段伟文说。

  北京师范大学哲学学院教授田海平表示,机器深度学习和算法体系,使得智能体具有了一种准人格或拟主体的特性。当前,“阿尔法狗”、医疗机器人“沃森”和智能伴侣虚拟机器人微软“小冰”仍属于“弱人工智能”,离真正的智能主体还比较远。即便如此,它们也已经呈现改变人类形态的发展趋势。未来假若“强人工智能”出现,并深度介入人类事务,那么,“我们必须提前思考人类如何与之相处的问题,控制它的不良影响。”田海平说:“人工智能是否以及如何为自己的行为负责,这仍然且始终是技术难题。”

  近年来,国际人工智能界日益重视人工智能中的伦理与法律问题,并推动相关技术标准及社会规范的研讨和制定。2017年1月,一个国际学术会议制定并发布了人工智能23条伦理原则,其中包括,人工智能研究的目标应该建立有益的智能,而不是无向的智能;人工智能系统的设计和运作应符合人类尊严,权利,自由和文化多样性的理念等。电气和电子工程师协会(IEEE)也颁布了《人工智能设计的伦理准则》,试图从工程设计和生产的角度,提出人工智能的伦理标准。

  我国人工智能研究及实践走在世界前列,但在相关机器伦理、立法研究和安全标准等方面起步相对较晚,近些年正在积极加强这些方面的研究。

  有专家表示,人工智能伦理法律等涉及科学界、企业界、哲学、法学等多个领域,有必要成立应对人工智能发展的联盟组织,吸纳各方面的力量,共同推进相关研究。

  运用算法,将人类道德规范体系嵌入智能机器

  段伟文说,人工智能系统的“拟主体性”,使得它们的行为可以看作是与人类伦理行为类似的拟伦理行为。因此,人工智能界在探讨能不能运用智能算法,将人类的价值观和道德规范体系嵌入到智能机器中。有专家认为,这既是人工智能未来愿景,也是当前面临的最大挑战。

  田海平说,把道德代码嵌入机器,是人工智能发展的必然趋势。缺少这一步,自动驾驶、无人机、助理机器人等智能体就不可能进入人类生活。机器在自主性上达到了人类高度后,它在做决策时,只有遵循道德算法,才能发展各种各样的功能。

  段伟文介绍,让机器符合人类道德规范,学界大体有3种设想:一是自上而下,即在智能体中预设一套伦理规范,如自动驾驶汽车应将撞车对他人造成的伤害降到最低;二是自下而上,即机器通过数据驱动,学习人类的伦理德道规范;三是人机交互,即让智能体用自然语言解释其决策,使人类能把握其复杂的逻辑并及时纠正可能存在的问题。

  “人工智能伦理研究目前没有一套普遍原则,因此可以从应用中遇到的实例出发,找到价值冲突点,讨论需要作哪些伦理考虑。”段伟文说,比如针对偏见,有必要追溯到机器学习的数据中,完善数据信息,并改进算法,让人工智能判断尽量客观公正,符合人类的价值观。

  尽管人工智能发展存在许多潜在问题,但更多人对技术应用的前景表示乐观。他们认为,人工智能能提供更安全、更智能的生活体验,不能因为技术潜在的不足而因噎废食,在提前布局,防范可能出现的挑战的同时,也要利用新技术来应对风险。

  以隐私安全为例,人工智能并不是隐私的天敌。北京大学信息科学技术学院教授郭耀说,利用人工智能技术能够应对一些常规方法难以应对的安全问题。比如,基于行为分析,人工智能可以快速检测出恶意软件,通过机器学习还能及时检测异常网络流量行为,预警黑客入侵,从而提升网络安全防御水平。

  张钹说,不管人工智能如何发展,基本理念应该不是用智能机器代替人,而是要协助人做好工作。人和机器各有优势,要互相了解才能实现人机协作,但人还是人机关系的主导者。如此,才可能将人工智能引向人机合作的发展道路。

[责编:赵清建]

阅读剩余全文(

相关阅读

您此时的心情

新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • “2019中芬冬季运动年”开幕式在北京举行

  • 南磨房人民法庭以“海棠精神”谱写司法新篇章

独家策划

推荐阅读
28载隐姓埋名,填补我国原子核理论的空白,实现了氢弹突破和武器化——于敏,我国著名核物理学家,对我国科技自主创新能力的提升和国防实力的增强作出了开创性贡献。
2019-01-16 15:02
记者从日前举行的湖南省政府新闻办发布会上获悉,2019年,该省拟进一步加大对高新技术企业的培育,多举措助力高新技术企业发展。新疆院士工作站在帮助企业加强产学研结合、攻克核心关键技术、搭建人才培养平台等方面发挥了巨大的作用。
2019-01-16 09:04
被网友们亲切称为“糖丸爷爷”的顾方舟去世了,许多媒体纷纷写文章纪念。
2019-01-16 09:17
4家俄罗斯公司在携手制造俄罗斯首台计算机神经网络性能增强的国产处理器。”  莫斯科物理技术学院神经网络技术与计算机语言实验室主任斯坦尼斯拉夫·阿什马诺夫称,目前世界上有大约2000家公司参与制造标准神经处理器的竞赛。
2019-01-16 09:06
记者日前从北京市文化和旅游局和北京动漫游戏产业协会获悉:2018年北京动漫游戏产业企业总产值达710亿元,同比增长约13%。近年来,北京积极支持动漫游戏精品创作生产,加大对原创与核心技术的扶持力度,优秀原创作品不断涌现。
2019-01-16 09:06
目前,全球虚拟现实产业正从起步培育期向快速发展期迈进,我国面临着同步参与国际技术产业创新的难得机遇。在实际应用上,目前虚拟现实技术主要应用于军事和高校科研,在教育、工业领域应用还远远不足,未来应努力在民用领域的不同行业发挥作用。
2019-01-16 09:05
电池技术一直是制约手机、笔记本等电子设备甚至新能源汽车发展的主要因素。前些时候,有媒体报道称,国内某品牌厂商申请了一项锂电池发明专利,以创新型技术大幅提升电池的快充能力,被媒体誉为“革命性突破”。
2019-01-16 09:04
云南师范大学马铃薯科学研究院教授尚轶和黄三文团队构建的多组学代谢研究体系正用于马铃薯营养品质、风味形成分子机制研究。
2019-01-16 09:04
数字丝路地球大数据系统了包括“一带一路”区域资源、环境、气候、灾害、遗产等专题数据集94套、自主知识产权数据产品57类、共享数据超过120万亿字节。
2019-01-16 09:04
在过渡阶段,5G的判定界限其实很模糊。“4G+”“假5G”只是一个名称而已,它们都是技术在演进过程中的合理产物。
2019-01-16 09:02
如今,利用空间遥感技术为地球上的某个地方拍照早已不是什么难事。如果把历年来的这些拍照数据与人口调查的数据结合起来,你就会有新的发现。比如1990年—1995年,大数据显示,安徽省的城市人口增长率在增加,但土地消耗率在降低,总体上人口城市化大于土地城市化;但2000年以后,大数据又显示,安徽省人口增长率持续降低,但土地消耗率却明显提升,土地消耗率与人口增长率比率持续增加,这表明安徽省的土地城市化远远大于人口城市化。
2019-01-16 09:01
1月14日,一则《复兴号车厢甲醛超标 列车停开中车着手解决》报道引起广泛关注。《复兴号车厢甲醛超标 列车停开中车着手解决》文中都没出具有关权威检测机构的数据。15日,科技日报记者分别向上述企业了解情况,中铁北京局回应称“时速160公里复兴号列车不存在甲醛超标问题,北京局集团公司北京车辆段也从未检测出复兴号列车甲醛超标,更不存在时速160公里复兴号动车组列车停开的情况”。
2019-01-16 09:00
2018年12月4日,首都科技条件平台科学仪器开发验评项目“心电类医用电子仪器验证评价与推广项目启动会”在解放军总医院召开。”  北京市科委条财处处长陈云波指出,仪器设备验证与综合评价是一个新的认知,是服务科技创新国产仪器的一个全新模式。
2019-01-16 08:59
英国《自然·通讯》杂志15日发布了一份最新气候变化报告:科学家展开的模拟研究显示,如果从现在开始逐步淘汰使用寿命已满的化石燃料基础设施,那么将全球平均升温幅度控制在比工业社会前高1.5℃以内的可能性为64%;但如果拖延到2030年才开始行动,即使设施退役速率加快,依然会导致实现1.5℃目标的可能性降低。
2019-01-16 08:56
“今天,人类社会正处在第四次工业革命初期,它的典型标志是人工智能,就是用人工智能来创造一个对人类友好的、智慧的社会。”中国工程院院士、中国自动化学会理事长郑南宁在近日于青岛召开的2019国家智能产业峰会开幕式上指出。
2019-01-16 08:55
据美国太空网14日报道,一份新报告称,尽管其中一个仪器最近出现故障,但美国国家航空航天局(NASA)的哈勃太空望远镜“老当益壮”,至少还可以继续服役到2025年,甚至更久。
2019-01-16 08:53
日前国家航天局有关负责人在接受记者采访时表示,中国国家航天局高度重视航天国际合作与交流,希望给国际同行和科学家们提供开展月球探测的机会。
2019-01-16 08:51
美国加州大学圣迭戈分校医学院和医学工程研究所的研究人员14日在《自然·医学》杂志上发表论文称,他们首次利用快速3D打印技术,制造出模仿中枢神经系统结构的脊髓支架,在装载神经干细胞后被植入脊髓严重受损的大鼠脊柱内,成功帮助大鼠恢复了运动功能。
2019-01-16 08:51
它记录着探险者们的新故事,中国的表现格外耀眼,发射数量多、成功率高,甚至溜达到了月亮背面。太空造物的阴影投注在地球上,流行的谣言包括美国宇航员谋害俄罗斯同事,俄罗斯宇航员构陷美国同僚。
2019-01-16 08:43
1月15日,由中国科协企业工作办公室、国家发展改革委高技术司主办的2018年“创响中国”系列活动总结暨成果展示活动在京举行。
2019-01-15 14:58
加载更多