方向:AI研究方向历史性转变!从机器学习到人类研究AI学院

来源:四川省科技评价联盟 / 作者:四川省科技评价联盟 / 2019-05-20 20:12
“机器行为学” 这门跨越多个研究领域的新兴学科正式诞生。
  日前,由MIT媒体实验室领衔,哈佛、耶鲁、马普所等院所和微软、谷歌、脸书等公司的多位研究者参与的课题组在 Nature 发表了一篇以 “Machine behaviour” 为题的综述文章,宣告 “机器行为学” 这门跨越多个研究领域的新兴学科正式诞生。
  
  机器算法的“不可控性”
  
  在AI、机器人等刚开始兴起的时候,由于信息和人们认知的不对称,社会上存在着“机器人会产生自我意识”的恐惧。人们担心,当机器人有了自我意识之后会反过来控制人类,危害人类的安全。
  
  随着近些年来机器算法的成熟、产品的普及和人们认知度的提高,人们对此的恐惧有所减少。但也有越来越多的科学家们开始发现机器算法确实存在一些“不可控性”的因素,并积极寻找解决方式,如李飞飞宣布成立斯坦福“以人为本 AI 研究院”、英国制定机器人行为标准、MIT领衔的“机器行为学”新学科等。
  
  其中,环境的变化和人类的决策正不断影响着机器的行为。据了解,机器有产生行为的内在机制,这些行为在和环境的互动中获得信息,得到发展,并产生相应的功能,导致特定的机器在它们所对应的环境中发生了不同的变化。
  
  如看护老人的智能产品,其智能系统通过实时检测和分析老人的行动,判断老人是否正常吃饭、服药、是否保持最低的运动量、是否有异常行动出现(例如摔倒), 从而及时给予提醒,确保老人的生活质量不会由于独自居住而有所降低;医院的智能康复训练,其智能机器人通过对动作行为的规范程度做出识别,评估恢复程度以提供更好的康复指导等。
 
  
  虽然机器和动物有着属性上的本质区别,但专家们认为,智慧机器行为研究可以从动物行为的研究上得到帮助,通过一个行为的功能、原理、发展与进化史四个维度进行研究,这就是机器行为学成立的依据。
  
  “Machine behaviour”文章提及,根据人工智能系统互相融合、影响,机器行为学的研究范围包括:单个机器行为,强调对算法本身的研究;集体机器行为,强调对机器之间相互作用的研究;混合人-机器行为,强调对机器和人之间相互作用的研究。机器行为和人类行为既可以相互塑造,也可以协同互动。
  
  由机器学习人类行为到人类研究机器行为
  
  自人工智能研究兴起以来,业内的研究主要是让机器通过大数据计算、深度学习等途径了解人类的社会生活,辅助人类工作或生活。
  
  随着人工智能的发展,依靠算法而形成的AI、大数据、机器人等逐渐融入到我们的生活当中,成为人类社会中越来越重要的角色。
  
  但由于智能运算的复杂性和广泛性,智能算法出现了越来越多的“输出差异”问题,其出现的安全隐患如智能驾驶判断错误导致事故的发生、服务机器人说出不适宜的话语等,光依靠数据分析手段是很难了解到它们的行为。这使得人们必须去探索这其中的原因。
  
  机器行为学(Machine behaviour),主要是研究智能机器所表现出的行为。“机器行为学”这一概念的出现,也象征着人类研究方向的一大转折——从让机器研究人类行为,到人类研究机器行为。
 
 

 
  据了解,目前单个人工智能体的复杂性已经很高,并且在持续增长,虽然构架它们的代码和训练模型用的训练可以简洁,但是训练后的模型就完全不会有这么简单了,这经常导致 “黑箱(black boxes)” 的产生。人工智能体接受输入后输出,但即便在“可解释性”的一些应用场景已经有了进展的现状下,人工智能体实际产生这些输出过程,也是架构它们的科学家自己难解释的。
  
  此外,现在社会中使用频率最高的源代码、模型、数据集实际上是有版权的,这就导致在很多场景下,人们只能观察到系统的输入和输出,无法观测到机器在输入过程中发生了什么样的变化,加大了人们理解“机器行为”的难度。
  
  人类可以创造智能机器,智能机器也可以改变人类的行为,但从输入到输出的差异和机器学习的不透明性来看,这其中的影响是积极还是负面我们暂不可知。唯有通过系统的研究,通过了解“机器行为”来帮助人们理解社会中无处不在的算法系统是如何工作,监管其可能造成的后续后果,进而进行取舍式的科技创新,使之让我们的社会生活更加安全且高效。

        
本文转载自四川省科技评价联盟,如有侵权请联系本站,我们将及时处理。


        
阅读延展

1
3