人也是一种“黑箱”，但不影响我们相互理解。

2016年3月9日-15日，Google Deepmind公司的团队研发的人工智能围棋机器人AlphaGo与韩国围棋世界冠军李世石展开了5场激烈的激烈的战斗，最终AlphaGo以4：1的悬殊比分轻松取胜。随后在一系列与世界围棋顶尖高手的对决中AlphaGo披荆斩棘所向披靡，再也没有输掉过任何任何对决。2017年10月18日AlphaGo的升级版AlphaGo Zero横空出世并且以100：0的比分击败了上代版本AlphaGo。

“AI完胜”无疑让第三次人工智能浪潮达到了一个高峰，但随即也引起了部分人们对人工智能的恐慌，AlphaGo已经证明了人类已经真的可以创造出如此聪明的人工智能，其一旦不受人类控制和约束，那些科幻电影的情节会不会成真，最终导致严重的后果呢？

近年来人工智能技术飞速发展，关于人工智能机器人最终不受人类控制并且最终统治甚至毁灭人类的科幻影视作品出不穷，热播美剧《西部世界》中的失控的AI机器人在人类世界里大肆杀戮，严重的破坏了原来稳定的秩序。电影《升级》里面的人工智能芯片“智脑“被植入人体后通过其高超的运算能力一步一步的破坏了原本给它设定的规则程序，与人脑融为一体最终掌控人的肉体，最终让人成为他的傀儡。

针对这种担忧，麻省理工学院媒体实验室的研究人员表示，社会需要用一种类似于行为学的多学科方法来研究算法，而不是简单的恐惧人工智能或呼吁对人工智能的监管。

AI技术的核心是算法，算法本身并不带有善意与恶意，但人类的善意和恶意都能被算法放大。因此，对人工智能伦理的研究，不能局限于人工智能本身，而必须将人工智能放置于其即将被投入的社会视角进行研究。

于是他们提出了一个新的跨学科研究领域，来研究人工智能是如何进化的，以及它对人类意味着什么——机器行为学。

评论人士和学者正在对人工智能机器人带来的广泛的、意想不到的后果发出警告，这些机器人内置的算法能够通过机器展示自己的行为，并产生始料未及的影响(包括正面和负面影响)。人们担心人类可能失去对智能机器的控制，“自主武器”的发展意味着机器可以决定谁在武装冲突中生存，谁在冲突中死亡。

本月发表在《自然》(Nature)杂志上的论文《机器行为》(Machine behavior)呼吁“在设计和设计人工智能系统的领域，以及传统上使用科学方法研究生物学的行为的领域”共同努力。具体地说，作者建议不仅研究机器学习算法如何工作，而且还研究它们如何受其工作环境的影响。

用更简单的话来说，就是不止考虑人工智能在“实验室”里怎样工作，还要看它在实际中会怎样工作，产生什么影响。

这“类似于动物行为学和行为生态学通过将生理学和生物化学(内在特性)与生态学和进化论(由环境塑造的特性)结合起来研究动物行为。”

所以机器人行为学是一个跨学科的，复杂的研究方向需要更多的跨学科专家加入研究。

02

目前，最常见的研究机器行为科学家是计算机科学家、机器人专家和工程师，因为是他们首先创造了机器。他们会基于原发者的视角思考机器人的行为。这就好像是一个创造生命的“上帝”，他们为创造出的生命设计了各类机制与本能。

然而，这些“生物”一旦“离手”最初设计的机制与外在环境互动的过程中并不一定总是与最初的设想一致。

这就好比每个身心健康的人类总是有大致相似的生理需求与心理动机，但在与现实世界的互动中每个人都成长为完全不同的个体，一些人成为了至善之人而另一些人成为了邪恶的罪犯。

计算机科学家和工程师通常都不是训练有素的行为学家，他们可能对自己创造的AI有足够的掌握，但却并不一定能够对这些AI即将独自探索的社会现实有充足的理解。

他们很少接受实验方法论、基于人口的统计和抽样范式或观察性因果推理方面的正式指导，更不用说神经科学、集体行为或社会理论了。相反,虽然行为学家更有可能拥有在这些方面的科学方法，但他们不太可能精通人工智能方面的相关知识。

为此，人工智能行为学期望通过一种全新的方式来解决目前对人工智能的理解。

目前，社会上各种算法的流行是前所未有的，推荐算法和社交媒体公司的人工智能会影响着我们看到什么样的信息。各大金融软件里的信用评级（评分）算法决定了放贷策略。打车软件中的算法改变了人们的出行方式和城市交通。

这些人工智能给人们生活带来便利的同时，也带来了系统的复杂性和不透明性，比如甚至连金融公司自己都不再能清楚的解释为什么可以给一个人贷款10万而另一个只有1000。

人工智能系统的多样性以及普遍性会对研究这些系统（如金融系统或交通系统）的行为造成巨大挑战。

人工智能系统的复杂性很高，虽然用于指定模型的体系结构和训练它的代码可能会很简单，但输出的结果往往十分复杂。它们被给予输入，但产生这些输出的确切的函数过程即使对那些自己生成算法的科学家也很难解释。

此外，数据的维度和大小为理解机器行为增加了另一层复杂性。使这一研究更加复杂的是，社会上使用最频繁的算法的大部分源代码和模型结构都是专有的，这些系统所训练的数据也是专有的。

03

在许多情况下，商业中的人工智能系统公开可见的唯一因素是它们的输入和输出。即使在可用的情况下，人工智能系统的源代码或模型结构也不能对其输出提供足够的预测能力。人工智能系统还可以通过与世界和其他无法精确预测的系统的交互来展示新的行为。即使解析在数学上是可描述的，它们也可能是冗长而复杂的，以至无法解释。而且，当环境发生变化时(可能是算法本身的结果)，预测和分析行为就变得困难得多。

对此，引入对此，引入AI与外部环境互动的视角能更好的帮助研究者理解人工智能本身。

机器行为位于设计和设计人工智能系统的领域与传统上使用科学方法研究生物行为领域的交叉点。对行为的科学研究有助于人工智能学者对人工智能系统能做什么和不能做什么做出更精确的表述。

到目前为止，那些创建人工智能系统的人的主要关注点一直是构建、实现和优化智能系统，以执行特定的任务。他们的目标一直是最大化算法的性能。一旦目标任务“多快好省”的实现，人工智能便“宣告成功”。然而在这一目标被实现后的社会影响，目标实现路径种可能存在的其他影响则往往并不在人工智能科学家的考虑范围之内。

机器行为的学者们对于更广泛的指标集感兴趣，而不是使用指标来对基准进行优化，就像社会科学家在社会、政治或经济互动领域探索人类的广泛行为一样。因此，研究机器行为的学者花了大量的精力来定义微观和宏观结果的度量，以解答一些广泛的问题，比如这些算法在不同环境中的行为，以及人类与算法的交互是否会改变社会结果。

随机实验、观察推断和基于群体的描述性统计——这些方法经常用于定量行为科学，这必须是机器行为研究的核心。所以将传统上生产智能机器的学科之外的学者纳入其中，可以提供关于重要方法论工具、科学方法、替代概念框架以及机器将日益产生影响的经济、社会和政治现象的观点的知识。

通过观察某一事物与周边环境互动的“行为”来对事物的内在进行研究并不是一个新方法。AI所面临的“算法黑箱”也不是新问题，某种程度上，动物和人都是一种“黑箱”。

发展人工智能的初衷就在于让人类生活更加便捷更加美好，而进一步理解机器人行为对于我们能够有效地控制它们的行为，以及我们最大化人工智能对社会的潜在好处，消除可能带来的潜在危害至关重要。

–END–

作者：杨振瀚，王健飞，公众号：腾讯研究院（ID：cyberlawrc）

来源：https://mp.weixin.qq.com/s/BKe4w9WAa2O95Z2r5sS92Q

题图来自Unsplash，基于CC0协议