机器行为学,怎样帮助我们理解AI?

发布时间:2019-05-30 19:29:00 来源: 本站 浏览次数:101

近年来人工智能技术飞速发展,关于人工智能机器人最终不受人类控制并且最终统治甚至毁灭人类的科幻影视作品出不穷,针对这种担忧,麻省理工学院媒体实验室的研究人员表示,社会需要用一种类似于行为学的多学科方法来研究算法,而不是简单的恐惧人工智能或呼吁对人工智能的监管。


于是他们提出了一个新的跨学科研究领域,来研究人工智能是如何进化的,以及它对人类意味着什么——机器行为学。


这“类似于动物行为学和行为生态学通过将生理学和生物化学(内在特性)与生态学和进化论(由环境塑造的特性)结合起来研究动物行为。”所以机器人行为学是一个跨学科的,复杂的研究方向需要更多的跨学科专家加入研究。


640.webp (12).jpg


目前,最常见的研究机器行为科学家是计算机科学家、机器人专家和工程师,因为是他们首先创造了机器。他们会基于原发者的视角思考机器人的行为。这就好像是一个创造生命的“上帝”,他们为创造出的生命设计了各类机制与本能。


而人工智能行为学期望通过一种全新的方式来解决目前对人工智能的理解。


当下社会上各种算法的流行是前所未有的,推荐算法和社交媒体公司的人工智能会影响着我们看到什么样的信息。


此外,数据的维度和大小为理解机器行为增加了另一层复杂性。使这一研究更加复杂的是,社会上使用最频繁的算法的大部分源代码和模型结构都是专有的,这些系统所训练的数据也是专有的。


在许多情况下,商业中的人工智能系统公开可见的唯一因素是它们的输入和输出。即使在可用的情况下,人工智能系统的源代码或模型结构也不能对其输出提供足够的预测能力。人工智能系统还可以通过与世界和其他无法精确预测的系统的交互来展示新的行为。即使解析在数学上是可描述的,它们也可能是冗长而复杂的,以至无法解释。而且,当环境发生变化时(可能是算法本身的结果),预测和分析行为就变得困难得多。


对此,引入AI与外部环境互动的视角能更好的帮助研究者理解人工智能本身。

640.webp (13).jpg

机器行为位于设计和设计人工智能系统的领域与传统上使用科学方法研究生物行为领域的交叉点。对行为的科学研究有助于人工智能学者对人工智能系统能做什么和不能做什么做出更精确的表述。


到目前为止,那些创建人工智能系统的人的主要关注点一直是构建、实现和优化智能系统,以执行特定的任务。他们的目标一直是最大化算法的性能。一旦目标任务“多快好省”的实现,人工智能便“宣告成功”。然而在这一目标被实现后的社会影响,目标实现路径种可能存在的其他影响则往往并不在人工智能科学家的考虑范围之内。


机器行为的学者们对于更广泛的指标集感兴趣,而不是使用指标来对基准进行优化,就像社会科学家在社会、政治或经济互动领域探索人类的广泛行为一样。因此,研究机器行为的学者花了大量的精力来定义微观和宏观结果的度量,以解答一些广泛的问题,比如这些算法在不同环境中的行为,以及人类与算法的交互是否会改变社会结果。


者:杨振瀚 腾讯研究院助理研究员/王健飞 腾讯研究院研究员

转载腾讯研究院


< 上一条:这才叫战略伙伴,你那只是后勤支持!