陈自富:我们对“智能”的认识退步了吗?——与金观涛先生商榷

【导读】2017年8月刊《文化纵横》登载了金观涛先生的《 反思“人工智能革命”》一文,本文系对这篇文章的评论和回应。作者指出,金先生在文中表达的观点非常具有启发性,然而,金文的论据——当代人工智能研究中用神经网络自动机代替符号主义,从而忽视了人类智能的符号形式化能力,存在着重大的瑕疵。回顾人工智能研究的历史可见,现在我们对“智能”的认识不仅没有退步,反而可能比历史上更加丰富和完整。

最近,金观涛先生在《文化纵横》杂志2017年8月刊发《 反思“人工智能革命”》一文,对AlphaGo以来人工智能革命的最新发展进行了反思,提出在这场革命中,研究者对人类智能及其与社会的关系认识混乱,反映了当代人文精神逐步丧失、科学被技术异化的局面,从而导致现代社会包容科技革命的能力退步。金先生在文中表达了这样一种观点:我们应从更广泛的社会和文明进化视角,及人类独特的认知能力出发,重新审视对“智能”的认识,保持人类社会进步的内在动力,避免人类在面临人工智能挑战时陷入智能退化和长期衰退。

金观涛先生在文中的结论基本是今天面对信息文明高度繁荣的学者们的共识,科学与人文的隔阂甚至对立,对人类科技进步中社会性因素的忽视,导致了技术理性的张扬和人文精神的退化,是现代社会面临的一个重大问题,但金先生分析这个问题的视角和背景却独树一帜:即从当前最流行的人工智能发展浪潮中剖析,从而得出因为对人类智能的理性认识不够全面,导致(或者至少是加剧)当代社会面对人工智能革命时可能产生的种种忧虑的结论。

但是,金先生这个视角的根本论据,从人工智能发展历史来看似乎不成立。金文的论证起点是认为当前人工智能革命是一场“退回到原点的运动”,过去的研究对人类智能的理性认识出现了重大倒退,从而导致对智能发展中社会和人文因素的忽视。由此金先生给出了一些非常强的表述,例如: “神经网络自动机的研究和制造突破了物质和技术条件的限制,这就是今天的人工智能'革命', 既然早在20世纪40-50年代,AlphaGo的工作原理已得到清晰认知,为什么当时神经网络自动机的功能没有被冠以人工智能之名呢?”[1]

500

柯洁对战AlphaGo 图/视觉中国

金先生对当代人工智能研究中关于“智能”观点的批评大致可以总结为:

(1)神经网络自动机就是当前人工智能的革命,但它反映的是生物本能而不是人类智能,从控制论的角度来看,就是将人类复杂的智能行为简化为机器对外界刺激的反应和反馈,从而还原到心理学上的行为主义解释。

(2)当代人工智能“革命”的核心是神经网络技术,这种复兴是对人工智能历史上符号主义的反叛和倒退。

(3)即使是历史上人工智能理论中的符号主义,也没有准确地反映人类智能,而只是反映了人类智能中一部分基于符号的形式化能力。[2]

因此,金先生所指出的倒退,是指当代人工智能研究中用神经网络自动机代替符号主义,从而忽视了人类智能的符号形式化能力,但是人工智能的发展历史和现状表明,“反思'人工智能革命'”中的这个论据,存在着重大的瑕疵。

我们首先分析一下当前人工智能研究共同体对“智能”的最新认识,例如微软亚洲研究院院长洪小文指出智能机器的能力分为以下四个级别:

(1)功能(Capability):是日常工具的价值点,例如车轮、锤子的功能用途等;

(2)智能(Intelligence):包括记忆力、计算力等,可以采用定量方法来测试;

(3)智力(Intellect):包括人类独有的判断力、创造力等;

(4)智慧(Wisdom):指来源于社会、文化和历史沉淀的经验所形成的综合性能力。

洪小文同时认为迄今所有的人工智能成就都只达到了功能(Capability)和智能(Intelligence)级别,其未来的目标是向智力和智慧迈进。[3]刘锋在《机器人与谷歌大脑--人工智能的6个智能分级》一文中,也将人工智能从0级到5级分为6个智能等级,其中人类是第5级智能系统的典型范例,具备创新、创造和知识生产或消费的能力。[4]

因此,从研究共同体的最新观点来看,智力和智慧、第5级人工智能与金先生在文中指出的人类智能与自由意志、语言、社会文化高度关联的观点是吻合的,因而很难得出当前人工智能研究中对“智能”的理性认识更为退步的结论。

从历史来看,人工智能的研究纲领呈现出一幅多元论场景,虽然具有共同的目标:建造可以执行“人类能完成的任务”的智能机器,但各个学派对于什么是人类智能并无一个明确的定义,甚至由于不同的研究传统,在上世纪50-60年代中后期,关于“人工智能”的命名都存在差异:英国受传统控制论影响较大,在1956年达特茅斯会议之前,习惯称“机器智能”,而卡内基理工学院的赫尔伯特·西蒙和艾伦·纽厄尔从信息加工的视角出发,则用“复杂信息处理”(CIP: Complex Information Processing)这个名词,至于达特茅斯会议上约翰·麦卡锡发明的“人工智能”这个词,主要是想表达与抽象自动机研究的不同点。总之,人工智能研究历史从一开始就未必存在金先生文中呈现的场景:研究者对人类智能具有符号主义立场的统一观点。[5]

早期人工智能研究的实际情况是人们并未能严格对人类智能和机器智能做出明确区分,而是从信息加工、对环境复杂性的反应、逻辑或语言能力等多个不同的维度来刻画尚处于萌芽状态的人工智能。“人工智能”这个名词的基本统一以及大学中计算机系的建立,差不多要到60年代中后期才完成,而且当时联结主义和符号主义的研究也处在竞争状态,符号主义占据强势地位的局面,是在1969年马文·明斯基和西摩尔·派珀特出版《感知机》一书,对康奈尔大学心理学家罗森布拉特的感知机研究加以批判后才出现的。

80年代派珀特回顾此事时,将早期人工智能时期的神经网络和符号人工智能比喻为控制论的两个女儿,她们刚开始都同样成功,都有来自其他知识领域的追求者,但60年代之后,DARPA老爷的出现改变了这一切,神经网络被杀死了,这同时也从侧面表明对智能的认识受到了外部社会力量的干扰。[6]

其实在人工智能研究史上,智能研究的理论基础一直受到高度重视,并且也有过多次重大的争议和讨论。例如,1987年在麻省理工学院人工智能实验室、国家科学基金会、美国人工智能学会的支持下,麻省理工学院召开了一次关于人工智能理论基础的研讨会,与会的学者被要求提交一篇表明他们理论立场和原则的论文,在此基础上,《人工智能》杂志将会议成果通过1991年第47卷(第1期到第3期的合集)的《人工智能的基础》专辑出版。在这本专辑中,对当时人工智能不同研究纲领的核心争论归结为以下5个假设:

(1)人工智能的核心是概念化的研究,应从知识级别水平上开始;

(2) 认知可以在没有解决符号接地问题的情况下作为非具身的过程来研究,即可从感知和动作中分离出来进行抽象研究(注:符号接地问题指符号如何获得现实世界语义的问题);

(3)认知可以很好地在命题项中描述,即认知动力学是语言驱动的,类似于自然语言(如英语)的一个逻辑-数学版本;

(4)我们可以将认知从学习中分离进行研究,即认知动力学和认知所需的知识可以与概念学习、心理发展以及进化变异分开研究;

(5)所有的认知存在一个统一架构。

而不同研究纲领对于这5个假设具有如下不同的立场:[7](见下表)

500

与金先生在其文中描述不同的是,当时人工智能在研究实践中并不是简单存在符号主义和联结主义这种泾渭分明的二元对立。行为主义认为智能是通过行为表现的,肯定人与动物在生物学上的连续性,强调有机体对环境的适应行为,把心理、意识、情感等都归结为行为,实际上把智能视作一个从动物到人类的连续体,而目前人类级别的智能是从与环境的交互中进化而来的。

这种看法如西蒙所表述的:蚂蚁和人类行为的表面复杂性在很大程度上是其所处环境复杂性的反映。[8]至于行为主义在工程上的实现方式,究竟是采取符号或是神经网络的方法,从行为主义学者罗德尼·布鲁克斯的研究来看,并不是那么绝对。[9]金先生在文中将联结主义与心理学中的行为主义等同起来,其实并不是人工智能研究中的真实情况。

由于人工智能具有工程和科学两种不同的维度,或称之为人工智能的工程观和科学观,前者并不以理解人类智能为前提,主要是利用计算机、数据等资源通过算法加工来完成人类实践生活中的任务,后者则需要从人类智能原理出发来实现人工智能,是否以当前冯·诺依曼结构的传统计算机作为工具并不重要。

因此讨论人工智能是否存在AlphaGo之后的神经网络自动机革命,并不是一个严谨的说法。例如当前的类脑计算研究,是放弃传统的冯·诺依曼型计算机,改为从结构上模仿人脑来开发芯片,从而希望从结构仿真中的功能涌现中来产生智能。

对人类智能的认识是科学家当今面临的最大难题之一,在研究过程中由于对科学原理的不了解,不得不在工程上进行简化,即不对智能做任何明确的定义,而是在利用人工智能探索智能行为机制的过程中来逐步了解和解释智能的本性,这是当前研究中的一种重要倾向,这种工程上的智能观有助于消除对智能的哲学蒙昧主义,是任何具有工程和科学双重性质的技术性科学中不得不采取的务实态度,没有这种务实态度,简单地将工程实践和原理在认识论上对立起来,可能会对知识的进步产生不利影响。

虽然现在深度学习在图像识别、语言处理等特定领域取得了比以前更大的成就,但据此认为神经网络就是人工智能唯一的统治性纲领还为时尚早,而且神经网络和符号主义并不是完全对立的。

例如符号主义研究中一个核心的概念是表征,但早在1986年联结主义的“圣经”,即由鲁梅哈特、麦克莱兰主编出版的两卷本论文集《平行分布加工》中,斯摩棱斯基就指出神经网络和表征存在某种关系。[10]明斯基和派珀特在1988年再版《感知机》一书时,仍未改变其对神经网络研究的批判性观点, 他们论证新的神经网络仍然只能处理玩具世界的问题,整个理论结构仍然只是奠基在流沙上,对于规模放大后是否能达到目标还是一个问题。

另外,如果神经网络是整个大脑的模型,那么联结主义和符号主义是不兼容的,如果只是大脑的部分模型,那么两个研究纲领将会是互补的。[11]现在来看,包括符号主义、联结主义乃至行为主义的多种视角,应该都是对人类智能在不同层次的刻画。

人工智能不是理论物理学那样高度成熟和形式化的科学,不具有严密的理论形式,但是其经验性定律及其使用的概念框架、假设也是在特定的历史和文化条件中形成的,具有其自身的形而上学背景。因此这些定律和概念框架与常识知识的实在表述不一致时,往往会带来与经验定律的冲突,但这种冲突可以通过对其定律、理论假设和模型的科学解释,来弥合表达日常经验的常识语言与其定律解释之间的差距,从而推动人工智能学科理论的成熟。

问题是对于经验定律或理论模型的科学解释是依赖于语境和具体实践的,这种语境在解释学的背景下用海德格尔的术语“前结构”来表达,反映了解释者所处的历史、文化和社会背景。金先生就是从传统控制论的背景出发,将当前人工智能和社会的关系,从认识论的角度还原到了错误的概念辨析中,而忽视了人工智能历史的实证研究中,对智能概念具有非常丰富的维度和演化过程。

在这个意义上,金先生文章中作为起点的论据:当前人工智能革命中对“智能”概念的认识是一次重大倒退,似乎与人工智能历史的实际发展相反,从早期人工智能研究中对“智能” 概念的朴素性认识开始,经过长期的争论以及工程实践后,科学家已经对“智能”概念有了更加丰富的认识,不仅意识到社会文化因素对人类智能的重大影响,而且也意识到当前人工智能所面临的重大困难,认为实现人工智能的目标将是一个长期的任务。因此,现在我们对“智能”的认识不仅没有退步,反而可能比历史上更加丰富和完整。

本文并未对金观涛先生在文中阐述的结论持有异议,他在文中表达的观点非常具有启发性,但笔者认为对于如何达到这样的结论,其论证的过程似应基于更加确定的论据和更完整的路径,谨以此小文与金先生商榷,希望能对人们当前所面临的技术理性张扬、人文精神逐步退化的问题有所裨益。

注释:

[1][2] 金观涛:《反思“人工智能革命”》,载《文化纵横》2017年8月刊。

[3] 洪小文:《我们需要什么样的机器人》,载《中国计算机学会通讯》2014年第10期。

[4] 刘锋:《机器人与谷歌大脑--人工智能的6个智能分级》,载《中国计算机学会通讯》2016年第12期。

[5] 陈自富:《研究纲领冲突下的人工智能发展史:解释与选择》,上海交通大学2017年版,第21-31页.

[6] Papert S. One AI or many?// The artificial intelligence debate: false starts, real foundations. MIT Press, 1989,13-14.

[7] Kirsh D., “Foundations of AI: The big issues”, Artificial Intelligence, Vol.47(1991).

[8] 司马贺:《人工科学--复杂性面面观》,武夷山译,上海科技教育出版社2004年版,第48-76页。

[9] 陈自富:《研究纲领冲突下的人工智能发展史:解释与选择》, 上海交通大学2017年版,第44-48页。

[10]  Rumelhart D E, McClelland J L., Parallel Distributed Processing, The MIT Press, 1986, pp.75-78.

[11]  Marvin Minsky, Seymour Papert. Perceptrons: An Introduction to Computational Geometry, MIT Press, 1988, pp. xiv-xv.

(本文原刊于《文化纵横》2018年2月号,原标题:我们对“智能”的认识退步了吗?——与金观涛先生商榷)

全部专栏