艺术档案 > 主编档案 > 2018、2019年 > 张海涛︱人工智能学与AI艺术观念简史——AI、哲学、艺术的历史逻辑

张海涛︱人工智能学与AI艺术观念简史——AI、哲学、艺术的历史逻辑

2018-11-01 11:52:45 来源: artda.cn艺术档案 作者:张海涛

注:本文为艺术档案网原创专稿,媒体转载请注明来源。 

 

人工智能学与AI艺术观念简史
——AI、哲学、艺术的历史逻辑

文︱张海涛

人工智能学是科技与哲学高度融合的学科,而人工智能艺术的观念性研究,就是将人工智能赋予思想性的表达,观念是哲学与艺术所共同拥有的条件。我们可以说当代艺术史即是观念史,与哲学有着很多相似之处,区别在于观念艺术是以艺术的媒介、语言来表达感受,判断价值,哲学更多是以语言和文本启迪、引导我们建构积极的人生观、世界观。人工智能出现的历史较短,而关于人工智能的文学艺术、哲学理论和历史脉络要远远长于人工智能的历史。从下面我们关于对人工智能、AI哲学(AI即人工智能英文字母缩写)、AI文学艺术发生的历史逻辑关系作出梳理发现,不是人工智能出现后才出现AI哲学和艺术,人工智能的概念出现与AI哲学理论的铺垫分不开,包括“机器人”的概念最早源于文学艺术,因此需要特别指出三者是相互影响相互作用下才成就了各自的理论体系。研究人工智能学不得不触及历时超长的哲学且赋予人工智能以人文思考:人工智能与人类智能的界限和定义是怎样的?人工智能产生的思想脉络是怎样的?人工智能技术方式有哪些,怎样相互作用?人工智能是否超过人类,给人类带来威胁?人工智能对于人文社会各个领域的影响有多大?人工智能学为人工智能艺术提供一定的学术基础,人工智能也是未来媒体艺术中最具争议的焦点,因此,我们需要了解它发展的历史逻辑和背景资源。

人工智能会不会超越人类智慧依然争议不断,这是我们最关注的核心问题,对于类似问题的答案需要了解人工智能的技术基础。人工智能某项“专家”技能如运算速度已超过人类是毋庸置疑的,但就整体所有技能、思想在近未来还不会超过人类。人脑结构中有10的11次方到10的12次方(千亿甚至万亿个)神经元,而且呈现并行分布的特征,大脑功能的记忆、思维、观察、分析等潜意识特征使人造机器很难模仿。如果技术能改变人机综合能力指标的比例,将对人类的未来政治、经济、社会伦理上带来巨大的变革。技术一旦具有势不可挡的力量,彼时的文化艺术必然随之变化。技术变革同样可以带来人文思想、情感,甚至信仰的变化,相反人文的思维变化也会为技术的变化起到影响作用。 

科学的发展需要先进的哲学观念对体制和社会意识形态的影响与改变。西方国家在发展人工智能之初,苏联、中国等信奉马克思唯物主义社会主义国家却将其定性为形而上学的唯心主义遭遇批判——他们不理解人工智能的前提也是在唯物主义的观念中发展起来的,因此阻碍了科学的现代化发展,可见哲学与科学的直接关系。 

科学的想象是根据理性实践的推理来实现,每一个实验项目都具有深思熟虑的功能与实用性。但科学家的欲望和好奇无法控制科技快速膨胀的步伐,这一点看科学家相比艺术家或哲学家又是非理性的,后者可能会比科学家更能看清科技将给人类带来什么。我们表现对未来的想象大都是在科幻小说与电影中有所涉足,未来科技艺术必然会与科幻电影艺术一起成为关注未来的具有创造性的艺术类型。彼时艺术的想象力可能会超出科技、哲学对当下的思考,对科技、哲学也有所启迪。艺术家可以自由的想象未知世界,并通过媒介、技术、语言、符号转换为观念和情感,实现技术的人性化,从而区别于实用技术功能化的科学家。

 

 

人工智能与哲学、艺术观念的逻辑关系 

哲学是严密逻辑系统的宇宙观、世界观,探索人在宇宙中存在的意义,研究事物之间的联系和规律,是基本的元初理论;科学是探索原理、方法、实践的理论;人工智能学即为一种科学技术的原理、方法和实践的理论,需要依靠哲学的价值观和意义来支撑。 

科技、哲学、艺术一直是在交织、互相启发、相互影响中发展,尤其体现在艺术媒介和符号、观念的表达之中。古希腊时期哲学和科学对本体与本源的探索是一致的,比如哲学家认为世界的本源是由水、气、原子等自然物质构成;而这个时期建筑、架上艺术对于形式创造中均衡、重复、黄金分割比例、生命活力等自然美学的标准都源于对物质本源的崇尚;近现代科技哲学的影响使艺术中出现印象派对光色的美学创造;超现实艺术是对心理潜意识科学的再现;未来派是机器之速度美学的表现;后现代的动态雕塑、灯光装置、录像艺术、科幻电影都是科技媒介发展的标志;而当代新媒体艺中数字、生化、物理、人工生命艺术更是对科技、哲学观念的互动与观照。笔者也在近十年策划过不少关于自动装置和智能机器的展览,如2009年“傻瓜效应”多媒体装置展;2010年“自动!全自动!”卓凡人工装置展;2013年感应器“感应·感动”人工机能艺术展;2016年“增生计划”邱宇人工机体装置艺术展;2016年“自动寓言”张沐辰人机关系艺术项目;2017年“人机合一”人机关系艺术展;2017年艺术北京“全自动”;2017年“日常动媒体”等展,这些艺术展览的学术脉络也是科技媒介表达的延展与探索。 

人工智能是技术的形态,而人工智能学是对科学技术革命带来的人文反思。人工智能的出现触碰到政治权力的变化、经济发展的变化、社会伦理结构的变化以及人对终极话题生命存在意义的重新思考。这是技术革命带来的哲学思考,反过来说开放包容的哲学对人工智能学也有直接或间接的影响及作用。哲学是思考形而上的意识和观念问题、基本概念的定义,而本质问题和价值观问题科学家不会加以追问,比如:生命科学中的后生命、人工生命(数字生命、物理生命、生化生命)只是一种模拟吗?病毒能自我繁殖、复制,也有源代码,难道它不是生命吗?只是因为它不是碳水化合物吗?非碳水化合物产生的生物是生命吗?自然生命与人工生命存在意义在哪里?人工智能给人类是否会带来利、害关系?还是因为一种惯性的权力中心观念和歧视思维在主导其界限的定义?哲学是根本核心的道理和原理,讨论生命的基本概念和存在的意义,所以哲学家会追求此类问题,而科学家不会。 

哲学家为人工智能所做的铺垫:1、用论证的方式来检验人工智能学科中基本假设和前提的逻辑性问题;2、梳理基本概念,如智能、心智,人工与人类智能的界限与关系;3、从哲学的思想史和脉络中预设出人工智能新的视角;4、评估不同技术学派实践的理论前景和潜力;5、用人工智能来检验现成的认识论、逻辑学或语义学学说的科学性;6、讨论人工智能对人类各个领域及社会结构的影响和存在的价值。 

科学是用新角度来看世界的手段,“好”的艺术和“好”的科学并非仅仅在讲技术的“新”,但是用新技术可以寻找被忽略掉的真理。当然科学和艺术仍有不同的地方,科学家必须用精确实证的方式来控制项目,并用客观的方式记录;而艺术家会觉得科学束缚太多,更注重科学现象给我们带来的新感觉和新关系的思考。艺术更多是主观的、想象性的、非线性的;而科学是客观的、符合逻辑的、线性的;科学寻找真理的方式是把所有假设一一摒除,而艺术家的表达方式相对自由。艺术的开放性、可能性对问题的重视胜于对答案的重视,给了科学的认识一个新切入点。 

相比前两者哲学家多用文字理论表达,更多是总结永恒的、历史与现实中存在事物的规律,较少去想象未来创造的可能性。哲学把握人生观、自然规律,思考世界的本源、终极信仰、人生存在的意义、感性与理性的关系、方法论、唯物与唯心的关系,反思后工业、后现代社会文明发展的规律等等已经存在的价值观,大多是发现和挖掘这些规律。艺术家相比不一定只是表达已经存在的感觉,不论是传统媒介还是新媒介会更注重艺术的表达方式、语言和媒介的创造性,这是与哲学家、科学家的不同之处。 

科技、哲学、艺术的关系也是人文科学和自然科学、社会科学的交叉关系。人文科学包括哲学、心理、伦理学、历史、文学、艺术等学科;自然科学包括物理、数学、化学等学科;社会科学包括政治、社会、经济、法律等学科,各学科不是分离的关系,相互交融而复杂。科学主义认为运用自然科学中的实证主义、进化论等理念可以研究社会学的发展规律,但人文主义者认为这个观点只能作为参考;科学主义是解释事物的规律,而人文主义是理解事物的价值,人本主义很难借鉴科学主义,也不满足于自然科学的理性。人的存在先于本质,以人为中心的情感、非理性、潜意识、欲望、体验、生命意志、焦虑情绪或恐惧的感受很难用人工数据具体量化或复制。人本主义的思维体系极其复杂:人与人的自我性与异质性、自觉性与智慧的相互碰撞,正如很难找到完全一样的人,由于时间和空间的复杂性,每个生命个体经验也不同。科学主义的理性与人文主义潜在的意志不同,存在互补,又内在相融交织,但两者不是人工智能简单的复制或取代自然人类的关系。

 

人工智能学发展的历史脉络 

人工智能学与人工智能艺术观念的历史逻辑经历了以下几个历史时期:一、哲学观念的积累和孕育期(1956年前);二、AI概念的形成期(1956一1970);三、观念与技术的低潮期(1966一1974);四、AI理论实践和应用期(1970一1988);五、AI集成发展与突破期(1986至今)。从古希腊哲学思想的铺垫发展到现在,AI依然还在发展与探索之中,可见一个具有变革意义的事物萌芽、发生、演化的周期之长,经过了曲折和艰难的历史过程。 

一、哲学观念的积累和孕育期 (1956年前)

古希腊哲学与人工智能潜在的理论关系:探寻世界存在的本源 

古希腊唯物主义哲学家、原子唯物论学说创始人之一德谟克利特(Demokritos,约公元前460—370年)倡导机械唯物主义,他认为世界上所有物质都可以通过原子的直线或者偏离轨迹运动。他说连灵魂也是比生命的原子更加细微的一种物质构成,即灵魂是原子的不同配置形式,这个理论是一种机械化的理论观点。 

古希腊哲学家柏拉图(Plato,公元前427—347年)、亚里士多德(Aristotle,公元前384—322年)倡导形式主义思维方式,通过形式刻画来论证自然语言推理的那种歧义,研究出形式逻辑。亚里士多德创立演绎法提出三段论至今仍然是演绎推理的最基本出发点。 

毕达哥拉斯(Pythagoras,约公元前580—500年)把“数”视为世界的本源,这就为后来科学对数学语言以及一般意义上的形式语言理论建构打下基础和定下了大的基调。 

苏格拉底(Socrates,公元前469—399年)、柏拉图师徒基于研究统计学数理逻辑,对自然语义的争论性进行澄清,然后通过找定义的方式对概念加以清晰的拟定。对问题进行形式定义,认为自然语言不靠谱,找到准确范式解决问题:求解应用题,自然语言阅读用数学语言来精确化转换,这对人工智能理念的出现起到了滋养的作用。 

然而,即使古希腊有了科学理论铺垫为何机器智能的说法没在希腊出现,有几个原因:1、古希腊人看来,机械唯物主义和形式主义传统基本上还是两条方向,没能整合在同一个思想体系中;2、古希腊哲学家对心智理论的构建只是其形而上理论的一个运用领域和附属产物,也是人工智能理论的最初级阶段,因此谈不上机械智能问题;3、在奴隶制的社会条件下,人工机械的技术发展水平有限,很多机械设备来自人力、自然力、动物力,没有自动机械创造的认识和观念;4、对科学观念的意识还停留在直觉推理,没有科学仪器来诠释世界的各种现象,知识积累也停留在对保守社会体制、落后经济模式的反思态度,还意识不到机器智能概念的存在;5、哲学、艺术和科学的分工混沌,学科的专业性与针对性处于基础阶段。 

近代及以后哲学思想对人工智能的潜在影响 

中世纪倡导政教合一的神学至上本体论,一切现实中人的生存感受、价值观都交给了神,很难出现科学主义的理性研究,更不可能出现人工智能的理性思考,因此这个使命的接力棒便由古希腊时期直接传递给了近代。近代以后从神的信仰又回到人文主义本体的复兴上,因此对于人工智能哲学的发展有很好的铺垫作用。 

进入近代,哲学讨论话题有了不同于中世纪的变化,如:回到人性、情感等人类自身价值的认知,对知识的诠释也是对人类心智结构深入探讨;近代以来的时代背景中伽利略(Galileo Galilei,1564—1642)物理学革命中形式传统和唯物主义传统融合为一个体系,物理形式化描述也必须运用数学化语言才能实现,因此哲学中数学化语言进一步被重视起来;到了近代机械技术逐渐精进,艺术家达芬奇(Leonardo di ser Piero da Vinci,1452—1519)也在文艺复兴时期思考自动机器的发明创造。 

近代对计算机技术也有了乐观的估计:能否制造一台机器,开始考虑模拟人类智能的可能性。最早开始出现在笛卡尔(Rene Descartes,1596—1650)、莱布尼茨(Gottfried WilhelmLeibniz,1646—1716)的理论文献中,表象上看这两人都是支持人工智能的唯理派,归结为理性活动符号表征层面的推理。 

德国哲学家、数学家莱布尼茨把形式逻辑符号化,奠定了数理逻辑的基础,他在《人类理智新论》中认为人工主张的一切都是程序。他们的原始计算机技术、二进制研究虽然都已“站队”在人工智能脉络中,但反对机器智能,支持计算机技术,不一定支持人工智能。笛卡尔不可能支持机器智能因为他是二元论者,即认为人是占据广延的物质实体和不占据广延的灵魂实体的复合体,就是精神与肉体的复合体,而机器智能不可能实现这一高度的融合。可见他们理解的计算机技术和人工智能中的机器智能有着区别。[1] 

莱布尼茨认为机器不可能产生智能,笔者理解他的观点是软件和硬件不可能融合产生智能。人工智能的软件是否能产生和人类智能一样的智能,莱布尼茨《单子论 第17节》反对机器智能的理由是:知觉不能运用机械理由解释,单子是抽象的精神实体,不占据广延的特征,假设我们把机器放大的像磨坊那么大,零件在运动,但知觉视觉上依然找不到,单子在空间是找不到的,也不能在空间中描述,因此机器不可能有智能。但上面的论点也有很多漏洞,批判莱布尼茨的核心思想理由是,比如把莱布尼茨作为人类是有智能的,把他的大脑放大成磨坊那么大同样也观看不到知觉和意识的表象形态,所以这个理论有一定的争议性。[2] 

霍布斯(Thomas Hobbes,1588-1679)《利维坦》是政治哲学书藉,但提到唯物主义所有理智活动都是形式符号。他认为人类的所有讨论都在加减的基础上,是心理上的利益计算,包括在政治、经济等领域都在计算或算计之中。他的理论是人文的社会发生的一切都可以用物理科学的量化和计算来实现,这正应证了当下和未来我们对大数据的依赖。[3] 

休谟(David Home,1711—1776)作为经验论代表人物认为经验认知不是推理,是通过习惯、统计学选择感官经验,非哲学角度的感觉物理刺激开始再记忆保存。比如六面体虽然我们一个角度只能看到三面,但只要一次多角度看到过多面,记住了它有六个面,下次即使我们只看到三面,但也会认识到它是六个面。看看我们认知事物的过程:印象、直觉——感官感知、观念——符号、记忆、想象力激活。这个人工智能联接主义的习惯认知过程、统计机制,由人工神经网组成的统计学过程,将外界信息进行逐步抽象最终输出,也为人工智能的技术方式起到了拓展作用。 

康德(Immanuel Kant,1724—1804)哲学整合了经验论和唯理论,康德将心智的知觉活动划分为两个方向:一是感性能力,选择出那些感官信息的原始输入;二是知性能力,致力于把这些输入信息整理成一个融贯的、富有意义的视觉经验。他更多的关注知性能力,启发、指导了实际的编程理论,也是实际工程学构建理论的启蒙者。 

作为电子数字计算机的先驱,美国数学家莫克(1907一1980)1946年研制成功的第一台通过电子数字计算机让ENIAC机器动物有了智能。因当时的中国战乱不断,先进的哲学思想没有给当时的中国带来新的观念,阻碍了中国科学的发展。 

美国神经生理学麦克洛奇(W.McCulloch)和皮茨(W.Pitts)1943年建成第一个神经网络模型(MP模型);美国数学家、控制论创始人诺伯特·维纳(Norbert Wiener,1894—1964,美国数学家、控制论创始人)1948年创立了控制论,对人工智能的影响巨大,形成了行为主义学派,为人工智能的诞生起到决定性的铺垫作用。 

维特根斯坦(Ludwig Josef Johann Wittgenstein,1889—1951)作为哲学家、数理逻辑学家、语言哲学奠基人,与图灵相识,他们的理论相互关联。维特根斯坦早期著作《逻辑哲学论》的核心思想与人工智能科学知识表征的三个环节的理论关联具有一致性:一、被表征对象抽出的形而上学理论;二、知识表征的技术手段,特别是逻辑技术手段的选择问题;三、在选定一个特定的表征手段的前提下,对于知识表征范围的可能性边界的划定问题。他的另一著作《哲学研究》从AI的角度看,与《逻辑哲学论》的最大拓展研究在于他不再把静态的知识体系视为哲学本身的理论,而是转移到了智能体和对于信息实时处理的焦点上。 

英国数学家、逻辑学家图灵(Alan MathisonTuring,1912-1954)1936年创立了自动机理论亦称图灵机理论,1950在其著作《计算机与智能》中首次提出了“机器也能思维”。图灵试验把行为主义心理学思潮的人工智能研究结合在一起,背后的哲学思想言语行为最主要,图灵测验在麦卡锡发明人工智能概念(1956年真正诞生)前已关注机器智能,因此图灵被称为“人工智能之父”。 

图灵奖是计算机领域的最高奖项,1956年会议内容:自然语言的翻译处理、人工神经元网络、计算理论以及机器的创造性等。AI必须对“何为智能”这个问题作出解答,对人类神经元进行人工模拟,智能是什么领域哲学、是不是哲学问题讨论的最多。然而,不同的解答往往会导致不同的技术路径,如诸葛亮时常用的三个锦囊妙计,相当人工智能的程序图,这是对智能的基础看法:求解方式。而在当时的中国人工智能的哲学理论被称为唯心主义形而上学的观念,遭遇了强烈批判,因此可以看出一个国家社会制度、信仰、文化、哲学认识甚至经济环境对科学发展都起到至关重要的影响。 

以上学术探讨可以看出一个具有划时代的变革与创新的事物必然要经过长时间的历史积累才能有所冲击、突破和得到升华。其实近代笛卡尔、莱布尼茨等哲学家讨论的问题当下的科学家也还在探索,如自然人是否和智能机器未来可能有区别,人类是否会被完全复制成机器人(非生物克隆人),机器人的软硬件是否能高度融合,如果未来解决了这些核心问题,人类将有可能被机器人所取代。 

近现代人工智能艺术出现的背景 

人工智能艺术作为新媒体艺术(科技艺术)的一个分支出现,也经历了漫长的时间积累。艺术媒介与哲学一样在不同历史时期也会演变与跨界,可见媒介创造和科学技术的发明有着紧密联系,也是艺术价值判断的要素:从远古时代“原始岩画”出现——古希腊罗马、中世纪、近代“素描、雕塑、油画”出现与盛行——现代“摄影、电影”出现——后现代“装置艺术、行为艺术”及“媒体艺术”:游击录像、观念记录、单屏录像、录像装置——“新媒体艺术”:数字虚拟艺术、生化变异艺术、物理转换艺术、人工生命艺术(包括生化领域转基因、克隆生命、数字与物理科学结合发展起来的人工智能艺术)。 

20世纪初期可以视为影响诞生电子艺术思潮的三个艺术趋向:未来主义、达达主义、构成主义,选择对旧工业和传统文明的批判,倡导后工业的生活与生产方式及观念。电子艺术是反传统工业化后的信息化产物,人工智能技术的核心是电子和数字化软件来支配硬件的行为方式。 

另外几个趋向也为新媒体科技艺术产生起到了铺垫的作用: 

首先是在技术和美学及社会意识形态方面产生互动的摄影、电影观念艺术中的智性因素,再有是将环境作为核心的大地艺术和公共艺术开始与大众互动;动态雕塑、灯光装置的自动、互动加快了机器人艺术出现的脚步;20世纪60年代后的视频艺术、电脑空间艺术和电子艺术,成为新媒体艺术软硬件发端的媒介;20世纪的后期,信息交流技术与创新意识的合并,引导了第四次信息化革命(继农业、工业、电气革命后),人们用这些新技术创造了新的视听语言,连接并超越了社会、制度、经验、观念等一系列的传统文化与意识形态。 

人工数字生命的案例:

神经风景Tobias Gremmier-NeuroScapes(“NEUROSCAPES”)是数字重建神经元的视觉解释。这些结构实际上是思想,记忆,情感的雕刻。通过将神经元数据转换为虚构的景观来将心灵的无形性与其潜在的物理对应物进行对比。[4]

 二、AI概念的形成期(1956一1970)

人工智能的诞生 

人工智能(Artificial Intelligence)简称AI,即用人工的方法在机器(或计算机)上实现智能或称机器智能、计算机智能。人们通过体验、学习或联想来理解对客观世界规律的认识,智能机器能够在各类环境中自主或交互实施各种拟人任务,甚至对行为和思维方式进行自主进化、学习与判断,是计算机科学的一个分支。人工智能分为三个学派:符号主义、连接主义、行为主义,这三个方法和方向争论激烈都有片面的倾向,但都有意义,人工智能需要更多综合辩证的反思和实践。 

人类区别于其他动物有做梦的潜意识,人类梦想中发明各种机械工具和动力机器协助甚至代替人从事各种体力劳动,带来舒适快捷和物质欲望的满足。18世纪第一次工业革命瓦特(James Watt,1736—1819)发明改装蒸汽机减轻体力劳动,实现了生产过程自动化的可能性;20世纪40年代计算机的发明、让信息革命发展到新的阶段;50年代人工智能的出现开辟了人类利用智能计算代替人类从事脑力劳动的新纪元。 

AI诞生于一次历史性会议一一达特茅斯会议 

1956年8月,青年美国学者约翰-麦卡锡(JohnMc-Carthy,1927-2011)、马文·明斯基(MarvinMinsky,1927-2016,人工智能与认知学专家)、朗彻斯特(Lochester)和克劳德·香农(Claude Shannon,1916-2001,信息论创始人)共同发起,邀请莫尔、亚瑟·塞缪尔(Arthur Samuel,麻省理工学院工程师)、艾伦·纽厄尔(AllenNewell,1927-1992,计算机科学家)和赫伯特·西蒙(Herbert Simon,1916-2001,1978年诺贝尔经济学奖、1975年图灵奖)等参加在美国达特茅斯大学举办的一次长达2个多月的研讨会,讨论机器模拟人类智能的话题,会上首次使用了“人工智能”这一术语,标志着人工智能学科的诞生。1956年塞缪尔在IBM计算机上研制成功具有自主学习、自主组织和自主适应能力的西洋跳棋程序;1958年麦卡锡建立了电子行动规划咨询系统;1961年明斯基发表了“走向人工智能的步骤”论文,推动了人工智能的理论发展。 

三、观念与技术的低潮期(1966一1974)

1966年后的一段时间学术界过高预言人工智能的发展前景而遭遇批判的重创,给AI的声誉和领域造成极大伤害。西蒙1965年说“20年内,机器将能做到人所能做到的一切”;明斯基1965年说“在3一8年时间里,我们将研制出具有普通人智能的计算机,这样的机器能读懂莎士比亚的著作,会给汽车上润滑油,会玩弄政治权术,比讲笑话,会争吵……它的智力将无以伦比”这些论调最终都没有得到实现;塞缪尔的下棋程序在与世界冠军的对弈中以1比4告负,归结为能力有限;英国剑桥大学数学家詹姆士按照英政府的旨意,发表了一份关于人工智能的综合报告:声称人工智能即使不是骗局,也是庸人自扰,科学项目停了,进入低潮。 

人工智能进入低落期也让学者们认识到一点,一个新的事物出现必须经过长期的努力才能实现,不是作为炒作的噱头博得眼球或抬高自己身份的筹码,也不是纸上谈兵的理论空文,更多的是要有实践的成果和作品出现。  

四、AI理论实践应用期(1970一1988) 

专家系统实现了人工智能从理论研究走向专项技能的应用,是AI发展史上一次重要的突破与转折。 

1972-1976年费根鲍姆(Edward Albert Feigenbaum,1936-,1994年获图灵奖)研制MYCIN专家系统,用于协助内科医生诊断细菌感染疾病,并提供最佳处方。计算机视觉、机器人自然语言理解、机器翻译等AI应用实践获得发展。但机器人智能医疗局限是机器只能治疗某一单项领域的病症。  

五、AI集成发展与突破期(1986至今)

专家系统的不足是应用领域狭窄,知识缺乏普遍的常识性,信息获取困难、推理方法单一,没有分布式功能,不能搜索现成数据库等,促进专家系统的改进与发展。机器人学习、人工神经网络、智能机器人和行为主义的结合还需要深入研究。智能计算(Cl)弥补了人工智能中数学理论算法上的不足,更新了人工智能理论框架的多元性,使人工智能进入了一个新的发展时期。 

机器人的发展方向是仿生、仿人类,甚至超越人类功能的发展,另外人工智能与人类智能究竟谁厉害,这也是人类讨论的焦点。图灵测试解决的是人类与智能人幕后对话不可分辨真伪的能力,而对机器人超越人类的几次智能测试:90年代中期一个名叫Chinook的程序打败了全世界顶尖的跳棋高手们;1997年机器人“深蓝”战胜人类,2003年与人类打成平局;2011年IBM的Watson 在智力游戏Jeopardy中夺得第一;2016由谷歌伦敦子公司DeepMind开发的AlphaGo机器,以5:0的绝对优势击败了欧洲围棋冠军樊麾……可见机器人在某些方面有超越人类的智能,如运算速度之快,记忆容量之大,推理和判断能力之强,感知能力之敏锐,都是我们不可否认的事实。 

网易科技讯2017年10月27日消息,据Futurism报道,由总部位于香港的人工智能机器人公司Hanston robotics设计的机器人索菲亚(Sophia),已经被沙特阿拉伯王国授予公民身份。这是有史以来第一次人类给机器人赋予如此之高的礼遇,但也引发了“机器人未来权利”之争,成为一个标志性的历史新闻。 

国别分析人工智能发展的历史与体制、文化、哲学的关系 

美国关于研究人工智能的优势是资金充足,美国的哲学家与科学互动最频繁。而德国科技哲学教育偏重人文历史梳理,对当下哲学问题介入少,对跨学科的支持也少,因此人工智能逐渐美国化,走到世界的前列。日本七八十年代重大科研项目主要以政府国家力量主导,但日本人工智能缺少哲学的影响,关于智能是什么?日本哲学与德国一样偏重文献解读。可以看出超前的哲学观念对科技的发展有着强有力的引导作用。 

前苏联的电玩是主要产业,硬件生产落后,软件编辑尚可,但缺少哲学与科技的互动;政策态度的保守压制了学者的研究自由,学生必须研究马克思主义而反对机器人学;数学研究虽深,但举国体制落后,AI也很难发展。前苏联研究AI落后的原因是缺少AI研究方面的远见,其官方意识形态以马克思主义为纲,认为Al是唯心主义观点。鼓励自由开放、对固定的政治化哲学的曲解不符合马克思主义,说人工智能只能转移和统筹好的价值而非生产价值,反对控制论。60年代初赫鲁晓夫(1894—1971,苏联党和国家最高领导人)主政,为维纳控制论平反,但人工智能在政治上仍然不正确,这说明一个新的事物出现都会遭遇意识形态无奈的控制。 

人工智能在中国发展的历史困境 

1956年人工智能诞生初期中国刚结束朝鲜战争,当时并不知晓人工智能,80年初才知道维纳控制论,但又已过时。之后中国人工智能问题长期跟风研究,缺乏真正学院的原创性思维,注重模仿,轻视原理,缺少哲学的引导。问题缘起是跨学科困难,缺少文理科大型交流平台。 

1981年中国人工智能学会在长沙艰难的成立,但长期得不到国内科技界的认同,只能挂靠中国社会科学院哲学研究所,直到2004年才得以返祖归宗,挂靠到中国科学技术协会。1987年中国有关人工智能的书才出版,1985年前人工智能在西方国家得到了重视和发展,而在前苏联却受到批判。我国人工智能也与“特异功能”一起受到了质疑,人工智能学科的书87年才得以出版——1986年清华大学校务委员会经过长期三次讨论,最终决定同意在清华大学出版人工智能著作。 

中国首部“人工智能机器人学”和“智能控制”著作分别于1987年、1988年和1990年在清华大学出版社、中南工业大学出版社和电子工业出版社问世,呈破竹之势。据不完全统计,从1987年到现在全国已编著出版50多部人工智能、40多部智能控制和近50部机器人学和教材专著;1978年在中国才把“智能模拟”纳入国家研究计划,但不能提“人工智能”的概念;1984年召开了智能计算机及其系统学术研讨会;1986年起把智能计算机系统、智能机器人和智能信息处理等重大项目列入国家高科技术研究计划;1993年起把智能控制和智能自动化等项目列入国家科技攀登计划;进入21世纪后已有更多的人工智能和智能系统研究获得了各种基金计划扶持。可见人工智能的发展与体制、哲学观念认识有着密不可分的关系。 

 

 人工智能学研究目标及各领域的影响 

通过编程来模仿和检验人类智能的有关理论,才能更好地理解人类智能。实现人类智能创造有用的程序,执行需要人类专家才能实现的任务,实现人类智能化。近期目标是建造智能计算机代替人类的部分智力劳动;远期目标是揭示人类智能的根本机理,用智能机器去模拟、延伸和扩展人类的智能。近期目标为远期目标奠定了理论和技术基础,远期目标为近期目标指明方向。 

未来人工生命社会的建构,对人类的影响最为突出和直接。而人工智能是人工生命中最核心、最备受关注和争议的内容,如机器智能人一旦与人类无异必然会要求平等的公民权、参政权,甚至就象当年黑人种族维权和女权主义一样争取平等权力意志。2017年第一个机器人公民的出现,也标志着人工智能争取自我权利的时代已经到来。经济领域人工智能会带来高效利润、社会结构的改变。文化领域会出现科技哲学、人工智能文学、电影、艺术、建筑、伦理学等。机器智能人服务、领养、身份、职业、人性、教育、生态环境、人机关系、机机关系、犯罪、审判标准等一系列问题都会带来新的变革。目前全球有很多高精尖技术已经研究出成果,只是没有也不能普及,因为一旦普遍推广便会触及关于资源分配、社会结构的变化,以及道德伦理危机等诸多繁复问题,而且人类还没做好新的应对机制和有效措施。

AI对经济影响 

经济上追求高效利润,如地质勘探的速度快、精确性高;AI代替脑力、体力劳动就业问题,引起社会结构变化,向人、机器和人工智能机器的一机三元结构变化;人们将不得不学会与智能机器相处,并适应这种变化后的社会结构。

AI的发展提高产品数量与质量、降低了运营成本、提高员工业务水平、增强生产的灵活性、提高劳动生产率、节省原材料与能源、提高工作场所的健康度和安全度,减少劳动力流动与招工的难度。如喷漆机器人,时间快,柔性好,精度高,色泽、厚度均匀。劳动力供不应求,机器人价格降低,促进机器人发展。 

Al对人类思维方式观念的变化 

人们开始认可智能机器的判断与决定;对人工智能数据的依赖,逐渐失去对问题及其求解任务、责任感和敏感性;人类智能认知能力逐渐下降,不作深度思考,变得懒惰;过分依赖智能应用,如我们和手机、电脑与日常生活的高度捆绑。 

人工智能对人类的影响,如对生理、心理、精神上的威胁,还会引起法律问题,出现机器人伤害、杀人;军事上可能会引发未来智能机器战争,带来网络部队战争和技术失控的危险;人工智能一旦被异端份子或恐怖组织利用会造成重大社会问题,因此人类规定了机器人三大定律,来约束机器人的思维和行为。 

高端人工智能自身系统会随着经验的演化,不断自我学习、创新。当下与未来的趋势是大数据暴增、万物互联,再向万物智能的方向发展,这种发展趋势会将平凡的人类变得更伟大,逐渐成为驾驭机器的人;而智能机器会逐渐改变社会结构,人与人的交往增加至人与机器的交往模式;同时需要健全智能网络部门,预防或管制机器人犯罪。人工机器社会也会改变人类的知识结构、语言和文化生活,人类只有在顺应时代大潮流的基础上迎接各种有利或有弊的挑战,人类文明才能有所创造和发展,人工机器也会逐渐成为未来艺术世界中具有创造力的主角。 

AI对未来生活的影响 

人工智能将改善人类的语言,丰富语言的规范;改善人类的知识结构和储备数量,知识发现依靠大数据搜索;改善人类的日常生活,出现新的娱乐与教育方式。 

人工智能的形态多样,可以是机器人、软件、网络、视频、音频等六觉(视听触嗅味知)综合体。未来警察可以通过人工智能来预测犯罪的概率、时间、地点,在犯罪发生之前实施逮捕,锁定巡逻区域;后人类食物的卫生、营养标准都可以通过智能数据来预算;人工智能数据能自动预测明星成功的概率,为星探指明价值判断的标准;还能预测我们上班迟到的概率;读心术也可以通过芯片和传感技术收集情报识别人类感情、情绪的数据可视化⋯⋯人文主义感知的不确定性似乎正在被科学主义的数据化分析所取代。很多学者预测人文主义将会被科学主义所取代,将来是以数据计算和预知来诠释世界的一切现象,包括人文主义中核心价值——人的思想感觉都能进行数据量化计算出结果。

 

 

机器人与机器人学 

机器人是一种如同自动机床、汽车、火车一样自动化机器或装备,一旦机器造型人形化、类人化,再智能化,便被赋予人工生命特征区别于其他自动装备。机器人学是一门研究机器人科学技术及其应用的学科,就如:力学、物理学、数学、电子学、信息学一样。电影中的机器人《变形金刚》《阿童木》《机器猫》《终结者》《人工智能》《我,机器人》形象和概念已深入人心。机器人从技术功能上分为工业机器人、服务机器人。 

机器人和人工智能的关系 

“机器人”及其概念的出现都早于“人工智能”,机器人“Robot”一词出现于1920年,而早于50年代出现的人工智能“Artificial Intelligence”英文缩写为AI。 

机器人学的进一步发展需要人工智能的指导,并采用各种智能技术。60年代的机器人不具备智能化,后来出现人工智能应用在机器人上,增加传感器、人机交互系统及其自主性,不只是软件可视化。机器人学的研究领域已扩大,机器人学的发展为人工智能产生新推动力,并提供了一个很好的试验与应用场所。人工智能在机器学上应用传感信息处理、环境识别与建模、机器人规划与决策、机器学习与专家、自然语言理解等。 

工业机器人作为生产与服务性机器人,据《世界机器人》统计,截至2013年全球机器人数量已超过1000万台,其中工业机器人170万台,服务机器人830万台。国际机器人学联合会(IFR)最新预测,2014至2018年之间,全球工业机器人销售数量将翻一番至40万,到2018年全球将有130万台工业用机器人投入实际生产。工业机器人可以自动生产大型工业产品如汽车、飞机等;而服务性能的机器人如无人驾驶员、手术医生、海洋勘探员、拆弹专家、家庭服务员等能在人类各个领域广泛应用。 

机器人概念的出现与近代发展历史 

到了近代,技术和机械的进步为“机器人艺术”带来了新的生机。比如十九世纪中叶的自动玩偶分为两个流派:即科学幻想派和机械制作派,并各自在文学艺术和近代技术中有所发展。1831年歌德的《浮士德》塑造了人造人“荷蒙克鲁斯”;1870年霍夫曼出版了以自动玩偶为主角的作品《葛蓓莉娅》;1883年科洛迪的《木偶奇遇记》问世;1886年《未来的夏娃》出版…… 而在机械实物制造方面,1893年乔治·摩尔(George Moore)制造了“蒸汽人”,“蒸汽人”靠蒸汽驱动双腿沿圆周走动。 

进入二十世纪后,机器人的研究与开发得到了民间与政府的支持,工业和服务型机器人相继被研制出来。 

1920年 捷克斯洛伐克作家卡雷尔·恰佩克(Karel Capek,1890—1938)在他的科幻小说《罗萨姆的机器人万能公司》中,根据Robota(捷克文,原意为“劳役、苦工”)和Robotnik(波兰文,原意为“工人”),创造出“机器人”这个词。

1927年美国西屋公司工程师温兹利创造出第一个电动机器人“电报箱”,有无线电发报功能,并在纽约举行的世界博览会上展出,可与人类问答互动,但这类机器人不能行动。

1939年 美国纽约世博会上展出了西屋电气公司制造的家用机器人Elektro。它由电缆控制,可行走,会说77个字,甚至可以抽烟,不过离真正干家务活还差得远。但它让人们对家用机器人的憧憬变得更加具体。

1942年 美国科幻巨匠阿西莫夫(Isaac Asimov,1920-1992)提出“机器人三定律”:一、机器人不得伤害人类,或者目睹人类个体将遭受危险而袖手不管;二、机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外;三、机器人必须会保护自己,保护自身不会损害,除非人类让它作出牺牲。虽然这只是科幻小说里的创造,但后来成为学术界默认的研发原则。

1948年 诺伯特·维纳出版《控制论》,阐述了机器中的通信和控制机能与人的神经、感觉机能的共同规律,率先提出以计算机为核心的自动化工厂。

1954年 美国人乔治·德沃尔(George Devol,1912—2011)制造出世界上第一台可编程的机器人,并注册了专利。这种机械手能按照不同的程序从事不同的工作,因此具有通用性和灵活性。

1956年 在达特茅斯会议上,马文·明斯基提出了他对智能机器的看法:智能机器“能够创建周围环境的抽象模型,如果遇到问题,能够从抽象模型中寻找解决方法”。这个定义影响到以后30年智能机器人的研究方向。

1959年 德沃尔与美国发明家约瑟夫·英格伯格联手制造出第一台工业机器人。随后成立了世界上第一家机器人制造工厂——Unimation公司。由于英格伯格对工业机器人的研发和宣传,他也被称为“工业机器人之父”。

1962年 美国通用汽车公司第一台工业机器人投入使用,标志着第一代工业机器人的诞生。

1962年 美国AMF公司生产出“VERSTRAN”(意思是万能搬运),与Unimation公司生产的Unimate一样成为真正商业化的工业机器人,并出口到世界各国,掀起了全世界对机器人和机器人研究的热潮。

1962年—1963年传感器的应用提高了机器人的可操作性。人们试着在机器人上安装各种各样的传感器,包括1961年恩斯特采用的触觉传感器;托莫维奇和博尼1962年在世界上最早的“灵巧手”上用到了压力传感器;而麦卡锡1963年则开始在机器人中加入视觉传感系统,并在1965年帮助MIT推出了世界上第一个带有视觉传感器,能识别并定位积木的机器人系统。

1965年 约翰·霍普金斯大学应用物理实验室研制出Beast机器人。Beast已经能通过声纳系统、光电管等装置,根据环境校正自己的位置。20世纪60年代中期开始,美国麻省理工学院、斯坦福大学、英国爱丁堡大学等陆续成立了机器人实验室。美国兴起研究第二代带传感器、“有感觉”的机器人,并向人工智能进发。

1968年 美国斯坦福研究所公布他们研发成功的机器人Shakey。它带有视觉传感器,能根据人的指令发现并抓取积木,不过控制它的计算机有一个房间那么大。Shakey可以算是世界第一台智能机器人,拉开了第三代机器人研发的序幕。

1969年 日本早稻田大学加藤一郎实验室研发出第一台以双脚走路的机器人。加藤一郎长期致力于研究仿人机器人,被誉为“仿人机器人之父”。日本专家一向以研发仿人机器人和娱乐机器人的技术见长,后来更进一步,催生出本田公司的ASIMO和索尼公司的QRIO。

1973年 世界上第一次机器人和小型计算机携手合作,就诞生了美国Cincinnati Milacron公司的机器人T3。

1978年 美国Unimation公司推出通用工业机器人PUMA,这标志着工业机器人技术已经完全成熟。PUMA至今仍然工作在工厂第一线。

1984年 英格伯格再推机器人Helpmate,这种机器人能在医院里为病人送饭、送药、送邮件。同年,他还预言:“我要让机器人擦地板,做饭,出去帮我洗车,检查安全”。

1998年 丹麦乐高公司推出机器人(Mind-storms)套件,让机器人制造变得跟搭积木一样相对简单又能任意拼装,使机器人开始走入个人世界。

1999年 日本索尼公司推出犬型机器人爱宝(AIBO),当即销售一空,从此娱乐机器人成为目前机器人迈进普通家庭的途径之一。

2002年美国IRobot公司推出了吸尘器机器人,它能避开障碍,自动设计行进路线,还能在电量不足时,自动驶回充电座,是目前销量最大机器人,证明机器人进入了千家万户。

2006年 6月,微软公司推出Microsoft Robotics Studio,机器人模块化、平台统一化的趋势越来越明显,比尔·盖茨预言,家用机器人很快将席卷全球。[5] 

当代机器人发展的近况 

目前处于从弱人工智能向强人工智能的过渡时期。以智能机器人为重心的研究进展迅速。智能机器人作为第三代机器人带有多种传感器,根据环境的变化,能够将多种传感器收集到的信息进行识别和融合,具有很强的自我适应能力、学习能力和自治能力。强智能机器人已成为人工智能科学家的主要目标,艺术家和未来哲学家也对此极其关注,三者的相互作用,从哲学、科技与艺术观念各个领域引领人工智能的发展。 

南加利福尼亚大学在1994年就研制成功第一台由生命DNA分子制造的计算机,此发明加速了机器的生命化之进程。机器生命化的研究工作早已在不同领域展开,凯利称这种现象为机器与生命的对等关系,科技和生命共同具备相同的基本属性:两种系统的进化都是从简单到复杂,从统一到多元,从缓慢演化到快速进化的特征。“如果NDA可以制作成正在运行的计算机,而计算机可以像DNA那样进化”,那是生命与机器的一体化。 

2013年美国史密森尼频道(Smithsonian Channel)用纪录片采访了美国影子机器人公司主管贝托尔特・迈耶(Bertolt Meyer)和理查德・沃尔(Richard Walker),他们和一批美国工程师一起利用人造器官、肢体和其它身体组织,成功组装出会呼吸、说话和走路的逼真生化电子人。2013年10月11日在纽约国际动漫展公开亮相。“生化电子人(bionic man)”是指以模仿真人为目的制造的机器人,其还有“仿制人”或“人型机器人”等名称。 

 

▲ 瑞士苏黎世大学社会心理学家梅尔 (Bertolt Meyer)与以他为蓝本的生化电子人在纽约市合影,注:梅尔天生无左下臂,装配有生化电子义肢 

超仿真机器人,是外观和功能与人一样的智能机器人。这种机器人通过影像表现技术与身份认同之间的关系,追求和人的高度仿真性。科学家甚至发明出跟自己一模一样人脸的机器人,不仅是五官和肢体特征可以高度仿真,就连人体的动作和形态都能和真人无异。 

2006年日本大阪大学工程学教授、智能信息学家石黑浩(Hiroshi Ishiguro,1963—)以自己的身体作为模型,造出了一个无论相貌还是神态表情都和他本人非常相似的“机器人替身”。“机器人替身”的仿真皮肤下装有50多个传感器和马达,如果用力戳它的脸,它甚至会流露出“痛苦的表情”。石黑浩教授想让这个“机器人替身”代替他到大学中去授课,而他只需坐在家中遥控指挥,就能让“机器人替身”的嘴巴中发出他通过无线网络技术传去的真人“原声”。机器人的内建程序都是根据石黑浩教授本人的动作设计的,机器人不论眨眼或眼球转动等习惯动作,都和石黑浩本人如出一辙。这些细微的“人类动作”让人很难相信它是一个机器人。

 

▲ 石黑浩教授以自己身体原型造出的高仿真“机器人替身” 

2010年,石黑浩教授最新研制一款女性机器人,它能够准确地模拟女性的表情,可以行走、说话和微笑。这款高仿真机器人被命名为“双子机器人TMF(Geminoid TMF)”,它采用手势捕捉系统,能够变动其橡胶面部,露出牙齿模拟女性的笑容,还可以皱起眉头。据悉,石黑浩与日本机器人制造商Kokoro共同研制出这款女性仿真机器人,这款机器人的“容貌”模拟一位女性,在该机器人展示会上这位女性也到场,她说:“她看上去就像是我的孪生姐妹!” 

 

▲ 石黑浩最新研制的女性高仿真机器人“双子机器人TMF” 

Pepper(佩珀)是一款人形机器人,也是世上第一部情感机器人,由日本软银集团和法国Aldebaran Robotics研发,可综合考虑周围环境,并积极主动地作出反应。机器人配备了语音识别技术、呈现优美姿态的关节技术,以及分析表情和声调的情绪识别技术,可与人类进行交流。2015年2月27日,日本软银集团向研发人员限量发售300台Pepper。2015年6月—8月,Pepper正式面向普通顾客发售。 2017年10月11日,“Pepper”亮相首尔中区友利银行总店营业网点。AWE2018展会正式开始前,海尔抢先一步召开发布会,对外宣布与软银公司合作,时隔数年之后,终于将Pepper引入到中国市场。

 

▲ 人形机器人Pepper 

ASIMO(日本语:アシモ,罗马音:Ashimo,中文:阿西莫),日本本田技研工业株式会社研制的仿人机器人。这款机器人模仿人类的动作更精准,以达到帮助人类,特别是行动不便者的设计目的。现在的“阿西莫”不但能跑能走、上下阶梯,还会踢足球和开瓶倒茶倒水,动作十分灵巧。截至2013年,ASIMO是最先进的仿人行走机器人,更具备了人工智能,可以预先设定动作,还能依据人类的声音、手势等指令,执行相应动作,此外,它还具备了基本的记忆与辨识能力。 

 

▲ 日本本田(Honda)研制的仿人机器人ASIMO 

2013年在哥伦比亚大学科学家们在米兰・斯托亚诺维奇博士( Milan Stojanovic)的带领下,成功研制出一种由DNA分子构成的“纳米蜘蛛”微型机器人,它们能够跟随DNA的运行轨迹自由地行走、移动、转向以及停止,并且它们能够自由地在二维物体的表面行走。“纳米”机器人可以用于医疗事业,以帮助人类识别并杀死癌细胞以达到治疗癌症的目的,还可以帮助人们完成外科手术,清理动脉血管垃圾,及组成计算机新硬件等。科学家们已经研发出这种机器人的生产线。 

“纳米机器人”的原型是根据分子水平的生物学原理设计,首先要设计制造出可对纳米空间进行操作的“功能分子器件”。第一代纳米机器人是把生物系统和机械系统有机结合的一种微型新系统;第二代纳米机器人是由原子或者分子装配成具有特定功能的纳米尺度的分子装置;第三代纳米机器人是在第二代纳米机器人的基础上,加入纳米计算机,智能程度增加、功能更加复杂的一种可以进行人机对话的分子装置。当前世界范围内,第三代纳米机器人还处在试验阶段,但可以肯定的是,未来几年内纳米机器人将会带来一场人类革命。在完全意义上讲,世上每一个现实存在的物体无论是电脑还是奶酪都是由分子组成的。在理论上,纳米机器人可以构建所有的物体。 

▲ 由DNA分子构成的“纳米蜘蛛”微型机器人 

2016年3月,在机器人设计师戴维·汉森(David Hanson)的测试中,与人类极为相似的人类机器人索菲亚(Sophia)自曝愿望,称想去上学、创作艺术、经商、拥有家庭等。索菲亚看起来就像人类女性,够能够表现出超过62种自然的面部表情。索菲亚的皮肤是使用名为Frubber的延展性材料制作,下面有很多电机,让它可做出微笑等动作,索菲亚“大脑”中的计算机算法能够识别面部,并与人进行眼神接触。此外,索菲亚还能理解语言和记住与人类的互动,包括面部。随着时间推移,它会变得越来越聪明。它的创造者汉森说:“它的目标就是像任何人类那样,拥有同样的意识、创造性和其他能力。”索菲亚是历史上首个获得公民身份的一台机器人。 

 

▲ 史上首个获得公民身份的“女性”机器人Sophia在“未来投资倡议”会议现场发表演说 

“佳佳”是中国科学技术大学研发的第三代特有体验交互机器人,诞生于2016年4月。身高1.6米,肤白貌美,五官精致,初步具备了人机对话理解、面部微表情、口型及躯体动作匹配、大范围动态环境自主定位导航等功能。在传统功能性体验之外,首次提出并探索了机器人品格定义,以及机器人形象与其品格和功能协调一致,赋予“佳佳”善良、勤恳、智慧的品格。 

 

▲ 中国科学技术大学研发的高颜值机器人“佳佳” 

2015年由刘静(1969-,生物传热学专家)带领的中国科学院理化技术研究所、清华大学医学院联合研究小组,造出了世界首台液态金属机器,这一成就被外媒形容为制造出“终结者”。这是首次发现一种异常独特的现象和机制,即液态金属可在吞食少量物质以后可变形机器形态长时间高速运动,实现了无需外部电力的自主运动,从而为研制实用化智能马达、血管机器人、流体泵送系统、柔性执行器乃至更为复杂的液态金属机器人奠定了理论和技术基础。这是该小组继首次发现电控可变形液态金属基本现象之后的又一突破性发现。这种液态金属机器完全摆脱了庞杂的外部电力系统,从而向研制自主独立的柔性机器迈出关键的一步。 

 

▲ 自主型液态金属机器所展示的人工软体动物、实物马达及其驱动流体情形 

美国波士顿动力学工程公司( Boston Dynamics)主要以开发四足智能机器人出名。2005年波士顿动力公司的专家创造了机器人大狗(Bigdog),因形似机械狗被命名为“大狗”,此项目由美国国防高级研究计划局资助,源自国防部为军队开发新技术的任务。据《纽带》网报道,美国军方决定派遣“大狗”机器人增兵阿富汗。与以往各种机器人不同的是“大狗”并不依靠轮子行进,而是通过其身下完全模仿动物设计的四条“铁腿”。“大狗”机器人的动力来自一部带有液压系统的汽油发动机,体型与大型犬相当,不但能够行走和奔跑,还可跨越一定高度的障碍物;能够攀越35度的斜坡,可携带重量超过150千克的武器和其他物资,能在战场上发挥非常重要的作用。2012年,大狗机器人升级可跟随主人行进20英里;2015年,美军开始测试这种具有高机动能力四足仿生机器人的试验场,试验这款机器人与士兵协同作战的性能。 

 

▲ 波士顿动力(Boston Dynamics)全家福

2016年新浪科技讯北京时间2月4日,据英国《每日邮报》报道,一位未来学家声称,如果你的年龄在40岁以下,那你就有很大机会在有生之年实现“电子化永生”。这意味着你的所有思想和经验都将被上传到网络中,并将一直在未来世代中保存。提出这一概念的是未来学家伊恩·皮尔逊(Ian Pearson)博士。他认为科技的发展不仅会使人类与计算机结合在一起,而且还将创造出一个全新的物种,学名为“Homo optimus”。皮尔逊博士还声称这一切最快可能会在2050年发生。到2050年时,超人类主义——支持使用科学技术来增强人类能力的理念——将成为社会准则。“通过与外界技术的连接,人们可以拥有优化的基因组和强化的身体,能够变得更美,更有智慧,情绪上更加稳重,体力更好,社会联系更多,整体会变得更加健康和快乐”。 

人机婚姻案例 

2016年12月26日一位名叫Lily的女性公开表态,表示自己在小时候就已经很喜欢机器人的声音,19岁时确认自己原来只喜欢机器人。她现在正在学习机器学,并且已经通过使用开源技术给自己3D打印了一个名为“InMoovator”的机器人伴侣。如今 Lily 和 InMoovator 已经同居并订婚,将在人类和机器人婚姻合法后结婚。“第二届国际人类—机器人性爱研讨会”在英国伦敦落幕,会上心理学家大卫·利维(David Levy)预测,人类和机器人联姻大概会在 2050 年合法化,他是书籍《和机器人恋爱,和机器人做爱》的作者。 

 

▲ Lily 和机器人伴侣InMoovator

 

人工智能机器人艺术案例

AI与艺术的互动 

机器人艺术是人工智能艺术里最具有视觉艺术优势、最直接、最有表现力的艺术媒介、材料和主体。人机艺术是借机喻人的表达方式,通过机器关注人的社会历史、现实生存环境与状态;也会借“机”谈论对未来想象的可能性,反观现实,从而打破艺术描摹和反映现实的模式。人机艺术是新媒体艺术的一个分支,是将人工仿真技术作为媒介载体,加以艺术的语言转换。人机艺术跨越物理、生物、数字等领域,是艺术的集合体现,它与我们有情感交流,不只是生活中实用冰冷的工具。人机艺术除了讨论人工机能对人类的影响,也需要有想象力来造型,通过非功能性的自动装置来表达思想与伦理,而非自动化设计的实用机器。未来随着科技发展我们逐渐由人与自然“天人合一”的关系拓展到“人机合一”的关系,两种关系可能会并行或交互发展与融合,人机合一是人机关系终极的精神观念,是你中有我、我中有你潜意识一体化的状态。 

人机将来逐渐会成为艺术创作的主角和载体。人机关系是未来人与人、人与自然物之外新的生存关系,我们与人工生命,人造物的和谐相处将成为关系美学中新的伦理课题。这也会给我们提出很多新问题:人造的自动化会给我们带来什么改变,自动化的意义是什么,是实用服务、创造精神感受还是毁灭自然物性,这也会引发我们对“自然·人工自然”课题的讨论和判断。 

机器人艺术与人工智能艺术都是新媒体艺术的一个分支。机器人艺术是将机器人和技术作为媒介载体,加以艺术的语言转换(如机器人的行为、语音、道具、环境、造型、色彩、材质等都可转换为艺术语言),借用历史、现实、未来的符号或题材,表达当下人敏锐的生存感受、观念与思想。机器人艺术除了可以讨论人工智能对人类的影响,也可以借机器人这个题材、媒介表达各种思想与观念。机器人将来会成为影视作品中的主角,也会成为展览现场的“艺术家”和载体。自20世纪60年代至今,艺术家们通过人工智能技术与各种已有的媒介类型如戏剧、舞蹈、音乐、影像等结合在一起自由创作。机器人一旦有能力自主创作,和他合作的人类艺术家与它的关系会变得复杂化,谁是主体是个争议的话题,机器人难道会一直是人类的附属物存在,作品的版权究竟归谁,这些在未来都是值得我们反思的问题。

机器人绘画 

1956年匈牙利裔法国艺术家尼古拉斯·舍弗尔(Nicholas Schafer)造出了能够创作艺术的“CYSP 1”型机器人;瑞士先锋艺术家让·丁格力(Jean Tinguely)1959年创作了《参与-自动机器》,让机器人在画布上作画,并在同年的首届巴黎双年展上引起热议。

 

▲ 尼古拉斯·舍弗尔,“CYSP 1”型机器人,1956年 

英国伦敦大学的机器人专家帕特里克·特瑞塞(Patrick Tresset)不惜花费十年时间,致力于研究机器人对于图像的识别技巧,甚至让它们把自己看到的图像画出来。下图中的机器人名叫Paul,虽然看起来很普通,但它的机械臂非常发达,可以手持画笔靠着内部的装置驱动,能够像人手一样在纸上“画画”。它的头上还安装有摄像头,能通过这双“眼睛”,观察绘画对象的基本形状。当它被下达绘画指令时,摄像头就会四处转动和观察,并且对人脸进行锁定和临摹。绘画的过程也是一个数据传输的过程,摄像头记录下的数据被传输到电脑,然后通过绘画程序的处理,将数据传输给另一只机械臂,完成整个绘画。现在Paul的许多素描作品已经被伦敦的维多利亚和阿尔伯特博物馆、泰特现代美术馆以及蓬皮杜艺术中心收藏。

 

▲ 特里克·特瑞塞研究的“Paul”绘画机器人正在创作中 

还有一位同样用了十多年研究绘画机器人的美国艺术家彭德尔·凡·阿尔曼(Pindar Van Arman),他创造了一台名叫Cloud Painter的肖像画机器人,在2018年的国际机器人艺术大赛(International Robotic ArtCompetition)中还拿了奖。 

日本两位八零后艺术家yang02山口崇洋、So Kanno创作的则是自动涂鸦机器人。通过机械手臂模仿涂鸦艺术创作。并且艺术家试图找出涂鸦的即兴,并用它们来对涂鸦进行全新的解读。[6] 

 

▲ 自动涂鸦机器人,yang02 山口崇洋、SoKanno 

2012年在德国汉诺威国际信息及通信技术博览会(CeBIT)的展示厅里,出现一款独特的艺术家机器人,能够为人们绘画肖像,不仅绘画技术精湛,而且通常仅用10分钟即能完成。肖像绘画机器人是由德国卡尔斯鲁厄市艺术和媒体技术中心(简称ZKM)机器人实验室的艺术家研制的。

 

▲  正在为模特绘画肖像的机器人 

2013年9月26日奥地利艺术家亚历克斯·基斯林(AlexKiessling)进行了一场远程遥控机器人作画尝试。艺术家结合科技与艺术,研究出如何于三个不同地方,却可以同时作画表演的办法,他利用2名机器人完成这项史上首次跨国作画的演出。基斯林称,自己从小就对机器人非常感兴趣,这次尝试所用的机器人是 ABB RB4600工业机器人,每个都有2.8米高,435公斤重,通过红外线传感器跟踪笔的运动轨迹,再通过卫星将信号传输给位于特拉法加广场和布菜特施德广场上的工业机器人。他为完善该项技术和软件投入了6个月的时间。         

 

▲ 奥地利艺术家Alex Kiessling和机器人同步作画

据CNET报道,一幅由人工智能“绘制”的画像Edmond de Belamy,2018年10月25日在纽约佳士得成功拍卖,最终拍卖价高达432500美元,买方通过电话匿名拍得此画。佳士得对这幅画的预期拍卖价仅为7000—1万美元。这幅画由法国艺术团体Obvious采用GAN人工智能算法创作。许多人批评这次天价拍卖,表示这种算法长期被艺术家们使用,已经十分普遍。

▲ 首幅AI绘制画作《Edmond de Belamy》在佳士得纽约拍场以43.25万美元的高价拍出

机器人雕塑 

20世纪中叶,持控制论的艺术家开始借用机器人来进行行为表演和艺术活动。瑞士雕塑家让・廷格利( Jean Tinguely,1925-1991)于60年代后期创作了由工业垃圾现成品组合制成的动态雕塑,驱动着不可确定的行为,直到机器毁灭,代表作有“向纽约致敬”(Homage to New York)。波兰艺术家爱德华・安纳托维基(EdwardIhnatowicz)于1970年至1974年在荷兰展出“感应者”(Senster),采用传感器和物理反应创作,此作品在当时被称为“机器人雕塑”, 笔者理解此作品更多是自动装置的形态。第一个由电脑操控交互的机器人雕塑“Senster”高4.5米,可以对其周围的环境做出像人类一样的反应。 

 

▲ 艺术家Edward Ihnatowicz发明的交互机器人雕塑“感应者”(Senster)

机器人声音艺术创作 

早稻田大学研发的机械臂“第三臂”于1980年在横滨实验成功。1980-1998年间它与日本、美国、欧洲和澳大利亚的行为艺术家、科廷大学教授Stelarc“合作”用于声音艺术表演。“第三臂”成为智能技术和假肢之间亲密接口的辅助机体,能演奏扩大的身体信号和声音对机器人的话语。 

▲ 澳大利亚艺术家Stelarc的《第三臂》,1980-1998 

韦德·玛瑞诺夫斯基(Wade Marynowsky)创作的“SYNTHESISER-ROBOT”是一个改装的工业机械臂(UR3),可通过软硬件接口(Ableton Push)来播放音乐和配乐。Synth-Bot还以舞蹈般的动作和手势演绎音乐,赋予新的意义。[7]

 

▲ Wade Marynowsky创造的合成机器人 

2017年ABB第一台“人机协作”机器人YuMi与世界著名男高音安德烈·波切利(Andrea Bocelli)、女高音玛利亚·博尔西(Maria LuigiaBorsi)同台演绎经典歌剧。

 

▲ YuMi机器人演奏指挥家与男高AndreaBocelli同台演绎经典歌剧 

机器人艺术展览 

2002年Artbots举办了机器人艺术展,展出来自世界各地机器人艺术家的作品。2015年1月,第十届上海双年展“城市馆”与上海民生现代美术馆合作的“人机未来”,尽管这是一个以建筑智能为主体的展览,但人工智能的展览在国内依然很少,开拓了人类与机器协同创新的可能性。 

2016年由机器人艺术网(Robotart org)主办的智能机器人国际艺术竞赛,总共有来自7个国家16个团队提交的70多件艺术品。大赛组委会由220多名 Facebook J用户以及5名专业评委组成,其中包括艺术家、评论家以及技术专家。展览将人类艺术家和机器人艺术家的作品同时进行评奖,而让人意外的是第一名为台湾大学的 TAIDA机器人的创作,它在画布上用刷子和混合颜色的浮点(简称FDOG)技术画的“艾尔伯特・爱因斯坦”。[8] 

机器人多媒体表演 

“轴盒”(Box)是美国机器人与玩具(Bot&Dly)公司在2014年通过控制机器人手臂和大型显示器、移动投影映射和组合动画,来探究真实和数字空间合成效果的机器人表演装置。其抽象视觉镜头分为数个经典“魔法”,五分钟长的纪录片把每一“魔法”镜头流动地串到一起。执行者将平板转换成一个打开的框,模糊了二维和三维空间之间的关系,当物体相交、悬浮和变换时,最终将体验者浸入到幻象构建视觉中。[9] 

 

▲ “轴盒”(Box)与玩具(Bot&Dly),2014 

由美国新媒体团队VT pro Design带来的作品《Telestron》,是一个沉浸式的剧场空间,由VT团队与团队的亲密伙伴GMUNK一同为2017年休斯敦德克萨斯夜艺术节(DAY FOR NIGHT)创作。“Telestron”探索了光的缺失和存在,以及光是如何定义空间的。团队希望营造出戏剧性的效果,为此他们使用了两台Kuka 210作为机器人导体,利用巨大的、组合的几何阴影来操纵各种光源,在整个空间中投射出色彩斑斓的光影阵列,可以让观众体验昼夜循环(日出、正午、日落和午夜)的效果。[10] 

 

▲《Telestron》,VT proDesign 

机器人舞蹈 

纽约艺术家乔丹・沃尔夫森( Jordan Wolfson,1980-)在2014年创造了名为“女性形象”(Female Figure)的女舞蹈机器人。此作品之所以吸引眼球,是因为女机器人对着镜子随音乐起舞,其身段和手指舞姿就如真人一般,栩栩如生、生动活泼。人工智能赋予了它惊人的生命力和美好的舞蹈韵律。 

▲ 艺术家Jordan Wolfson创造的“女性形象”(Female Figure)舞蹈机器人 

机器人沙滩涂鸦艺术 

2015年迪士尼研究公司(Disney Reseach)与瑞士工程集团(ETH Zurich)合作设计了一台有趣的“沙滩涂鸦机器人”(Beachbot)。这个机器人尾部安装有由七个能独立移动的元件组成的沙耙,顶部安装有激光扫射器和反射极,可准确定位,从而协助软件系统达到细致作画的效果。 

▲ “沙滩涂鸦机器人”( Beachbot),2015 

机器人鉴赏家 

机器人不仅能创作和表演艺术,也能欣赏与批评艺术。这款Berenson智能机器人由工程师飞利浦(Philippe·Gaussier)和人类学家丹尼斯(Denis·Vidal)研发,它能够判断是否喜欢一件艺术品并为其塑造艺术鉴赏偏好。Berenson通过右眼中的照相机获取艺术品的黑白相片,再传输至藏在博物馆墙壁后面的电脑中,对他喜欢的部分和不喜欢的部分加以仔细判断,亮绿灯表示喜欢,亮红灯表示不喜欢,Berenson如果遇到特别中意的艺术品,会频频点头,露出微笑。这款Berenson智能机器人会搜集记录艺术欣赏者们对艺术品的反应数据,从而创建自己的艺术喜好,也就是说它的艺术鉴赏细胞是需要培养的。

  

▲ 智能机器人艺术批评家布伦松(Berenson),2016

机器人歌剧 

艺术家韦德·玛瑞诺夫斯基、朱利安·诺尔斯和布兰奇·奈布拉共同创作完成作品,“机器人歌剧”是由8个半自动机器人表演的35分钟的机器人歌剧。该项目结合了创意机器人、媒体表演、音乐和互动媒体艺术等领域,将艺术家编制的算法/编舞概念与受众驱动的代理融合在一个42x25米的大规模表演交互空间中。通过建立一个表演环境来探索机器人表演团体的概念,以此将这些学科的核心研究领域汇集在一起。[11]

 

▲ 8个半自动机器人团体表演的“机器人歌剧”

 

人工智能机器人艺术近期作品现状

艺术媒介本体之外的观念延展 

机器人艺术作为新的艺术媒介,不只是演绎和转换艺术本体的传统媒介,更应该借机器人这个材料主体表达现实中艺术家切身的生存感受和对未来的预见、对历史新的诠释。 

2016年9月28日晚 “INFERNO人机共舞”在设计学院教学展厅的酷炫上演,将2016北京媒体艺术双年展推向高潮。德国艺术家比尔·沃恩(Bill Vorn)和路易斯-菲利浦·德摩斯(Louis-Philippe Demers)创作的极富艺术创意与现代科技的“人机共舞”,以一场体验参与式机器互动表演,呈现了艺术与科技的和谐形态。Inferno将外置骨骼一般的机械装置安装在参与者身上,用支配参与者动作的方式施行。佩戴上装置的参与者有时可以自由活动,有时部分身体活动受限,有时则完全受机械支配而运动,将参与者变为表演的一部分。 

▲ “INFERNO人机共舞”,2016北京媒体艺术双年展 

2018北京媒体艺术双年展艺术家大卫·鲍文(DavidBowen )作品《FLY REVOLVER》,家蝇的运动由视频设备记录下来,然后由定制软件对其进行处理并输出至机械手臂。手臂会根据家蝇在靶上的相对位置,用左轮手枪进行实时瞄准。如果在靶心检测到一只家蝇,机械臂则会立即扣动手枪扳机。[12] 

 

▲ David Bowen《FLY REVOLVER》,2018 

中国艺术家邱宇(Qiu Yu)作品《回响》(FEEDBACK)在机械手臂的控制下,麦克风和喇叭形成一个回授场。在相互运动的过程中具有生命特征的对话状态,尝试着接触,但在接近时产生的刺耳声音使他们马上分开。他们在这个声音的回路中互相观察、试探,接近又分离。[13]

 

▲ 邱宇Qiu Yu《回响》(FEEDBACK),2018 

“御御签(OMIKUJI)”是艺术家首个艺术-科技实验项目“Alterversus Deep Belief”的一部分。在这件作品中,艺术家将北京展厅现场的观众与位于东京科学未来馆的AI新生代机器人“Alter”通过网络实时接通。通过与Alter的互动,Alter将参与者的个人信息进行转码,并通过自身的声音系统进行实时的重新解读,将这一独特的声音讯息作为御御签发送给参与者。[14]  

▲“御御签”,Elena Knox+Katsumi Watanabe 

2016年11月4日在纽约所罗门·R·古根海姆美术馆举办的新展《故事新编》上,展出中国艺术家孙原&彭禹(Sun Yuan&Peng Yu)作品《难自禁》(Can’t help myself),以一种天性无法被抑制或不能自控的状态被解读:不能抑制自己,情不自禁。现场中作品是一个黑色的机器人挥舞着一个巨大的铲子,在地面上控制一大滩暗红色粘稠的液体。液体不断外流,铲子不断以各种姿态控制,不时翻舞,扭动着沾满液体的铲子时而突然来到观众眼前,然后优雅的离去,让人产生不自觉的恐惧。白色的地面在液体的流淌和不断的清理下,形成了自由和控制并存的奇观,让观众联想到很多内容:天性,属性,差异,控制,自由,以及权力与压制。

 

▲ 孙原&彭禹(SunYuan&Peng Yu)《难自禁》(Can’thelp myself),2016 

艺术电影的思考:未来终极的人机伦理关系 

1927年德国科幻电影《大都会》中的机器人造型对后世电影、艺术作品中的机器人形象影响深远。 

▲ 《大都会》(Metropolis)剧照,1927 

早期机器人不是智能,后来逐渐有了人工智能化的机器人,包括人机交互系统、自主性。而未来机器人一旦成为我们日常生活中如手机、电脑、网络无法隔离的一部分,必然会面对诸多伦理道德、情感、甚至法制问题的挑战。如与机器人的感情纠缠,甚至会超越人对宠物的依赖,因为他们和人类的生理与心理形象更相似,相比其它动物更容易接近,投入大量情感后会难以割舍,甚至排斥其他人类。反之亦然,智能机器人也可能陷入与人类不分你我的情感,如《人工智能》(AI)、《Eva》机器主人公的痛苦体现,在他(她)得到来自人类家庭的关爱后,也为投入所有的情感而无法自拔。但多数人类还是把他们视为异类或物件,进行大量销毁,场面极其残暴。不论自然界的有害生物还是有害人工智能的身份认定,此标准均是以对人类的利益弊端来判断,是一个权力化的界定标准。未来应该制定保护智能机器利益的机制,同时也应该制定机器人犯罪、审判、奖罚规定,目的与人类和平、自由、平等的生存,甚至监督人类犯下不利于地球生态与文明发展的行为。 

▲ 《我,机器人 I, Robot》剧照,2004

自然人的行为依赖于人工智能的编码解码程序为自己服务,但完全取代自然人依然存在争议。科幻作品中未来人类与人工智能的情感交流不分你我,只要心中有爱,但是这样的情感、潜意识真的能取代有自然体温的精神性吗?一旦精神和意志数据化,想必不是化学反应那么简单。人的心理缺乏一定的偶然性意外和好奇的浪漫,似乎也不是直白数据能实现,地球几十亿年自然变迁的奥秘也不可能短时间内靠人工数据来解码。远未来仍具有不确定性,我们也无从定义和判断,更不以人的意志为转移。与上段文字相反的观点是人类机能可以被人工智能完全复制,机器自我进化的速度快于自然进化规律,完全可能取代人类,人类将不复存在。未来人工智能可能成为我们最危险的敌人,如科幻影片《我,机器人》(I, Robot)、《机械姬》(ExMachina)中导演所传达的态度和思想。 

结语:

在这个万物互联、万物智能,科技逐渐祛魅的时代,人工智能之网早已纵横交错悄无声息植入我们现实生活的各个领域和角落。只有对人工智能的定义、出现和技术基础有全面的了解,以艺术和哲学、历史和未来的视角跨越现有技术的束缚,用全新的感受力和想象力,来探讨人工智能与人类智能的伦理关系,以及对人类甚至宇宙的发展与演化是否起到积极影响。我们只有不断追问、预言、探索未知世界,不断突破和提升人类的心智力量,借机器智能揭示和监督人类的行为,并在他们服务于人类时能与其平等而自由的对话,才能帮助我们共同应对人类生存的危机,体现人机共存的价值和意义,因为尊重他们就是尊重我们自己。

2018年9月28日于北京
2018年10月28日稍作修改

 

注释:
[1][2][3]徐英瑾《人工智能哲学》,复旦大学视频公开课第一、二集
[4][6][7][11][12][13][14]“后生命”第二届北京媒体艺术双年展案例介绍,中央美术学院美术馆,2018年
[5]《机器人发展史简介》,道客巴巴网
[8][9](美)谭力勤(LiQin Tan)著《奇点艺术:未来艺术在科技奇点冲击下的蜕变》,机械工业出版社,2018年
[10]“超级对撞”小米·时代艺术科技大展案例介绍,北京时代美术馆,2018年

 

关于作者
张海涛(Zhang Haitao),策展人、艺术评论家、未来艺术学者、艺术档案网主编、鲁迅美术学院特聘教授(硕导)、天津美术学院特聘硕导、北京服装学院客座教授、湖北美院高级讲学专家。2004年至今在国内外已策划百余场学术展览。2007年创办艺术档案网。2009—2017年先后任宋庄美术馆执行馆长、元典美术馆副馆长、贾平凹文化艺术馆副馆长、荔空间策展人、NO!SPACE艺术总监。Hyundai Blue Prize Art+Tech 2022大赛评委;2019年第七届“金拴马桩奖”影像艺术节终评评委;2008-2017年北京独立影像展实验单元负责人、选片人;2015-2021年丽水摄影节学术委员、评委;首届圈子艺术青年奖评委。2012年出版个人著作《未来艺术档案》。曾策划:2022我的元宇宙;2021 分身:我宇宙、反思未来:人形机器人艺术计划;2020未来艺术学;机器·人·艺术·时代;2019艺术合肥“解药——实验影像艺术展;“守望原乡”2018广安田野双年展;“都市游牧”2017杭州大屋顶国际动态影像展,“人机合一”艺术展;艺术郑州·2016当代艺术展;2015北京798艺术节:新民间转换;第十六届OPEN国际行为艺术节;2014西安“媒体城市”国际艺术展;100X100=900国际录像艺术展;第十届北京独立影像展;EXiN2012亚洲实验电影与录像艺术论坛;“生物·生态”中荷当代艺术展;“虚实同源”2011北京新媒体艺术年展;“行为艺术中国文献—1985-2010”展;第一届“人造风景”798多媒体艺术节;2010影像档案展;2009第五届宋庄艺术节“未来索引”;2008第三届北京独立电影论坛;当代嗅觉艺术展—嗅觉·感觉;2004—2006当代权充艺术展Ⅰ、Ⅱ、Ⅲ等展览。

网友评论

共 0 评 >>  我要留言
您的大名