▲ 布莱切利园（Bletchley Park）的图灵机。摄影 | Douglas Hoyt
ChatGPT：机器的末世论
许煜
研究网络特邀翻译: Solemn
英文原文
Yuk Hui. “ ChatGPT, or the Eschatology of Machines“ e-flux, no.137, June 2023. https://www.e-flux.com/journal/137/544816/chatgpt-or-the-eschatology-of-machines/
自 2022 年 11 月的启动以来，ChatGPT 所触发的是热情和恐惧。它在表面上掌握是不同语言的语义学和句法，还不是内容，但这已经让期待着一个普通聊天机器人的用户吃惊了。一些大学立即禁止学生用 ChatGPT 写论文，因为它的表现优于大多数人类学生。报纸专栏宣布了教育的终结，不仅因为学生可以用它做家庭作业，还因为 ChatGPT 可以比许多老师提供更多的信息。人工智能所似乎征服了的，根据经典哲学，是又一个定义了人性的领域——逻各斯。恐慌随着存在领土的这种一再沦陷而增长。随着气候崩溃和机器人反叛使人想起了终结时代，对人类史的天启式想象是愈演愈烈了。
终结时代，对现代人来说并不陌生。其实，在卡尔勒·洛文特 1949 年出版的《历史中的意义》一书中，这位哲学家就表明，现代历史哲学，从黑格尔到布克哈特，都是对末世论的世俗化。[1] 历史的终点是使得超验变得内在的东西，不管是耶稣基督的再次降临，或者单单是神人（拉丁语 Homo deus）的生成。《圣经》或亚伯拉罕诸教对时间的这一想象，在更一般地层面上为人类的存在提供了许多深刻反思，但也阻碍了对我们的未来的理解。
1960 年代，汉斯·布鲁门贝格反驳了洛文特关于世俗化的论点，以及卡尔·施米特的主张——“现代的国家理论中所有意味重大的概念，都是世俗化的神学概念”。[2] 布鲁门贝格辩称，把现代的东西理解为对于神学概念的世俗化或移花接木，会损坏现代的东西的合法性；现代性之某种意义仍然不可削简为神学的世俗化。[3] 同样，人工智能的新颖性和意义也被末世论的想象、对机器的现代刻板印象和工业宣传所掩埋了。
▲ 1099 年十字军围攻耶路撒冷的一幕，在锡安山的布尔西雅德（Burchard of Mount Sion）作于 13 世纪的《圣地描绘图》（Descriptio Terrae Sanctae）中的一幅微缩画里被描绘了出来 。
这不是说我们应该否认气候变化和抵制人工智能。恰恰相反，迎战气候变化应该是我们的当务之急，而发展人与技术之间有生产力的关系也当如此。但要做到这一点，我们必须发展出对人工智能的恰当理解，来超越一种仅仅是技术性的理解。火车、汽车和后来的飞机的发明也触发了巨大的恐惧，不管是在心理上还是经济上，但如今却很少有人恐惧这些机器会脱离我们的控制了。相反，汽车和飞机已是日常生活的一部分，往往还意味着兴奋和自由。所以，为什么对人工智能会如此恐惧呢？
要理解以 ChatGPT 为前沿的这一波科技新浪潮，我们可以从约翰·瑟尔早在 1980 年的著名的中文房间开始，而这个思想实验就在逻辑推理的伪装下，隐藏了对于运算（computational）机器的最讨人厌的刻板印象。在这个思想实验中，瑟尔想象自己独处于一个房间，任务是遵循用英文写的符号处理程序的指令，以便回应从门缝塞进来的、用中文写的输入。在实验中，瑟尔并不理解中文：“我对中文一窍不通，无论书面的还是口语的，而且......我甚至没有信心能认出中文书写是有别于日文书写或无意义的蚯蚓文。”[4] 然而，他却认为，只要有一套合适的指令和规则，他就能做出回应，让房间外的人相信他是理解中文的。简单地说，瑟尔断言，一台机器有能力遵循中文指令，不意味着它就理解中文，而后者正是所谓的强人工智能（与弱人工智能相反）的标志。理解首先意味着理解语义。句法可以是被硬编码的，而语义意义（semantic meaning）则会随着情境和形势变化而变化。瑟尔的中文房间适用于还像 18 世纪的机器那样运行的计算机，比如消化鸭、机械土耳其人（Mechanical Turk）。然而，这不是我们今天处理的那类机器。诺姆·乔姆斯基、伊恩·罗伯茨和杰弗里·瓦图穆尔主张 ChatGPT 是“用于模式（pattern）匹配的一个笨拙的统计引擎”[5]，这说得很对。可是，我们必须认识到，虽然模式是信息的首要特征，但 ChatGPT 所做的比模式匹配更多。
▲ 1988 年，一艘军舰上的作战信息中心，作为中文房间的一个真实类比而被提了出来。
这一句法方面的批判是基于机械论的认识论的，而这一认识论则假定了线性因果关系——先有因，后有果。可以逆转这个因果进程，来达到终极因——原始推动者，第一因的缺省，以及所有线性推理的最终命运。与线性因果关系和机械论哲学相反，18 世纪见证了基于有机体的哲学思考，伊玛努艾尔·康德的《判断力批判》就是其中最有意味的贡献之一。正如我之前主张的那样，康德使得做哲学的一个新条件不可或缺了，那就是哲学必须成为有机的；换句话说，有机的东西标志着哲学思考的新开端。[6] 如今重要的是要认识到，康德所設下的哲学的思考条件在控制论出现后，已走到了尽头 [7]。
控制论，是诺伯特·维纳在 1943 年左右造的术语，并得到了 1940 年代末和 1950 年代初参加关于控制论的梅西会议的一群科学家和工程师的发展。按照吉勒拜尔·西蒙东的说法，控制论旨在成为一门有能力统一所有学科的普遍科学，是对18世纪百科全书主义的一次新的改写。[8] 控制论用反馈概念来定义一种新的“控制论式机器”的操作，而那是有别于 17 世纪的“机械论式机器”的。维纳在其 1948 年的开创性著作中主张，控制论克服了牛顿和柏格森所代表的机械论与生机论（vitalism）的对立，因为控制论式机器是基于一种新的非线性的因果关系的，也就是递归性，而不是脆弱而无效的线性因果关系——脆弱是因为这一机器不知如何调节自身的操作模式。想象一块机械表：其中一个齿轮一出现故障，整块表就停了。对于这类线性机制，如果不彻底升级硬件，其推理速度的指数级增长就不会发生。
如果说机械论与有机体的对立塑造了现代哲学一大争论的特点，决定了现代哲学的发展方向，那么如今，当许多要贬低人工智能和 ChatGPT 的名誉（discrediting）的言论都假定机器只是机械论式的，因而无法理解语义意义的时候，这场争论就还在继续着。同样错误的，是声称机器在语义意义上只是对人类理解的一种失败的模仿。哲学家和认知科学家布赖恩·坎特威尔·史密斯尖锐批评了这一拟人化思维，为机器式的意向性辩护。对他来说，即使在机器中找不到人的意向性，那仍然是意向性的一个形式；那是语义的，即使不是人类语言意义上的语义。[9] 拟人化的语义与机器语义的这一分离，对于重新思考我们与机器的关系是根本性的，但这只是第一步。
瑟尔的论点从根本上忽视了当今机器所执行的计算的递归形式。有人会争论说，计算机科学不应与控制论合并起来，因为控制论是一门太包罗万象的科学。不过，我们也可以想想哥德尔的递归函数及其与图灵机、与阿朗佐·丘奇（Alonzo Church）的 λ 演算的等价性（运算历史上的一个著名故事）。递归性一词不仅属于控制论，也属于机械论之后的思维。控制论的来临只是宣告了在控制论式机器中实现这一递归思维的可能性。
正如郭特哈特·棍泰尔和吉勒拜尔·西蒙东都正确地观察到的那样，在今日的机器中找到的“智能”是一种反思形式的操作。对棍泰尔来说，控制论是黑格尔的逻辑的实现，而在西蒙东看来，只有在《判断力批判》对反思性判断的阐述中，康德才讲到了控制论。[10] “反思性思维”通常与人类而非机器相联系，因为机器只执行指令而不反思指令本身。但自 1940 年代引入控制论以来，这个术语也可以用来描述机器的反馈机制。机器中的反思性思维对于毫无准备接受其存在的人类具有惊人的力量，即使是作为反思的初步的基本形式——纯粹是形式上的，因此不足以处理内容。在这里，我们就可以理解为什么 ChatGPT 对于杨立昆（Yann LeCun）这样的计算机科学家来说“不是特别创新”和“毫无革命性”[11]。只有通过处理内容，机器才能走向所谓的技术奇点。但迄今为止，奇点仍是一个神话，而当它被呈现为近未来的时候，它还是一个误导人的有害的神话。即使我们把奇点与神学意义，或者与末世论联系起来，奇点也不会对理解人工智能及其未来作出任何贡献。
递归式机器，而不是线性的机器，是理解人工智能的发展和演变的关键。人类将如何面对这新一类的机器？西蒙东提出了一个类似的问题：当技术变得具有反思性时，哲学将扮演什么角色？当技术变得具有反身性时，哲学将扮演什么角色？布赖恩·坎特威尔·史密斯认为，人工智能局限于算数能力，而非判断能力，但很难说这一区分还能撑多久。[12] 也许太多的智性努力都浪费在了区分人机上。
当马和牛这样的家养动物取代人类成为能量提供者时，人类并不感到沮丧。相反，他们欣然接受了得以从累人的重复劳动中解脱。当蒸汽机取代动物时，同样的事也发生了；它们甚至更有效率，需要的人的关注也甚至更少。西蒙东在 1958 年出版的《论技术物件的实存模式》一书中正确地指出，信息机器取代热动力机器标志着一个关键时刻：人类在生产中心被替代。工业时代之前的工匠能够创造一种缔合中域（associated milieu），其中，工匠的身体和智能弥补了他们的简单工具所缺乏的自主。在信息机器或控制论式机器时代，机器本身成为了信息组织者，而人类就不再是中心了，即使他们仍把自己当成机器的指挥者和信息的组织者来考虑。这就是人类受自己对机器的刻板类型的信念之苦的一刻：他们误把自己指认为中心，而在这样做的时候，就面临着持续的挫败感和对身份的恐慌的追寻。
▲ 《星球大战》中，卢克·天行者（Luke Skywalker）测试他的假手 L-hand 980。
驻留于机器中的现实是疏离于（alienated from）人类所操作的现实的。不可避免的技术演变进程被非线性因果关系的引入所驱动了，使得机器得以处理偶然性。学习型机器是能分辨噪音和故障这样偶然事件的机器。它能区分无组织的输入和必要的输入。通过阐释偶然事件，学习型机器改进了它的决策模型。但即使在这时，机器也需要人类来区分对与错的决策，以便继续改进。在发展中国家，一类新的廉价劳动雇人来告诉机器那些结果对不对，无论是面部识别的扫描还是 ChatGPT 的回应。这一新的劳动形式剥削了那些与我们互动的机器背后不露面地苦干的工人，却往往被对于资本主义的笼统批评所忽略，而这些批评所哀叹的只是自动化还不充分。这就是今日马克思主义技术批判的弱点。
西蒙东在《论技术物件的存在模式》中提出了关键问题：当人不再是信息组织者的时候，他们能扮演什么角色？人类可以从劳动中解放出来吗？正如阿娜·阿伦特在与西蒙东的书同一年出版的《人的条件》中所怀疑的那样，这一解放只会导向消费主义，只留下艺术家作为有能力创造的“最后之人”。[13] 在这里，消费主义成了人的行动的界限。阿伦特从人类现实的视角，把机器看成是取代了匠人（拉丁语 Homo faber），而西蒙东则表明，若不能处理和整合机器的技术现实，就会促成人机之间、文化与技术（technics）之间不幸的对抗。这一对抗不仅是恐惧之源。它还是基于工业宣传和消费主义所塑造的对技术的成问题的理解的。正是从这一否定性中，原始主义的人类主义生长了出来，并将爱指认为人类的最后手段。
自西蒙东提出这些问题以来，60 多年过去了，问题仍未解决。更糟的是，问题还被技术乐观主义和文化悲观主义掩盖了，其中，技术乐观主义提倡无情的加速，而文化悲观主义则充当了心理治疗。这些倾向都源于对机器的拟人化（anthropomorphic）理解，也就是说它们应该模仿人类。（西蒙东猛烈抨击控制论持有的这个观点，尽管此举并未尽合理）如今，这个模仿论观点最具讽刺意味的表现是在艺术领域中试图证明机器可以完成巴赫或毕加索的作品。一方面，恐慌的人类反复追问哪些类型的薪资工作可以避免被机器取代，另一方面，科技工业有意识地努力用机器自动化取代人的干预。人生活在这一工业有关取代的这个自我实现的预言之中。而事实上，这一工业是持续再生产着有关取代的话语的，那种话语宣布着这种那种薪资工作的终结，仿佛革命已至，而社会结构和我们对社会的想象却保持不变。
有关取代的话语都没有转形为有关解放的话语，无论是在资本主义社会，还是在所谓的共产主义社会。公平地说，一些加速论者意识到了这一点，并寻求使得马克思的全自动化的愿景得以再生。如果高中物理更加普及一点，我们就会对加速度有个更细致的概念，因为加速度不意味着增速，而是意味着速率增加。主流话语没有草拟出一个未来愿景，让人工智能被用作代具的功能，而只是将人工智能当成对人类智能的挑战和对智力劳动的替代来处理。今天的人类不会做梦了。如果说飞行梦导向了飞机的发明，那么现在我们就在强化对机器的噩梦。最终，技术乐观主义（以超人类主义的形式）和文化悲观主义在一个天启式终结的预计中相遇了。
人的创造力必须采取彻底不同的方向，将人机关系提升到关于取代的经济理论和对于互动性的幻想之上。这一创造力必须走向存在论的分析。技术的代具本性必须超越其功能性而得到确认，因为自人类之初以来，获取真理总是依赖工具的发明和使用。可这个事实仍是许多人所看不见的，使得机器演变与人类存在之间的冲突似乎是源于文化中根深蒂固的一个意识形态。
我们生活在被表征为文化的各式正反馈回路中。自现代的工业社会开始以来，人体一直服从于重复的节奏，结果就是人心也被有关工业的预言所包摄了。无论美国梦还是中国梦，巨大的人类潜能都由于消费主义意识形态而遭到压抑。过去，给哲学的任务是限制机器所产生的狂妄，并以真理之名从反馈回路中解放人类主体。如今，技术哲学家却急于将这些反馈回路确认为文明的必经之路。人类现在是想要把所有问题都当技术问题来解决，从而承认了技术的中心性。速度和效率统治着整个社会，而它们曾经统治的只是工程学科。教育者在寥寥几年内实现范式转变的欲求，就贬低了对技术问题的任何根本性反思，而我们就落入了又一个反馈回路。结果就是，大学继续为科技工业生产人才，而这种人才又继续开发更有效的算法，来利用用户隐私和操纵他们的消费方式。可对于大学来说，处理这些问题比起琢磨去禁止 ChatGPT 应该是更为迫切的。
人类逃得出当代文化中如此根深蒂固的自我实现的预言这一正反馈回路吗？1971 年，格雷戈里·贝特森描述了一个困住酗酒者的反馈回路：一杯啤酒喝不死我；好吧，我已经开喝了，第二杯应该没问题；嗯，喝了两杯了，为什么不喝三杯呢？酗酒者如果幸运的话，可能会通过“触底”，例如幸存于致命疾病或车祸，来摆脱这个正反馈回路。[14] 然后，这些幸运的酗酒者会发展出与神圣的一种亲密。人类，这些现代的酗酒者，能以其集体智慧和创造力，来逃脱这个触底的命运吗？换句话说，人能来个大转弯，将创造力推向另一个方向吗？
这样一个机会不正是今天的智能机器所提供的吗？机器作为代具而不是死记硬背的追随模式者，可以将人类从重复中解放出来，帮我们实现人的潜能。如何获得这一转形能力才是我们本质上如今关心的东西，而不是争论机器能不能思考，那只是存在论危机和超验错觉的一种表达。也许一些涉及人机关系的新前提可以解放我们的想象。这里有 3 个前提（当然还可以有更多的被加进来）：
1. 与其悬搁人工智能的发展，不如悬搁对机器的拟人化的刻板印象化，并发展有关代具的适当文化。技术应被用来实现用户的潜能（在这里，我们就要与阿马蒂亚·森的自能 [capability] 理论展开对话），而不是成为他们的竞争者，或者将他们削简为一些消费模式。
2. 与其神秘化机器和人性，不如理解我们当前的技术现实及其与各种人类现实之间的关系，以至于这一技术现实可以与人类现实整合起来，以维持和繁衍出生物多样性、理知多样性（noodiversity）和技术多样性。[15]
3. 与其重复天启式的历史观（这一观点，在科杰夫 [Kojève] 和福山的历史的终结中以最世俗的形式表达了出来），不如将理性从其走向天启式终结的命运之路上解放出来。这一解放将开启一个场域，使我们能够试验与机器和其他非人一起生活的伦理方式。
没有发明是毫无限制和问题地到来的。尽管这些约束更是概念上的，而不是技术上的，但忽视概念的东西，恰恰是使得邪恶滋生的东西，而这就是形式超过了基底这种反常所带来的结果。[16] 只有当我们摆脱科技工业的文化偏见以及自我实现的预言时，我们才能对未来的可能有更大的洞察，而这不能仅仅是基于数据分析和模式提取。很有可能，在我们达到这一预言前，我们这个时代的工业预言家就已经意识到了，机器能比他们更好地预测未来。
[1] "对历史的这一西式构想，内含着朝向未来目的的一个不可逆的方向，而且它不仅仅是西式的。它本质上是一个希伯来和基督教的假设，说历史是朝向终极目标的，并且被一种至高洞察力和意志的那一神意所统治，而用黑格尔的话说，就是被作为‘绝对强大的本质’的那一精神或理性所统治。”卡尔勒·洛文特（Karl Löwith，又译卡尔·洛维特），《历史中的意义》（Meaning in History）（芝加哥大学出版社，1949 年），第 54 页。
[2] 卡尔·施米特，《政治的神学：主权学说四论》，乔治·施瓦布（George Schwab）译（芝加哥大学出版社，2005 年），第 36 页。
[3] 汉斯·布鲁门贝格（Hans Blumenberg），《现代的合法性》（The Legitimacy of the Modern Age）第一部分第三章“被暴露为命运的进步”（Progress Exposed as Fate），罗伯特·M·沃勒斯（Robert M. Wallace）译（麻省理工学院出版社，1985 年）。
[4] 约翰·R·瑟尔，《心灵、大脑和程序》（Minds, Brains, and Programs），《行为与脑科学》（Behavioral and Brain Sciences）3，1980 年第 3 期，页 418。
[5] 诺姆·乔姆斯基、伊恩·罗伯茨和杰弗里·瓦图穆尔（Jeffrey Watumull），《ChatGPT 的虚假承诺》（The False Promise of ChatGPT），《纽约时报》2023 年 3 月 8 日。
[6] 许煜，《递归与偶然》（洛曼和利透菲尔德出版公司 [Rowman and Littlefield]，2019 年）苏子滢译，华东师范大学出版社，2020 年。
[7] 见许煜，《自动化之后的哲学》（Philosophy after Automation），《今日哲学》（Philosophy Today）第 65 期，2021 年第 2 期。
[8] 吉勒拜尔·西蒙东（Gilbert Simondon），《论技术物件的实存模式》（On the Mode of Existence of Technical Objects，1958 年）第二部分第二章《儿童所学习的技术与成人所思考的技术》（Technics Learned by the Child and Technics Thought by the Adult），瑟西尔·马拉斯皮纳和约翰·洛格洛夫（Cecile Malaspina and John Rogrove）译（单义出版公司 [Univocal]，2017）。
[9] “许多人辩称，运算系统的语义是内在地衍生出来或者有属性的（attributed），也就是书籍和符号具有的那类语义，意思就是说，运算系统的语义是由外部观察者或使用者来归因的（ascribed），从而就是与人类思想和语言的语义相对的，而后者则被假定为原创或本真的。我对这一区分的最终效用（和清晰度）以及它对计算机的适用性是有怀疑的。”见布莱恩·坎特维尔·史密斯（Brian Cantwell Smith），《论物件的起源》（麻省理工学院出版社，1996 年），第 10 页。关于史密斯著作的扩展讨论，见许煜，《论数码物的存在》（On the Existence of Digital Objects，明尼苏达大学出版社，2016 年）第二章《数码物与存有论》（Digital Objects and Ontologies），李婉楠译，上海人民出版社，2019 年。
[10] 郭特哈特・棍泰尔（Gotthard Günther），《机器的意识：控制论的形而上学》（Das Bewußtsein der Maschinen – Eine Metaphysik der Kybernetik），巴登巴登：阿吉斯出版社（Baden-Baden: Agis-Verlag），1957年）；吉勒拜尔·西蒙东，《论哲学》（Sur la philosophie，法国大学出版社 [PUF]，2016 年），第 180 页。
[11] 引自 Tiernan Ray，《Meta 首席 AI 科学家称 ChatGPT“不是特别创新”和“毫无革命性”》（ChatGPT Is ‘Not Particularly Innovative,’ and ‘Nothing Revolutionary,’ Says Meta’s Chief AI Scientist），ZDNET 网，2023 年 1 月 23 日。https://www.zdnet.com/article/chatgpt-is-not-particularly-innovative-and-nothing-revolutionary-says-metas-chief-ai-scientist/
[12] 布莱恩·坎特威尔·史密斯，《人工智能的承诺：算数与判断》（The Promise of Artificial Intelligence: Reckoning and Judgment，麻省理工学院出版社，2019 年）。我在《艺术与宇宙技术》（《电子流量期刊》 [e-flux] 和明尼苏达大学出版社，2021 年）第 3 章中更多地讨论了史密斯的论点。
[13] 阿娜·阿伦特（Hannah Arendt），《人的条件》（The Human Condition，第二版，芝加哥大学出版社，1998 年，第 127 页），林宏濤译，商周出版，2021 年。
[14] 格雷戈里·贝特森（Gregory Bateson），《22.“自我”的控制论：嗜酒理论》，载于《心灵生态学导论》（杰森·阿伦森出版公司 [Jason Aronson]，1987 年），殷晓蓉译，北京师范大学出版社，2023 年。
[15] 见许煜，《一种行星思维》（For a Planetary Thinking），《电子流量期刊》第 114 期（2020 年 12 月）https://www.e-flux.com/journal/114/366703/for-a-planetary-thinking/
[16] 见谢林《论人类自由的本质及相关对象》（Philosophical Investigations into the Essence of Human Freedom，杰夫·拉夫、约翰内斯·施密德 [Jeff Love and Johannes Schmid] 译，纽约州立大学出版社，2006 年）讨论的恶的问题，先刚译，北京大学出版社，2019 年。
【声明】以上内容只代表原作者个人观点，不代表artda.cn艺术档案网的立场和价值判断。
