人工智能，机器学习，超级智慧单一体……这些事，150年前竟然就有人预言过
人工智能，毫无疑问是2017年最为如日中天的热门话题。在中关村、望京这样的互联网产业园区里，说是大街小巷无人不在谈论人工智能，也不为过。而人工智能令人瞠目结舌的飞速发展，也不得不引发人们对于人与技术、技术与世界等等关系即将面临的巨大变革的深深担忧与思考。
2017年，谷歌率先宣布启动AutoML，即自动机器学习项目。换句话说，未来可能不再需要程序员去给一个个机器撰写代码，机器自己就能制造机器，能够实现机器的“自行繁殖”。这或许是比“人工智能”更进一步的“机工智能”。然而，在世界科幻史上，早在1872年，一位名叫萨缪尔·巴特勒的英国人，就曾经设想过这一情形。他当时的思考与设想，在今天看来不仅远未过时，反有未卜先知之神。今天，就让我们通过以下文章，了解这位科幻作家是如何“料事如神”的。
当机器学会生殖
——重读《埃里汪奇游记》
岳林
Samuel Butler（1835-1902）
一
1859年，达尔文出版《物种起源》那年，英国小伙萨缪尔·巴特勒（Samuel Butler, 1835-1902）登上远洋帆船背井离乡，跑到新西兰当起了绵羊育种员。而达尔文这部巨著，是他用来消磨时光的业余读物。巴特勒出身书香门第，又曾负笈剑桥，对繁殖绵羊之外的一些事务也颇感兴趣。四年后他写了篇危言耸听的文章，预言机器也能进化，并将超越和统治人类，因此建议人们趁早“砸烂所有机器”。[1]1872年，巴特勒出版小说《埃里汪奇游记》，进一步勾勒了他的未来机器图景，触及许多今天仍被热议的人工智能话题。在第24章，借书中人物之口，这位绵羊生殖专家谈到了机器生殖：
“如果一台机器能够用系统生出另一台来，我们就可以说它有生殖系统。如果生殖系统不是用来生殖的系统，它是什么呢？有几台机器不是由别的机器生殖出来的呢？可是，使它们这么做的正是人。对；可是难道不正是昆虫使很多植物具有生殖能力的吗？如果植物不是由于一类与它们完全不同的力量而受精的话，难道所有的植物不会消失吗？有谁讲过红三叶草没有生殖系统，所以野蜂（仅仅是野蜂）必须帮助它才能生殖？谁也没讲过。野蜂是三叶草生殖系统的一部分。我们每一个人都是由很小的微生物发展而来的，它们的存在与我们的存在截然不同，它们按它们的方式行动且不管我们会如何想。这些小东西是我们生殖系统的部分；那么我们为什么就不是机器的生殖系统的部分呢？”[2]
人类通过机器制造机器，反倒被巴特勒说成是机器借助人力来生殖机器。人类原本是机器的创造者和主宰者，是机器存在的动力和原因，现在却被巴特勒降了级，成了机器繁殖的工具，如同巴特勒自己在绵羊繁殖过程中所扮演的角色。是“生殖系统”（reproductive system）决定生殖，而非生殖器官（reproductive organ）。生殖器官不是生殖的充分条件，红三叶草和人类单凭“自己”都无法生殖。生殖器官可能也不是生殖的必要条件，机器没有它也能生殖。例如一台专职制造机器的机器，很难说它的哪些部分承担生殖功能，而哪些部分又不是；除非，我们把这台机器整个儿都看作一个生殖器官。但巴特勒是在一个非常含混的意义上使用生殖系统这个概念。如果所有生殖所需的因素都要被容纳进来，那么人体的各个器官都可以说成是为生殖器官服务的；或者按照这个逻辑继续推导，人类社会、自然界乃至全宇宙也都可以是一个生殖系统。
巴特勒不是机器工程师，也不是机器理论家。他提供给我们的，只是一种关于机器生殖的文学想象。但相较于他的年代，这种想象太超前了，可能就连他的同辈人儒勒·凡尔纳也不能企及。20世纪以来，巴特勒这本小说虽不被主流文学市场看好，但还是频频成为机器研究者回溯和纪念的对象。无论是控制论之父诺伯特·维纳，还是计算机奠基人艾伦·图灵，都在他们各自的代表作中提及或引用到《埃里汪奇游记》。[3]机器理论家刘易斯·芒福德说巴特勒小说写得“颠三倒四”（topsy-turvy），对机器的洞察力和想象力却非同凡响，而且是最早提出机器生殖机器（a machine’s reproducing another machine）可能性的人。[4]
Lewis Munford（1895-1990）
任何机器，例如钟表、差分级、蒸汽机、计算机或者人工智能，其共性都是自动化（automation）。但直至今天，所有机器的自动化都是相对的，不可能彻底摆脱人类力量的介入。机器需要人类设计和制造，需要人类提供能源和原材料，需要人类上发条、添机油和按开关，需要人类维护、修理和改造。所谓自动机（automata），目前也只能在特定流程中“自动”，而这个流程依然来自于人类的设计和启动。在这个意义上，会下围棋的阿尔法狗和古旧的机械钟没有本质区别。人工智能已经学会下棋、聊天、写诗和绘画，但还是需要人类为它编写算法和代码。阿尔法狗与柯洁的对弈，严格说来，是一个上百号人的工程师团队与一位旗手的较量。
如果人工智能要实现更大程度的自动化，或者实现质的飞跃，超越库兹韦尔所谓的“奇点”，那么它就必须学会自己编程，学会自己阅读、理解、复制和创造代码。用巴特勒的话说，就是人工智能必须学会生殖人工智能。
二
程序员也许是人类为自己保留的最后一个工作。更准确地说，程序员也许是人工智能允许人类从事的最后一个工作。[5]所以人工智能工程师承担着一个浪漫使命，那就是让自己的“孩子”最终取代自己。当然，被取代既可能意味着被淘汰，也可能意味着被解放。
已经有许多人工智能工程师在从事这样的努力了。2017年，谷歌宣布它的一个人工智能项目AutoML（Automatic Machine Learning），已实现让一个机器学习软件去自动创造另一个机器学习软件。据说这种软件自己开发出来的软件，能够在一些事项上胜过人类工程师的作品。根据谷歌自己的解释，AutoML的工作原理，是由一个控制器神经网络（a controller neural net）生成一个“儿童”模型架构（a “child” model architecture），对这位“儿童”进行训练和评估，然后对这位“儿童”加以重构，如此循环反复成千上万轮次，控制器便学会涉及效能最优的模型架构了。[6]
其实图灵早就指出，让机器学会思维，不可能一蹴而就，人类工程师必须先造出一个“儿童机器”（Child Machine），对其进行教育。当然儿童机器不会被送入人类学校，在那儿它肯定会受到歧视（想想阿童木的遭遇）。但教育机器与教育人类的理念大体一致，都需要通过奖惩手段引导学生获得知识或者能力。人类工程师为儿童机器设置逻辑规则，发出明确的命令，允许它在多种可能的执行步骤中进行选择。然后，人类工程师根据执行效果，对儿童机器给予奖惩，或者对其重新编程——在哲学意义上，这或许就是重新创造了。人类工程师身兼二职，即是父亲，又是教师。久而久之，儿童机器的执行策略会越来越接近人类工程师的意愿；也可以说，它的思维方式会越来越接近人类。如果儿童机器聪明到可以通过“图灵测试”，能够掩盖身份、欺骗人类，那么也就有资格“毕业成人”了。[7]因此，AutoML并没有从根本上改变图灵的设想，只不过置换了角色，让机器来充当“父亲机器”或者“教师机器”，对儿童机器实施教育。
AutoML目前还做不到完全取代人类。而且它给人类工程师至少带来两个福音：其一，它能减轻负担、提高效率。如今大部分人工智能工程师的工作，如图灵所述，都需要“亲自”对机器模型进行多次反复的调试。这种工作在相当大程度上是重复劳动，工程师自己也需要经历长期教育和大量训练才能胜任。很多时候，工程师都是根据非常个人化的经验和技巧来作出选择。因此，工程师其实也非常需要AutoML这样的助手。其二，它能降低人类工程师的职业门槛，反倒让更多人有机会参与到这个行业中来。谷歌CEO桑达尔·皮查伊就说，如今世界上其实只有几千位熟练的机器学习科学家，但AutoML可以让这个队伍迅速扩大。[8]
谷歌的人工智能研究员弗朗索瓦·乔列就认为AutoML将是对人类工程师的解放。它非但不会夺走人类的工作，反而会让人类上升到价值创造链（the value creation chain）的更高端，更加全面和深入地了解模型的数字生态。乔列还坚信，即便人工智学会了编程，甚至发展为能够从事所有人类工作的通用人工智能（Artificial General Intelligence），人类也不会被机器彻底取代。[9]换言之，人工智能的自我复制与生殖，未必就如巴特勒想象中的那般可怕。
三
但我们依然不能排除一种可能，即AutoML只不过处于机器生殖机器的初级阶段罢了。实际上，它也确实没有在真正意义上摆脱人类的干预。而巴特勒设想的具有生殖能力的机器，比AutoML要复杂、高级得多：
“在某些限度之内，机器能够生出任何种类的机器，无论这些机器与它们本身多么不同。每一类机器也许会有它们的特别机器生殖者，而且所有较高级的机器都把它们的存在归功于很多的父母，而不是仅仅两个。如果把任何复杂的机器看成是一件单独的东西，那我们就会被引入歧途；事实上，它是一座城市或者一个社会，这个社会的每一个成员都是真正地按照它的种类生殖出来的。我们把机器看成是一个整体，我们用名字称呼它并赋予它个性……每台蒸汽机的每部分是由它自己特别生殖者们生出来的，这些生殖者的作用就是生殖这些部分，而且只生这些部分，而把很多部分结合成为一个整体却是机械生殖系统另外的一个专长，目前这种专长很复杂，而且很难看到它的整体。” [10]
巴勒特其实是在不同层次上来考虑机器的生殖问题。从机器的内部维度看，它的组成部分或者零件可以非常便利进行拆分和重组。从机器之间的维度看，不同的机器也很容易组装在一起。因此任何一个单个的机器，不仅内部可以包含若干其他机器作为零件，它自己也为作为零件成为其他机器的组成部分。因此机器之间的生殖关系，即由哪些机器制造另外一些机器，根本不可能像有机物一样，根据遗传学来排列出“家族谱系”。所以巴特勒才建议，不能把机器看作是“一件单独的东西”，而应该把所有的机器都看做一个整体，一个彼此联系不可分割的“社会”。
把全世界的有形机器都想象成一个整体，甚至是具有独立意志的主体，即便在今天也需要勇气。但是，如果我们的对象是虚拟机器，即人工智能，那么这种想象就容易得多了。因为人工智能归根结底就是由0和1构成的代码，在互联网环境下极易传播，极易复制。人工智能之间的生殖关系，其实也就是代码之间的生成与被生成的关系。如果AutoML这样具备自我复制与生殖能力的人工智能到达了某个临界点，那么它也会像巴特勒所描绘的图景一样，把全世界的人工智能都整合为一体。好莱坞已经在《终结者》或者《超验骇客》这样的科幻电影中设想过这样的“超级人工智能”。而尼克·博斯特洛姆称之为智慧单一体（wise-singleton）。[11]在这个意义上，不同人工智能之间的生殖关系就不存在了，因为此时只剩下唯一一个人工智能；而这个人工智能的生殖，归根结底就是自我进化。而如果所有虚拟机器在联结为一个整体之后，接下来开始支配所有的有形机器，并将其整合到一个更为全面的整体中去，全世界任何形式的机器都结为一体，那么巴特勒设想机器图景也就大功告成了。
此时，我们将不得不思考需要思考人类与机器的终极关系，或者说，人类的的最终命运。但正如我们已经知道的，巴特勒看到的未来，着实有些黑暗：
“我们对待家畜是很仁慈的。我们把我们认为对它们来说是最好的任何东西给它们。毫无疑问我们吃肉增加了它们的幸福而不是减少了它们的幸福。我们也完全有理由希望机器能够很友好地利用我们，因为机器的存在，很大程度上讲，取决于我们的存在；它们会以严酷的手段统治我们，可它们不会吃掉我们；它们不仅会要求我们在生养它们的幼子方面给予帮助，而且还要我们做它们的仆人，为它们采集食物饲养它们；当它们生了病时，还要帮它们恢复健康；此外它们还要求我们埋葬它们的死者，或者它们之中死去了的成员综合加工成新形式的机械实体。” [12]
可是，这哪里像是在描述未来呢？
2018年1月5日
END
作者系上海大学法学院讲师，北京大学法学博士
感谢作者授权活字文化！
注释
[1]http://nzetc.victoria.ac.nz/tm/scholarly/tei-ButFir-t1-g1-t1-g1-t4-body.html，最后访问于2018年1月1日。
[2] 塞·巴特勒：《埃里汪奇游记》，彭世勇、龚绍忍译，湖南人民出版社1985年版，第170页。
[3] N. 维纳：《控制论——或关于在动物和机器中控制和通信的科学》（第二版），郝季仁译，科学出版社2009年版，第21页；Turing, Alan M. "Computing machinery and intelligence." Mind 59.236 (1950): 433-460.
[4] 刘易斯·芒福德：《机器的神话（下）：权力五边形》，宋俊岭译，中国建筑工业出版社2015年版，第232页。
[5] 参看佩德罗·多明戈斯：《终极算法——机器学习和人工智能如何重塑世界》，黄芳萍译，中信出版社2017年版，第355-356页。
[6] See Le, Quoc & Zoph, Barret. "Using Machine Learning to Explore Neural Network Architecture."
https://research.googleblog.com/2017/05/using-machine-learning-to-explore.html, 最后访问于2018年1月5日。
[7] Turing, Alan M. "Computing machinery and intelligence." Mind 59.236 (1950): 433-460.
[8] Simonite, Tom. "Google's Learning Software Learns to Write Learning Software." https://www.wired.com/story/googles-learning-software-learns-to-write-learning-software/,最后访问于2018年1月5日。
[9] Chollet, Francois. "The future of deep learning." https://blog.keras.io/the-future-of-deep-learning.html, 最后访问于2018年1月5日。
[10] 塞·巴特勒：《埃里汪奇游记》，彭世勇、龚绍忍译，湖南人民出版社1985年版，第171-172页。
[11] 尼克?波斯特洛姆：《超级智能——路线图、危险性和应对策略》，张体伟、张玉青译，中信出版社2015年版，第6章。
[12] 塞·巴特勒：《埃里汪奇游记》，彭世勇、龚绍忍译，湖南人民出版社1985年版，第180-181页。
封面图：英剧《菲利普·迪克的电子梦》（Philip K. Dick's Electric Dreams）剧照（详情可见今日二条）
活字文化新年献词
活字年度盘点
回顾2017
大师电影
红狐丛书
活字作者
北岛 | 李陀 | 徐冰 | 汪晖 | 李零 | 张承志 | 韩少功 | 叶嘉莹 | 黄永玉 | 李泽厚 | 林西莉 | 王安忆 | 刘雪枫 | 戴锦华 | 冯象 | 刘禾 | 欧阳江河 | 西川 | 张枣 | 翟永明 | 许礼平 | 夏志清 | 李欧梵 ……
活字文化
成就有生命力的思想
- 发表于:
- 原文链接：http://kuaibao.qq.com/s/20180130A0CHKT00?refer=cp_1026
- 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号（企鹅号）传播渠道之一，根据《腾讯内容开放平台服务协议》转载发布内容。
- 如有侵权，请联系 cloudcommunity@tencent.com 删除。
相关快讯
扫码
添加站长 进交流群
领取专属 10元无门槛券
私享最新 技术干货
腾讯云开发者
