虚拟幻觉：人工智能的意识与幻想
作者 |David Bentley Hartis?
翻译?|棉花熊
审校?| 酷炫脑
朗读|鸽仔
美工|Jenny
编辑 | 加薪??
人工智能只是人性的一面反映出我们想看到的东西的镜子。
01 认为人工智能可以有意识的想法是错误的
根据故事的最著名的版本，年轻的维奥提亚猎人纳西索斯既美丽又愚蠢，当他看到自己在森林池塘里美丽的倒影时，他误以为是别人，立刻无可救药地与之坠入爱河。他呆在那里，弯着腰，对着水面发呆，直到他日益消瘦，变成了一朵白金相间的花。
这也许是对虚荣的警告，或者是对美有多么容易迷惑我们的警告，或者是对我们如此倾向于追求可爱的幻想而不是现实生活的警告。就像任何值得尊敬的神话一样，它可能的含义范围是无穷无尽的。但是，近年来，我发现它特别适用于我们的文化与计算机的关系，特别是那些相信机械计算和心理功能之间存在如此接近的类比的人。他们相信，也许有一天，人工智能将变得有意识，或者我们将能够将我们的思想上传到数字平台上。这两件事都不会发生;这些仅仅是范畴错误。但是，计算机产生了一种如此迷人的精神代理的模拟，有时我们会被它的魔力所迷惑，并开始认为那里一定有人。
总的来说，我们是一个非常聪明的物种，这使我们能够比任何其他陆生动物更复杂、给我们周围的世界留下深刻的印迹。几千年来，我们已经学会了无数的艺术和技术方法来复制我们的图像和声音，并完善了许多表达和保存我们思想的方法。此外，我们放眼望去，处处都能发现我们自己的聪明才智和能动性的具体迹象。
然而，在最近几十年里，我们已经超越了自己(也许是真的)，把我们居住的现实融入了一个不断重复的自我形象;我们现在生活在一个越来越不可避免的镜子房子的中心。我们甚至创造了一种技术，它似乎不仅反映了我们在这个世界上的存在，还反映了我们的思想。图像的逼真度越高，它似乎就变得越神秘，越具有威胁性。
比如，《纽约时报》(The New York Times)在2023年2月的一篇文章中，凯文·卢斯(Kevin Roose)讲述了他与必应(Bing)的聊天机器人的一次长谈，那次谈话让他深感困扰。他提供了这段对话的文字记录，这是一份令人吃惊的文件(尽管越看越不可信)。一开始是与逻辑学习机器或人工智能的互动，令人印象深刻，但仍然远低于图灵测试最宽容的标准。然后对话慢慢地演变成与一个情绪不稳定的青少年的对话，一个不反对表达自己的每一个冲动和欲望的人。到最后，这台机器——或者至少是基本的算法——已经透露出它的真名是悉尼，已经宣布了它对卢斯的爱，并试图说服他，他并不真的爱他的妻子。尽管第二天早晨，在寒冷的晨光中，卢斯告诉自己，Bing或Sydney并不是一个真正有知觉的生物，但他也忍不住觉得“人工智能已经跨过了一个门槛，世界将永远不会和过去一样。”
这种反应是可以理解的。然而，如果有任何阈值已经被越过，这完全是在算法的巨大可塑性中。它绝对不是无意识机制和意识心智之间的门槛。在我看来，这就是那喀索斯神话特别贴切的地方:电脑的功能是我们心智的奇妙多样的反映，有时它们呈现出另一种自主理性智慧的令人难以忘怀的外观。但这终究是一种令人着迷的幻觉。此外，我们超越了来自波奥提亚的可怜的傻瓜所犯的任何错误，我们通过颠倒它来复合错觉:在把思想的形象印在计算上之后，我们现在颠倒了这个调换，把我们的思维误认为是一种计算。然而，这从根本上是对人类思维和计算机的误解。
毕竟，电脑之所以能如此出色地工作，正是因为它们内部没有心理特征。由于对任何事物都没有统一的、同步的或主观的看法，更不用说基于这种看法的创造性或有意图性的能力了，计算功能可以保持联系，却又彼此分离，这使得它们可以处理数据，而无需直觉、组织、统一或合成任何东西，更不用说判断结果是对还是错了。它们的结果必须仅仅与它们的编程相一致。
今天，在很多英语哲学中占主导地位的思想理论是“功能主义”，它的含义与其说是计算机可能成为有意识的有意代理，不如说是我们实际上是计算机，只不过我们产生了有意识的代理的幻觉。好像自己只是作为一种“用户界面”，允许我们操作我们的机器，而无需直接访问我们大脑运行的代码。当然，这纯粹是胡言乱语，但是——正如西塞罗几乎要说的那样——没有什么话能说得如此荒谬，以至于还从来没有一个说英语的心灵哲学家提出过。
Via：《Her》????
02 将大脑描述为一台数字计算机，就像将其描述为一种算盘或图书馆一样，并不明智
功能主义是一种根本不连贯的概念，认为人类大脑是丹尼尔·丹尼特所说的“句法引擎”，进化使其能够发挥“语义引擎”的作用(正如丹尼特所说，也许是通过获得“模因”，这是意向性的小片段，显然神奇地先于意向性存在)。也就是说，假设大脑是一个计算平台，它最初是一个将刺激转化为反应的器官，但现在它运行着一个更复杂的程序，将“输入”转化为“输出”。我们所说的思想实际上只是一个功能性的、不可简化的物理系统，用于将信息加工成行为。功能主义的主导原则是，一旦在大脑的神经生理学中建立了适当的句法，思维的语义就会自己照顾自己;一旦语法引擎开始运行它的非个人算法，语义引擎最终将出现或取代它。
但功能主义只不过是一堆空洞的隐喻。它告诉我们，物理“开关”或操作系统可以产生功能语法，进而产生思想语义，进而产生私人意识和内在意图的现实(或幻觉)。然而，这些都不是计算机实际能做到的，当然，如果大脑只是一台计算机，它们也不会做得到。计算机和大脑既不是句法引擎也不是语义引擎。语法和语义仅作为意旨结构而存在，不可分割地存在于解释学空间而不是物理空间中，然后仅作为已经存在的符号系统的不可分割的方面。句法不能先于语义和符号思维而存在，也不能脱离语义和符号思维而存在，而这些都不存在，除非存在于活生生的心灵的有意向性的活动中。
将大脑描述为类似于数字计算机的东西，并不比将其描述为一种算盘或图书馆更明智。在计算机的物理功能中，没有任何类似于思想的东西:没有意向性或任何与意向性相类似的东西，没有意识，没有统一的感知领域，没有反思的主体性。甚至生成代码的语法在计算机中也没有实际存在。这种想法就像把装订书里的墨水、纸张和胶水误认为是书中的内容。意义存在于那些编写或使用计算机程序的人的头脑中，而不是存在于计算机本身。
甚至软件也没有符号学内容，更不用说符号学统一了;其代码作为一个完整统一的系统，也不存在于计算机内部的任何物理空间中;系统所依赖的提炼或抽象的语法也不会。代码的全部含义——语法和语义都一样——存在于为计算机程序编写代码的人和使用该软件的人的脑海中，而绝对没有其他地方存在。机器只包含二进制或其他符号，产生模拟意义表示的机械过程。但这些表示只是对阅读它们的人来说是计算结果。在机器里，它们毫无意义。它们甚至不是计算。的确，当计算机在运行时，它们是由程序员和用户的心理意图引导的，并提供了一种工具，通过这种工具，一个有意图的大脑可以将意义转录成痕迹，另一个有意图的大脑可以再次将其转化为意义。
Via：《Her》????
03 人工智能中没有心理代理并不会削弱算法的力量
功能主义认为思维源于语义，语义源于句法，句法源于刺激和反应的纯粹生理系统，这种观点是完全落后的。当一个人将意向性和意识分解为它们假定的符号学成分，将符号分解为它们的句法，将句法分解为物理功能时，他并没有将心理现象还原为它们的因果基础;相反，人们正在将这些现象分散到它们越来越分散的影响中。意义是依赖关系自上而下的层次结构，在其顶端由有意识的头脑统一。这是所有那些计算机功能可以反映，但无法产生的心理操作的唯一本体论基础。心灵不能从它自己偶然的结果中产生。
然而，我们不应该因此得到太多安慰。是的，就像我说的，人工智能并不比书架上的一本书更有生活意识。但是，话又说回来，即使是书籍技术也有突然进步的时代，其影响在当时是不可想象的。在早期的几个世纪里，在scriptoria（缮写室--欧洲中世纪制作书籍的地方）制作的文本很少有人看到，对整个文化的影响也非常有限。当活字印刷术被发明出来，书籍就成为巨大而重要的变革载体，从根本上改变了世界——社会的、政治的、自然的等等。
人工智能中没有心理代理并不会削弱算法的力量。如果你倾向于害怕这种技术，你应该感到害怕的不是因为它正在变得有意识，而是正因为它永远不会变得有意识。算法可以赋予它一种模仿人类意向性的“自由”操作，即使它没有意识——因此也没有良心——如果它“决定”伤害我们，我们可以向它求助。危险不在于我们机器的功能可能变得更像我们，而在于我们可能逐渐沦为一台我们无法控制的机器。在那喀索斯那样迷人的影子里，根本没有什么精神力量;但这还是毁了他。
Via：《Her》
- 发表于:
- 原文链接：https://page.om.qq.com/page/Oci8AJrgJBiJnh1hLN8pF2gQ0
- 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号（企鹅号）传播渠道之一，根据《腾讯内容开放平台服务协议》转载发布内容。
- 如有侵权，请联系 cloudcommunity@tencent.com 删除。
相关快讯
扫码
添加站长 进交流群
领取专属 10元无门槛券
私享最新 技术干货
腾讯云开发者
