• 精选
  • 会员

23 身陷机器人控制室,初长成的大脑不是一块“白板”

2021年9月26日  来源:直觉泵和其他思考工具 作者:[美] 丹尼尔·丹尼特 提供人:zhaotou97......

根据定义来说,机器人没有神奇组织,所以它们可以为思想实验提供一个纯净无干扰的平台,我们可以举出这样的例子。

一天清晨,你醒来后突然发现自己身处在一个没有窗户、非常诡异的房间里,躺在一张从没见过的床上。屋内有两面装满了不同颜色的微型闪光信号灯的墙,另外两面墙上则布满了成千上万的按钮。信号灯和按钮上都写着数字,但没有标记出哪个与哪个相对应。在床边的桌子上,有人给你留下了一张字条:

早上好啊!我们麻醉了你,在你睡着的时候把你绑架到了这里。冰箱里有食物,角落处是盥洗的地方,在这里,你身体的各种需要都能得到满足。你现在是被囚禁在一个巨型机器人的控制室里,每盏亮起的灯都说明了大量有关机器人状态的信息,这些信息是由高度复杂的神经网络分析器根据机器人的高清视频眼、麦克风耳、触摸传感器和嗅觉传感器摄入的原始资料分析得出的。按钮控制着机器人的行动,已经调试好,随时可以使用。

机器人所处的环境非常险恶,危机重重,但也存在机遇。你掌握着它的命运,与此同时,如何控制这个机器人在世界中生存也决定着你的未来。机器人一旦毁灭,你房间里的电力系统也会全线瓦解,电冰箱里不再会有食物,你将面临死亡!祝你好运!

这真让人恶心!你提心吊胆地开始按动按钮,每按一下都要看看有什么事情发生。你按下了编号为4328的黄色按钮,随即,那盏编号为496的蓝色信号灯渐渐熄灭了。这是在让机器人挠痒痒吗?或者是让它闭上眼睛?又或者是让机器人“吃”了些东西,补充它新陈代谢的需要?你第二次按下4328按钮,分散排布的几盏灯亮了。世界会因此发生什么呢?这到底意味着什么?你焦躁不安,你知道这些信号灯蕴含的信息数量庞大,但却不知道哪盏灯与哪条信息对应,也不知道每个按钮都控制着机器人的哪些动作。

要是信号灯上和按钮上都有标注该多好!要是标注用的语言你还都能看懂,那么你就可能摆脱这些困扰。又或者,如果这间屋子有扇窗户,打开它能看到外面,那么在按下按钮后,你至少能看到外部世界相应的变化。这个机器人有胳膊和腿吗?假如有了这扇窗户,你还能试着将外面世界的活动与墙上闪烁的信号灯相互联系起来。而没有这扇窗户,尽管所有的信息也都摆在那里,但它们却不能构成任何解释。你可以让机器人做成百上千个动作,但却无法搞清楚这些动作对世界造成了什么影响。

现在,你进退维谷。因为,不管你有多聪明、多有想象力,即便所有信息资料都任你取用,你也很难说出发生在墙面上的这些到底表示着什么。但是如果你无法解决这个问题,那就很矛盾了,因为现在的困境不也正是大脑所面临的困境吗?大脑也是被困在了一个没有窗户的房间里,也就是你的头盖骨,成千上万的输入线路在忙碌着为它传入外部世界和你身体状态的相关信息,成千上万的输出线路在淡定自若地操控着肌肉的收缩和舒张。大脑当然不会在头盖骨上凿出个窗户,朝外看看周围发生了什么事情。凿开这么一扇窗户到底能让你的大脑得到什么好处呢?它跟你不一样,它没有自己的双眼,只能收容你眼睛接受到的信号或处理过的信息;至于这世上各种事物的样子,它也没有什么先天的记忆。

有些人并不觉得大脑的工作原理有多难,因为在看一只鸭子的时候,我们视觉皮层表面的激活模式,也就等同于那些闪着光的信号灯,就会形成一个鸭子形的图案。(36)好吧,但如果你的大脑和你一样,通过学习认识到了鸭子的模样,那请问,它到底是怎样学习到一只鸭子的模样的呢?

如果信号需要“解码”,你的大脑该怎样才能认识到事物呢?解码后的那些信号都变成了些什么?土耳其语?如果你不懂这门语言的话,土耳其语标签对你来说就毫无意义。所以,要从输入资料那里得到些有价值的信息,我们的大脑是不是得先懂得一门语言?之前有过这样一种观点,大脑无需后天学习,它自身就带有一种内部语言:心理语言(Mentalese),也就是思想语言(Fodor, 1975, 2008)。看起来,这个撩人的观点似乎能带领我们往正确的道路上再迈进一步,但是,除非能了解到它最初的成形过程及运作的诸多细节,否则“存在一种内部语言”这个观点只是给问题换了一个名字,并没有将问题解决掉。

我们知道,大脑总是在以某种方式解决问题,它可以果断地为输入信息造成的那些窘况或者机会找出适当的对策并且输出。我们也知道,大脑解决问题的方式绝对不是使用了一门语言,比如英语或者土耳其语,因为这种解决方式并不是像我们小时候学习母语那样学到的。或许大脑内部语言更像是书面语,由记忆在大脑存档中进行书写?又或者,它更像是纯粹的口语?它会有成千上万甚至上亿个“词语”吗?词语的排列顺序和意义有关吗?它有语法吗?大脑的某一区域能够准确地理解其他区域中的信息吗?

如果思想语言指的是封闭控制室里的一个小人儿所明白的那种语言,就像在机器人体内的操纵室里,你能读到信号灯和按钮上的标签一样,那么实际上,它是把“如何在由毫无理解力的部分组成的机制的基础上完成理解和学习过程”这一问题延宕了,根本没有给出回答。而如果将小人儿从思想语言的假设中取消掉,那么不管整个这套系统是什么,都跟语言没有多大的相似度了。而且到目前为止,还没有人对“思想语言是如何运作、如何在发育过程中产生的”这些问题给出过详细的说明,所以,也许我们不该再那样自欺欺人,不该再那样自我安慰地说,我们在这个方向上正在取得进展。其实我们一直都在原地呢!

这个直觉泵是想说明,困在控制室里的大脑和那时受困的你所面临的境况并不全然相同。对于大脑来说,输入的信息是与输出相连接的,大脑本身就拥有一些能力,知道要去认识什么,知道怎样才能使各种连接变得更加合理。这项任务是提前完成了的。这也以另外一种形式证实了那个广为人知的说法,初长成的大脑不是“白板”一块(Pinker, 2002),它已然经历了自然选择的雕琢,自身体现着各式的偏好、预设和衔联,而且,有些合适的连接是提前内置的,无需标注。

在理解产生之前,先要有一些不需要理解的能力出现,这是自然法则。细菌浑身都是超凡的能力,这些能力让它们过得很好,只是细菌无须去理解这些能力,它们是愚蠢的。树也有趋利避害的能力,但它们亦不必知道其中的缘由。自然选择的车轮滚滚向前,一路上造就出了无数精巧能干的事物,这个过程也不包含任何理解。

我们成年人类具有的那种理解能力是进化史近期才出现的一种景象,它是由一些结构组合生成,而这些结构所具有的能力应该也是由鱼或者蠕虫所有的那种类似理解力发展而来的。大部分时间里,这些结构发挥着应有的作用,但它们并不需要知道自己为什么会那样发挥作用。

而认为有一名发育健全的理解者被关在控制室里,面对着墙面上各种各样的输入和输出信息,这种观点注定是行不通的。为什么?因为如果这种理解力无法解释,那么我们就得建立一个神奇组织、一种神秘力量作为理论的基础。但是,如果这种理解力的运行过程是可以清楚解释的,是由一些不具备理解力的过程、活动和能力构成的,那么你又回到了解释理解力如何从其他能力中发展而来的道路上。既然如此,又何必绕这个圈子呢?

如涉及版权,请著作权人与本网站联系,删除或支付费用事宜。

0000