第二单元: 心灵与自我
Descartes: second meditation
I am, therefore I exist.
阅读文本前的论证总结
即使我无法证明自己知识的正确性,至少我能证明自己的存在性
当我说到/想到“我存在”这个命题时,它必然是真的
如果质疑一切,那么质疑一切本身就应该可以被质疑,一个自指悖论,于是质疑一切这个命题一定是有漏洞的,其反面存在不可质疑之物(注意,此处我没有说不可质疑之物一定是存在的,正确的,但至少有我们思维不可质疑的东西),那么抛开那些最容易质疑的外部之物,Descartes就很容易考虑考虑到自己的身心,那么在思考着的“我”就一定是存在的,即使我是被欺骗的,那么也需要一个被欺骗的东西,即使我是怀疑的,也需要一个可以进行怀疑思考的东西,问题是,这样的“我”是一个何种形式的存在?
Bertrand Russell: "It's thinking. It's raining" I think 不一定指向I exist. It's raining中的It不代表任何实际存在的东西,那么I think也可以只代表一种过程,有一种思考的东西,但不一定存在【何为存在】。
我作为主体来理解其他物体,在身心二元论中,我们是用心灵(mind)去组织去身体(body)/外界材料的知识的,蜡块论证(一块蜡与燃烧后的蜡是否是同一块?我们的心灵组织其广延与变化形式)
- Interactive Dualism
- 心灵和身体有完全不同的属性,但两者可以交互
- 伊丽莎白之问:既然如此,人的本质(思考者,mind)是如何驱动身体从而做出行动的?
- 笛卡尔的回答: 不能用物体的属性(运动模式,状态) 去测量、提问心灵的属性(感知,理解,意图)
- 简单的说,我觉得这之间就是一个解释鸿沟,无法通过观测身体的各种属性变化还原出我们的心灵的感受,比如我们可以测量当我们悲伤时身体的激素含量、肌肉等等的变化,但我们却无法说这些东西就是悲伤,我们的悲伤感受无法在物理程度上被还原。
论证逻辑链
part1: 对“有物存在”的证明
在“疑罪从有”的原则上进行,只要这个东西有一丝能被反驳质疑的可能,我们就先认为他们是不可相信的,一种悬置态度。
- 我们不妨提这个命题的反命题:“一切都是虚构的”(笛卡尔的转译:不存在不容怀疑之物)
- 那么能够获得“不存在不容怀疑之物”的观念,这个观念是我们自己想出来的
- 那么我们自己想出来的,“我”就是一种存在物;我能被欺骗,也可以相信,这样的能留说明我存在,至少作为一种思考物存在。
- 因此至少 I am, I exist 始终为真。
从我自己的角度攻击反命题其实更简单,如果“一切都是可以被怀疑的”,那么这句话本身的自我指涉也是能被怀疑的,于是命题存在自我指涉的悖论,我们当然不能说有悖论就是错的,但至少原命题就会更可靠一些,于是我们可以确信有一些我们无法怀疑的东西存在,我没有说他们一定存在,但一定有我们无法怀疑的东西。
笛卡尔的论证有一个前提:"如果A能够思考,能够被欺骗,那么A就存在。",而罗素的攻击"It's raining"是从语言形式上攻击, I think 里的I可以类比到It,It并不指代某个具体物,而是整句一起指向一个下雨的过程,那么我们用语言表达出来的I think是否有可能也只是一个思考的过程?,但以这样的形式去思考让我觉得很难受,我很难接受存在一个没有主体存在的思考过程。
part2: 我知道了"I"存在,但"我"到底是什么?
<笛卡尔似乎是直觉式地划分出soul和body这个二元组成的,他自己的原话是"审视自己然后找到自然而然浮出的概念",其实二者的分野并没有讲出很确切的东西。思维为什么属于 soul,而不是某种身体活动?为什么思维与身体必须属于两种不同的东西?这里就没那么清楚了。这似乎也接近于伊丽莎白之问,而笛卡尔没有很好的回应>
- 关于body的特征都可以用"被欺骗"来怀疑,于是我们至少无法百分百有把握,根据疑罪从有原则就得悬置body
- 考虑到soul,我们无法排除think的属性,于是我们得到最保守的情况:"我"只是一个思维之物,这个思维之物可以
doubts,understands,affirms,denies,wants,refuses,and also imagines and senses - 我们如何确定思维之物的这些特性确实存在?无论外界是否真如我感知的那般存在,"我"确实经历了某种感知体验,这些体验就牵扯到这些特性(大概是这么个证明思路)
part3: 作为思维之物,"我"如何认识外界之物?
蜡块论证
- 蜡块刚从蜂巢取出时,具有特定的颜色、气味、形状、硬度等属性;加热之后,这些感官属性发生了变化,但我们仍然认为它是同一块蜡。
- 因此,我们对蜡的认识不能仅仅来自感官。感官只能提供蜡在特定时刻呈现出来的性质,却不能单独解释我们为什么认为变化前后的蜡是同一个物体。
- 同样,想象力也不足以完成这一认识。蜡能够发生的变化远远超过我们实际能够想象的范围,但我们仍然能够理解它具有无限多种可能的变化形式。
- 所以,我们对蜡的认识还依赖于心灵的理智活动:心灵理解蜡是一个具有广延性、能够变化的物体,并通过判断把不同感官经验组织成对同一物体的认识。
- 进一步说,当我认为自己看见了蜡时,我实际上也在进行判断;即使我无法确定蜡是否真实存在,我仍然能够确定自己正在进行感知或判断。因此,对蜡的认识最终也使我更加清楚地认识到自己的心灵。
总而言之,当"我"进行各种感知、思维活动的时候,"我" 不可能根本不存在。于是乎,在进行这些感知、思维活动时我不仅更了解body,也由我的思考过程逐渐摸清楚了soul的存在形式与影响方式,在某种程度上,我更清楚地了解了自己的soul。
personal idea
第一感觉是确证了"我"至少是一种思考之物,但"我"究竟是什么却更像是一种直觉归纳后的推理
我觉得这一回笛卡尔的论证都比较可靠,对于"I"这么一个思考之物的论证我觉得很有力度,而对于part2进行body和soul的二分似乎只是出于一种二元的惯性思考方式,而不是审慎地审视自己后做出的区分,并没有作很好的引入,但如果我们接受他的身心二元论,那么他后面的推理也算合理(即使并没有说清楚soul到底是如何认识物体的,而只是说它承担了这一职责。),所以没有太多的个人观点,有一些个人观点也贯穿在整理中了,不再一一赘述。
Jackson
some note before reading
Interacive(抛掉二元论,则为physicalism 物理主义) Duralisum(抛掉交互性即为 Epiphenomenalism 副现象论)
二十实际科学自然主义, 身心同一论 Identity theory: 意识也可以被还原解释。把感受解释为某种物理现象,细胞放电,激素升高...
Qualia(感受质) & physical information : 前者是无法用语言描述后由他人直接复现的感受或体验材料,后者是一种纯粹的,知道现象及足够精确的语言描述后任何人都可以直接复现的信息。【我的说法:刺痛感即使你描述我的哪些肌肉受到了刺激,激素的含量水平怎么变化...别人接收到了也无法还原出你的感受事实上是怎样的 质疑:那么难道说对于刺痛感,我们只要刺激对应的肌肉以及注入激素等等就可以复现了吗? 说法有问题,至少不准确】 - 能知道的所有关于红色的全部物理知识也无法告诉你看到红色的感受?但也有人反驳:我们如何定义“全部物理知识”?
玛丽黑白屋【难以设想的思想实验?】 - 物理主义:所有事实都是物理事实 - 能力质疑反驳? - concept/property? - 该问题在知识上的重要性
philosophy zombie哲学僵尸【如果对于某人来说是无法设想的思想实验,那么这个思想实验是无效的】 - 物理主义者与非物理主义者对于这个实验的存在的可能性是有根本性分歧的
感受?好绕的一节课,最后的观点倒是比较认同,海蛞蝓对人就像人对super existing一样,始终可以设想人边界无法获取的知识,是一种对抗乐观物理主义的视角
knowledge arguement for qualia
-
基本观点: one can have all the physical information without having all the information there is to have. 一个人可以拥有所有物理信息却未掌握一切可知的信息。
- 即使我们被告知了某种行为的所有物理信息也无法说出具体感受之为何(反击: 如果是科学手段调控所有物理信息而不只是告知呢?)
-
涉及概念:
- physical information(物理信息): 物理学、化学和生物学提供的大量关于自身及所处世界的信息,以及由它们自然而然能够得出的信息。
- the thesis of Physicalism : all information is physical information.
- 玛丽黑白屋(见下)
- 哲学僵尸(见下)
- physical information(物理信息): 物理学、化学和生物学提供的大量关于自身及所处世界的信息,以及由它们自然而然能够得出的信息。
-
论证逻辑:
- 通过两个思想实验各自构成一次反例
- 因此找到了物理主义的反例
- 因此有的东西不能被理解为物理信息
-
那么我们可以称这些东西为"Qualia"
-
两个思想实验及延伸:
- 色觉极好的Fred: Fred可以区分两种红,他称之为red1 与 red2 , 在他眼里red1与red2的差距就像蓝和黄的差别一样大(正因如此他才能把颜色为red1 与 red2的一堆番茄分开,就像分开蓝色和黄色那般),但其他人区分不出来。即使他顺从我们说"red",但实际上red1与red2在他眼中不该被认定为red的不同深浅,而是不同种颜色(难说,我们也能区分深蓝与浅蓝,但我们不会认为深蓝浅蓝不是蓝,不过Jackson的论证关键是“有一种我们补不上的经验”)
- 我们知道了所有物理信息却不能知道与Fred有关的所有事 -> 存在物理信息之外的事
- "洞穴隐喻"的另一种表达方式
- Mary黑白屋: Mary作为专门研究视觉神经生理学的科学家被关在黑白色的屋子里,只能通过材料学习颜色而始终看不见黑白外的其他颜色。
- 通过物理信息: 如果告诉她发出的光波段为~nm,她能算出这是什么颜色,但是她本人没见过这个颜色
- 当Mary从黑白屋中出去时,她会"learn"到任何新的东西吗?如果是的,那么存在物理信息之外的信息。
- 课上争论: learn还是ability
- philosophy zombie哲学僵尸【如果对于某人来说是无法设想的思想实验,那么这个思想实验是无效的】
- 物理主义者与非物理主义者对于这个实验的存在的可能性是有根本性分歧的
个人观点
Mary的黑白屋按照对哲学僵尸的考察而言,如果物理主义者认同一切都是物理信息,那么当mary接收到所有物理信息的时候她自己就应该能构造出某个颜色的样子,关键在于我们对于物理信息的定义不明确,如果你认同一切都是物理信息,那么你看到的实际颜色就应该是物理信息,就应该在黑白屋里直接得到; 而如果你不认为一切都是物理信息,那么你看到的实际颜色就成为一种感受,在被释放后才可以体验。因此对于物理主义者黑白屋的前置条件都不可能实现,就不可能说服他们。而对于是learn还是ability的争论毫无意义,无论是learn还是ability,在我们看到颜色本身时都会增加对其的新体验/理解。所以用能力去争论纠缠意义并不大,无论哪种,出屋后都多了新体验;物理主义者会说“新体验不等于新信息”,所以真正的争点是“体验本身算不算一条信息”。
不过简单地描述关键问题,可以寻求我之前学到的一个概念 "解释鸿沟" :从生理学上也许可以说疼痛就是C纤维放电,但这无助于我们理解疼痛感受起来是什么样的。
(陈嘉映)哪怕我们把神经活动的机制完全梳理清楚,还是会觉得没有真正说透“疼是什么感觉”——我们日常理解疼痛,本就是连着感受疼痛的人、连着具体的生活情境来理解的。
从主体视角经验到的心理状态属性不能从外在的科学视角得到还原,在这种意义上说,在外在的科学视角与内在的现象经验视角之间存在一个鸿沟。我们的内在现象经验始终存在一个感受者,我们对某种感受产生共情的方式是我们曾也以某种形式接受过某种程度的类似经验。至于说通过激素注射等等还原体验?这个假说是没有价值的思想实验: 1. 如果你认同所有信息都是物理信息,那么我们还原所有激素信息一定就能让被试还原出我们想要的体验,实验结果就是我们可以还原 2. 如果你一开始就不认同所有信息都是物理信息,那么还原所有激素信息就不一定能让被试还原出我们想要的体验,实验结果就是我们最后还原不出来。这个思想实验就和哲学僵尸一样无力。
知识论证真正确立的是物理描述与现象经验之间的解释鸿沟(Mary在黑白屋内没有直接作为感受者去感受原材料,物理描述不能替代现象经验);它能否进一步推出“存在非物理信息”,取决于是否承认“知道是什么样/现象经验”本身就是一种信息。
洛克: 王子与鞋匠 (人格同一性 personal identity)
概念
- same man: 同一个"人"= 一个有特定形体的动物,身心复合、街上能被认出来的那个(脸、身体、体貌)
- same person: 同一个人格 = 能思想、有理性、能反思、能把不同时间地点的自己认作自己的东西;法律和道德责任的单位
- man = person + body,所以一个人如果有多重人格,在不同的person下他应该被视为不同的人。
洛克的主张
- 人格同一性 = 意识的同一。意识能向后回溯多远,这个人格就延伸到多远
Dennett: Where Am I ?
情景设置
我要去Tulsa(Place A)挖弹头,但是弹头对大脑有特效腐蚀性,所以大脑不能去,要做手术放到Houston(Place B),两者之间用elaborate radio links链接实现脑控
问题
- 当我做完手术后,我坐在椅子上看自己的脑子,等等,我不应该是被自己的眼睛盯着看的那个吗?于是产生问题,"我"这个意识到底应该在哪里?(去A的身体被命名为
Hamlet,在B的脑子则叫Yorick,"我"这个意识体就叫"Dennett") - Where Hamlet goes there goes Dennett
- 用换脑实验: Tom 和 Dick 互换头,那么占据着Tom原来身体的意识会觉得自己是Dick,因此从这个角度来说意识不可能跟着身体走
- Where Yorick goes there goes Dennett
- 但这不够直观,试想我刚手术醒来时为什么没想着自己在缸里而是觉得自己坐在椅子上看脑子?再者,为什么想象自己一直在缸中如此困难?而且如果"我"是由Yorick确定的,那么我似乎始终都没有动过,但这和"我"的实际经验感受是违背的。
- 但如果只思考到这一层的话,使用"处理器-显示屏"与”脑子-眼睛(视网膜)“之间的类比就足够解决
- Dennett is wherever he thinks he is
- 在任何给定时刻,一个人都有一个视角(point of view),而这个视角的位置(which is determined internally by the content of the point of view,某种程度上说视角的位置由它自己认为的位置所决定)也就是这个人的位置。
- point of view 是一个模糊的概念,它一定不由它思想的内容或信念所决定。
- 在这里引入观影被吓到的例子(其实感觉换成恐怖片更直观): 观众在看到过山车画面冲破他的心理距离时尖叫、在座位上扭动时,我们该怎么说他的视角,难道忘了自己安稳地坐在影院里?
- 解释是经历了illusory shift in point of view,视角进行了一次虚幻转移,这里其实有个很有意思的问题: 我们明明在影院里,为什么会害怕看恐怖片呢?为什么看恐怖片会被吓到呢?
- 在这里引入观影被吓到的例子(其实感觉换成恐怖片更直观): 观众在看到过山车画面冲破他的心理距离时尖叫、在座位上扭动时,我们该怎么说他的视角,难道忘了自己安稳地坐在影院里?
- 一般地我们的视角都采用 intuitions(直觉),第一眼看上去在哪就在哪,后面开始说可以通过训练克服直觉...总感觉没必要
-
当最后"我出发了",我觉得 I'm in two places
- 我其实没太懂怎么转变到这一步的,或许只是妥协了,因为他觉得常理上说自己应该在B,但不可否认有一部分他在A。
- 但我总觉得不可否认的是,在某种意义上,是"我"——而不只是我的大部分——正下到Tulsa地底去寻找一枚原子弹头。
-
与第一个问题差不多的洛克式问题: 如果在手术完后我去抢银行,最后应该抓 Yorick 还是 Hamlet ?
个人观点
很有意思的问题: 我们明明在影院里,为什么会害怕看恐怖片呢?为什么看恐怖片会被吓到呢?
上课时老师提到Dennett反对了Qualia的存在,我并不认为很成功,甚至在节选里没看出哪里反对了Qualia的存在。所有这类文章试图将脑与身体分离后给脑刺激的文章本质上都暗含一种观点: "给脑的某个部位以某种条件的电刺激,以及适当的激素输入便可以使脑产生某种体验",严谨地说我们只是在关于脑的研究中得到了体验与物理现象之间的相关性,而非因果性,因此怎么能肯定给予电刺激+激素就一定能产生对应体验感觉?这一类的思想实验本身就是物理主义的,相信人的体验可以被物质还原制造出来,因此拿着物理主义的东西去质疑存在非物理之物的可能性本身就轻而易举。这篇文章的暗示类似,但比上面提到的暗含观点会更弱一些:
- 若体验不能被无线电信号搬运,那这个故事根本不可能;
- 若体验能被搬运,那它已经是物理的了,结论早就预设好了。
但如果我们接受他隐含的观点,进而讨论在这种情况下"我"到底存在于哪呢?
首先,我会倾向于我存在于Yorick中,这么考虑: 如果Hamlet被突然炸毁,但我们再换一个Tom的身体(注意,这里即使身体不是原本的Hamlet的版本对于我还是我这点也不会改变),似乎接受我还是我并没有这么困难("洛克"意识同一性);但如果Yorick被炸毁了,"我"就不存在了;但如果备份了一份叫Hubert的(注意,这里的备份必须是Yorick版本)脑子在Yorick炸毁的瞬间马上切换信道?"我"的意识连续性似乎也没有被丢掉,这么一来Yorick的说法也不靠谱了,于是我存在于这么一种统一中: 始终知道自己的思考,而我到底在Yorick还是Hamlet中,并不重要,也不能分出个所以然。 transformative experience: 无法设想另一种选择的经历, The leap of faith, it's my attitude
图灵
意识论证(杰弗逊)
- 主张:机器写诗不算数,得是“因为所感受到的思想与情感”而写,而且“知道是自己写的”。关键限定是那句括号:not merely artificially signal。
- 图灵的回应不是“机器也有感受”,而是:把“感受”设成判据 → 验证只能靠“成为它” → 同一把尺子量人 → 要知道某人在思想,只能成为那个人,这就是唯我论。
- 这是代价论证,不是演绎。他自己说唯我论“也许最合逻辑”,只是让人没法交流;于是给一条“礼貌约定”:每个人都在思想。
- 落点:与其要第一人称证据,不如接受模仿游戏。
Searle:中文屋 (Minds, Brains, and Programs)
strong AI:被恰当编程的计算机就是一种心灵(Mind) - 模拟人类的理解能力 - 拥有心理学意义上的人类认知状态,包括理解 - 程序本身构成了对认知状态的解释
程序本身对理解人类认知状态不充分,也不必要,是无关的。
我被塞尔说服了(或者是绕晕了),所以大部分都是塞尔这个文章直接的摘抄,因为他的摘要和最后的结尾时用问答形式总结的哲学要点都足够详细
原文摘要
本文可以看作是对两个命题之推论的一次探讨。
(1) 人(以及动物)的意向性(intentionality)是大脑因果特征的产物。我假定这是关于心理过程与大脑之间实际因果关系的一个经验事实;它只是说,某些大脑过程对于意向性是充分的。
(2) 仅仅实例化一个计算机程序,从来不是意向性的充分条件。本文的主要论证就是要确立这一主张:办法是表明,一个人类行动者可以实例化该程序,却仍然没有相关的意向性。
这两个命题有如下推论:
(3) 大脑如何产生意向性,其解释不可能是"它通过实例化一个计算机程序来做到这一点"——这是 1 与 2 的严格逻辑推论。
(4) 任何能够产生意向性的机制,都必须具有与大脑同等的因果能力——这是 1 的一个平凡推论。
(5) 任何想字面地、人工地创造意向性的尝试(强 AI),都不可能仅靠设计程序而成功,而必须复制人脑的因果能力——这由 2 与 4 推出。
"机器能思考吗?"按本文的论证,只有机器才能思考,而且只有非常特殊的一类机器,即大脑,以及与大脑具有同等内在因果能力的机器。这也正是强 AI 对思考说不出什么的原因:它谈的不是机器,而是程序,而没有任何程序本身足以产生思考。
关键词:人工智能;大脑;意向性;心灵
一段话总结
针对的强 AI 中很强的断言:“被正确编程的计算机字面地理解事物,而且程序本身就是解释。”发起进攻,关键论证是中文屋:A被锁在屋里,按英文规则拿中文符号来回配对,再把答案递出去,屋外的人看不出他不会中文;但他自己清楚,他对这些符号的意义一无所知。所以“实例化一个程序”最多只能产生正确的符号操作,不产生理解;程序只有句法,没有语义。意义来自大脑的因果能力,与符号之间的关系无关。由此得出结论:程序本身既不是理解的充分条件,也不能解释理解;模拟不等于复制。“机器永远不能思考”这一结论则不在其中;这是为了反驳“光有程序就够了”。
笔记
- weak AI: 计算机在心灵研究中的主要价值在于它提供了非常强大的工具
- strong AI: 被恰当编程的计算机真的就是一颗心灵——被恰当编程的计算机字面地具有认知状态。程序本身就是一种解释
- 意向性: 即某些心理状态所具有的、指向或关于世界中对象与事态的特征。因此,信念、欲望和意图是意向状态;无指向性的焦虑和抑郁则不是。
中文屋:对strong AI攻击
设定:被锁在房间里的人A完全不懂中文,中文不过是许多无意义的笔画。然后A收到中文纸条,旁边有一份英文规则,他用英文规则把中文这种符号笔画对来对去,再递出"答案"。外面的人看不出A不懂中文。
- 攻击的主张一: 机器理解故事:假。若那台机器就是A,A不理解,机器也不理解;若不是A,它也不比A多。
- 攻击主张二(程序解释理解):不成立。程序在跑,但没有理解
处理反驳
- 系统反驳: A确实不理解,但A只是系统的一部分,而系统是理解故事的。A面前有一大本账簿,上面写着规则;他有许多草稿纸和铅笔用来计算;他有几组中文符号的'数据库'。理解并不是赋予那个孤零零的个人,而是赋予他所属的这个整系统。
- "我对系统论的回答很简单:让这个人把系统的所有要素都内化。他背下账本里的规则和那些中文符号数据库,所有计算都在脑子里做。这个人于是把整个系统收进了自身;系统里没有任何东西不被他所包含。我们甚至可以取消那间屋子,假定他在户外工作。尽管如此,他对中文仍然一无所知,系统更是如此,因为系统里没有任何东西不在他之中。如果他不理解,系统就不可能理解,因为系统只是他的一部分"
- 这种符号摆弄本身,不足以在字面意义上构成对中文的理解,因为那个人可以在"弯弯扭扭"后面写上"方方框框",却不懂中文里的任何东西。
- 而且,系统反驳似乎会导致一些本身荒谬的后果。如果我们仅仅因为我有某种输入输出以及中间的程序,就断定我之中必定有认知,那么看起来各种非认知的子系统都会变成有认知的。例如,在某个描述层次上,我的胃在进行信息处理,它实例化着任意多的计算机程序;但我想我们并不想说胃有任何理解。可要是接受系统反驳,就很难避免说胃、心、肝ç都是理解的子系统。
- 机器人反驳: 感觉这个反驳太弱了,不总结了
- 大脑模拟器反驳: "假设我们设计的程序并不表征我们关于世界的信息(如 Schank 脚本里的信息),而是模拟一个汉语母语者理解中文故事、回答问题时,其大脑突触上神经元放电的实际序列。机器以中文故事和相关问题为输入,在处理这些故事时模拟真实中文大脑的形式结构,并输出中文答案。我们甚至可以设想︲行程序运作,而是用一整套并行程序运作,就像真实人脑处理自然语言时那样。那么,在这种情形里,我们当然必须说机器理解了故事;如果我们拒绝这样说,难道不也得否认汉语母语者理解了故事?在突触层次上,计算机的程序与中文大脑的程序能有什么、会有什么不同?"
- 然而,即使贴近到大脑运作这一步,仍然不足以产生理解。设想不是把一个只会一种语言的人关在屋里摆弄符号,而是让他操作一套复杂的水管,管子之间用阀门相连。当他收到中文符号时,他按英文写的程序去查该开哪些阀门、关哪些阀门。每个水管连接对应中文大脑里的一个突触;整个系统被安排成这样:在完成所有正确的放电,也就是打开所有正确的水龙头之后,中文答案就从这一系列水管的输出端冒出来。
- 那么,这个系统里的理解在哪里?它以中文为输入,模拟中文大脑突è形式结构,以中文为输出。但那个人当然不懂中文,水管也不懂;如果我们想接受那个我认为荒谬的观点——人与水管的合取以某种方式理解了——请记住:原则上这个人可以把水管的形式结构内化,在想象中完成所有"神经元放电"。
- 大脑模拟器的问题在于:它模拟的是大脑里错误的东西。只要它只模拟突触上神经元放电序列的形式结构,它就没有模拟大脑中要紧的东西,即它ç而水管例子表明,形式属性不足以产生因果属性:我们可以把一切形式属性从相关的神经生物学因果属性上切下来。
- 组合反驳
- 他人心灵反驳: "你怎么知道别人懂中文或懂别的什么?只能靠他们的行为。现在计算机原则上也能像他们一样通过行为测试,所以如果你要把认知赋予别人,原则上也必须把它赋予计算机。"
- "这个反驳只值得简短回答。这里的问题不是我如何知道别人当我把认知状态赋予别人时,我赋予的究竟是什么。这个论证的要点是:它不可能是单纯的计算过程及其输出,因为计算过程及其输出可以在没有认知状态的情况下存在。装作麻醉并不能回答这个论证。在"认知科学"里,人们预设心理的实在性与可知性,正如在物理科学里必须预设物理对象的实在性与可知性"。
Appendix: 原文结尾问答形式的几个哲学要点
"机器能思考吗?"
答案æ¶是:能。我们正是这样的机器。
"是,但一件人造物、一台人造的机器能思考吗?"
假定可以人工制造一台神经系统、神经元及其轴突树突等等都足够像我们的机器,那么答案显然又是:能。如果你能精确复制原因,你就能复制结果。而且,确实有可能用不同于人类的某些化学原理来产生意识、意向性等等。如我所说,这是个经验问题。
"好,但数字计算机能思考吗?"
如果"æ½具有某个描述层次、在其中可以被正确描述为计算机程序之实例化的东西,那么答案当然又是:能。因为我们是任意多个计算机程序的实例化,而我们会思考。
"但某个东西能否仅凭是一台装有恰当程序的计算机而思考、理解等等?实例化一个程序——当然是正确的程序——本身能否成为理解的充分条件?"
我认为这才是该问的问题(尽管它常被与前面几个问题中的一个或几个混ä
"为什么不能?"
因为形式符号操作本身没有任何意向性;它们完全没有意义;它们甚至算不上符号操作,因为这些符号并不象征任何东西。用语言学的行话说,它们只有句法,没有语义。计算机似乎具有的那种意向性,完全在编程者和使用者、在送进输入的人和解释输出的人的心灵里。
中文屋例子的目的,就是要表明这一点:一旦我们把某个真正具有意向性的东西(一个人)æ¨序,你就能看出,形式程序没有带来任何额外的意向性。例如,它对一个人理解中文的能力毫无增益。
AI 那个看起来如此吸引人的特征——程序与实现之间的区分——恰恰对"模拟可以是复制"这一主张是致命的。程序与其硬件实现之间的区分,似乎平行于心理操作层次与大脑操作层次之间的区分;如果我们能把心理操作层次描述为一个形式程序,那么我们似乎就能不做内省心理学、ä做大脑神经生理学,而描述出心灵的本质。但"心灵之于大脑,如程序之于硬件"这个等式,在好几处都垮掉了,其中包括下面三处:
第一,程序与实现的区分有一个后果:同一个程序可以有各种荒唐的实现,而它们没有任何形式的意向性。同样,那个中文故事理解程序可以被编进水管的序列、一组风车,或者一个只会英语的人——它们都不会由此获得对中文的理解。石子、手纸、风、水管,从一开始就是错误种类的材料,不可能承载意向性——只有具有与大脑同等因果能力的东西才能有意向性;而那个说英语的人虽然材料对,你却很容易看出,他背下这个程序并不会获得任何额外的意向性,因为背下它并不会教会他中文。
第二,程序是纯形式的,而意向状态不是那种意义上的形式。它们以内容、而非形式来定义。比如"天在下雨"这个信念,不是被定义为某种形式形状,而是被定义为具有满足条件、符合方向的某种心理内容,等等(见 Searle 1979)。事实上,这样的信念在这种句法意义上根本没有形式形状,因为同一个信念可以在不同语言系统里被赋予无穷多种不同的句法表达。
第三,如我先前所说,心理状态和事件字面地是大脑运作的产物,而程序不是那种意义上的计算机的产物。
"好吧,如果程序无论如何都不构成心理过程,为相信相反的说法?这总得有个解释。"
这个问题的答案,我实在不知道。计算机模拟可能是实物,这个想法从一开始就该显得可疑,因为计算机绝不仅限于模拟心理操作。没人会以为,对一场五级火警的计算机模拟会把邻近街区烧掉,或者对一场暴雨的计算机模拟会让我们全都淋湿。那为什么竟会有人以为,对理解的计算机模拟真的理解了什么呢?有时人们说,让计算机感到疼痛或坠河会极其困难;但爱与痛并不比认知或任何别的东西更难或更容易。就模拟而言,你所需要的只是正确的输入输出,以及中间一个把前者变成后者的程序。计算机对它所做的任何事,拥有的就这么多。把模拟与复制混为一谈,无论在疼痛、爱、认知、火还是暴雨上,都是同一个错误。
不过,AI 在某种意义上似乎——而且在许多人看来或许仍然似乎——复制并由此解释了心理现象,这有原因;我相信,除非我们彻底揭示这些幻觉的成因,否则我们无法消除它们。
第一,也许最重要,是对"信息处理"这一观念的混淆。 认知科学里许多人相信,人脑连同其心灵,在做某种叫"信息处理"的事;类似地,计算机连同其程序也在做信息处理;而火和暴雨则根本不做信息处理。于是,尽管计算机能模拟任何过程的形式特征,它与心灵和大脑却有一种特殊关系:当计算机被恰当同一程序——两种情形里的信息处理是同一的,而这种信息处理正是心理的本质。
但这个论证的麻烦在于,它依赖于"信息"一词的歧义。在人们反思算术问题、或阅读并回答故事问题时"处理信息"的那种意义上,被编程的计算机并不做"信息处理";它所做的是摆弄形式符号。程序员和计算机输出的解释者用这些符号代表世界中的对象,这一事实完全在计算机的视野之外。计算机,再说一遍,有句法而没有语义。于是,如果你往计算机里输入"2 加 2 等于?",它会打出"4"。但它完全不知道"4"意味着 4,或意味着任何东西。要点不是它缺少关于其一级符号之解释的某种二阶信息,而是:就计算机而言,它的一级符号根本没有任何解释。计算机所有的只是更多符号。
因此,"信息处理"这一观念的引入产生了一个二难:要么我们把"信息处理"理解为蕴含意向性是过程的一部分ï ,那么被编程的计算机并不做信息处理,它只摆弄形式符号。若是后者,那么尽管计算机在做信息处理,它也只是在加法机、打字机、胃、恒温器、暴雨和飓风做信息处理的那种意义上做——即它们具有一个描述层次,我们可以在其中说它们在一端接收信息、加以转换、在输出端产生信息。但在这种情形里,把输入输出解释为通常意义上的信息,取决于外部观察者;而且,计算机与å 信息处理的任何相似性而建立起相似性。
第二,AI 中残留着行为主义或操作主义。 由于被恰当编程的计算机可以具有类似人类的输入输出模式,我们便倾向于在计算机中设定类似人类的心理状态。但一旦我们看到,一个系统在概念上和实践上都可能具有某个领域的人类能力而完全没有意向性,我们就应当能克服这种冲动。我桌上的加法机有计算能力,却没有意向性;本文试图表æ 相同的输入输出能力,却仍然不懂中文,无论它如何被编程。图灵测试是这一传统的典型:它毫不羞愧地是行为主义和操作主义的;我相信,如果 AI 工作者彻底抛弃行为主义和操作主义,模拟与复制之间的大部分混淆就会被消除。
第三,这种残留的操作主义与一种残留形式的二元论结合在一起。 事实上,强 AI 只有在"就心灵而言大脑无关紧要"这一二元论假定下才讲得通。在强 AI里,要紧的是程序,而程序独立于其在机器中的实现;就 AI 而言,同一个程序可以由电子机器、笛卡尔式的精神实体、或黑格尔式的世界精神来实现。
我在讨论这些问题时最吃惊的发现是:许多 AI 工作者对我这个想法深感震惊——人类的心理现象可能依赖于真实人脑的真实物理化学属性。但你稍微一想就能明白,我不该感到吃惊:因为除非你接受某种形式的二元论,强 AI 计划根本没计程序来复制并解释心理;但除非心灵不仅在概念上而且在经验上独立于大脑,你就无法执行这个计划,因为程序完全独立于任何实现。除非你相信心灵在概念上和经验上都能与大脑分离——一种强形式的二元论——你就不能指望靠编写和运行程序来复制心理,因为程序必须独立于大脑或任何其他特定的实例化形式。如果心理操作在于对形式符号的计算操作,那么它们与大脑就没有任ä³»;唯一的联系是:大脑恰好是能够实例化该程序的无穷多种机器之一。这种二元论不是主张有两种实体的传统笛卡尔式二元论,但它在"坚持心灵之为心理的所在与大脑的实际属性没有内在联系"这一点上是笛卡尔式的。这种底层的二元论被 AI 文献中频繁的对"二元论"的痛斥所掩盖;作者们似乎没有意识到,他们的立场预设了一种强版本的二元论。
"机器能思考吗?"
我自己的看法æ¼而且只有非常特殊的一类机器,即大脑,以及与大脑具有同等因果能力的机器。这正是强 AI 对思考说不出什么的主要原因,因为它对机器说不出什么。按它自己的定义,它谈的是程序,而程序不是机器。
无论意向性还是别的什么,它都是一种生物现象;它之因果地依赖于其起源处特定的生物化学,大概不亚于泌乳、光合作用或任何其他生物现象。没人会以为,运行一个对泌乳和光å¨中形式序列的计算机模拟,就能生产出牛奶和糖;但一涉及心灵,许多人就愿意相信这样的奇迹,因为有一种深植而持久的二元论:他们以为心灵是形式过程的事,独立于相当特定的物质原因,而牛奶和糖则不然。
为这种二元论辩护时,人们常表达这样一种希望:大脑是一台数字计算机(顺便说,早期的计算机常被称为"电子大脑")。但这无济于事。大脑当然是一台数字计算机——æ都是数字计算机,大脑也是。要点在于:大脑产生意向性的因果能力,不可能在于它实例化了一个计算机程序,因为无论你喜欢哪个程序,总有某个东西可以实例化该程序却仍然没有任何心理状态。无论大脑产生意向性靠的是什么,它都不可能在于实例化一个程序,因为没有任何程序本身足以产生意向性。