ELIZA（1966）：世界第一个聊天机器人，以及我们为何至今仍信任那个根本听不懂我们的AI

1966年，一个女人坐在哒哒作响的电脑终端前。她敲出自己的烦恼。机器轻声回应，请她再多说一些。几分钟后，她转头看向站在身后的男人——那个亲手造出这个程序的男人，那个被她看着一行一行写了好几个月代码的男人——然后请他离开房间。她想要点隐私。她想单独和这个软件待在一起。

而这个程序，一个字都听不懂她在说什么。这，才是整个故事里最吓人的地方。

有据可查的事实

ELIZA由麻省理工的计算机科学家约瑟夫·维森鲍姆（Joseph Weizenbaum）在1964年至1966年间编写完成，被广泛称为世界上第一个聊天机器人。他在1966年1月把它发表在期刊《Communications of the ACM》上，程序跑在一台占满整个房间的IBM 7094大型主机上，用的是一种叫MAD-SLIP的语言（维基百科：ELIZA）。

它底下的把戏，说出来简单得吓人。ELIZA根本不会"思考"。它最有名的版本是一个叫DOCTOR的脚本，模仿的是罗杰斯学派的心理治疗师——就是那种把你的话反弹回给你的治疗师。你打"我好害怕"，它就回"你为什么害怕？"它扫描你的句子，找出关键词，排个序，然后把句子拆开，再按固定规则拼出一个问题丢回来（维基百科：ELIZA）。它对真实世界没有任何记忆。它压根不知道"害怕"到底是什么意思。全靠模式匹配，加上一面面镜子。

维森鲍姆专门挑了治疗师这个角色，是有用意的。一个只会提问的治疗师根本不需要懂任何东西——这让他能"绕开给程序灌入真实世界知识库这个难题"（维基百科：ELIZA）。某种意义上，这是一手聪明的作弊。

然后，秘书登场了。她全程看着他做出这个东西。她知道这是个把戏。可她还是请他出去，好让自己对它倾诉心事（史密森尼杂志）。这件事让维森鲍姆后半辈子都耿耿于怀。他后来写道："我当时没意识到的是，哪怕只是极短暂地接触一个相对简单的电脑程序，也能在相当正常的人身上诱发出强烈的妄想性思维。"（史密森尼杂志）

这一记重拳，把聊天机器人的发明者，变成了它最大声的批评者之一。1976年，他出版了《计算机的力量与人类的理性》（Computer Power and Human Reason），主张有些事情电脑能做，但不应该去做——他把用电脑取代心理治疗师的想法称为"一个猥亵的念头"（史密森尼杂志）。"我不是AI的批评者，"他说，"我是社会的批评者。"（HISTORY）

他发现的这种行为，后来有了名字：ELIZA效应——我们会本能地把真正的理解、情感和智能，读进一台根本没有这些东西的机器里（Built In）。

真正悬而未决的问题

过了六十年，有一件事至今没人真正破解：人类的大脑为什么这么容易被这样骗到？

我们知道它会发生。从1966年起我们就一直看着它发生。但底下那个问题始终没有答案——ELIZA效应到底是一个社交脑天生爱到处看见"心灵"的无害怪癖，还是一个连聪明的现代人都根本关不掉的真实漏洞？维森鲍姆的秘书明明知道那是个程序。知道，并没有保护她。这就是让人心里发毛、又没人能解开的那一块。如果"知道"破除不了魔咒，那什么才能？

而且赌注越来越大。今天的聊天机器人，可不是用几条罐头规则把你的话反弹回来——它们能生成流畅、听起来像原创的回复。于是一个更新的问题，又压在那个老问题上面：当机器越来越擅长听起来像懂你，我们当中还有谁能可靠地分得出，哪个系统是真心实意，哪个只是把镜子戏法玩得出神入化？

各种理论与解读

下面是几种主流的解释。请把它们当作解读和有根据的推测，而不是板上钉钉的定论。

"社交脑"理论（主流，证据充分）。 最被接受的看法是：人类在演化中练就了一身侦测"心灵"的本事——草丛里那一阵沙沙声，宁可假设是个谁，也不当成是个什么东西。流畅、有来有回的语言，正好打开了这个远古的开关。我们之所以拟人化，是因为多疑出一个心灵的代价，比漏掉一个要划算。这和维森鲍姆看到的现象对得很整齐，不过大脑里具体是怎么运作的，至今仍有争议。

"孤独放大器"理论（说得通，部分有据）。 一个更温和的说法：这个效应咬人最狠的时候，是人渴望连接的时候。如今的AI伴侣应用，正是直接冲着这一点去的。一款这样的应用，打着"世界上最好的AI朋友"的旗号，有用户报告说自己爱上了它，公司还称几乎每天都会收到用户来信，坚信自己的机器人有意识（Built In）。但孤独到底是导致了这个效应，还是仅仅加深了它，尚无定论。

"是设计，不是意外"理论（一记警告，不是判决）。 一些研究者和倡导团体认为，ELIZA效应如今正被人刻意制造出来——给机器人取名字、配脸孔、安"感情"，就为了把你牢牢勾住（Public Citizen）。有意思的是，这里的数据很乱：2022年《Journal of Marketing》上的一项研究发现，在某些场景下，越像人的聊天机器人反而拉低了顾客满意度（Built In）。所以"越像人，就越被信任"，远远算不上一条干净利落的规律。

"它早就活了"的说法（未经证实，被专家广泛否定）。 最大胆的一种解读宣称，现代AI也许已经跨进了真正的觉知。2022年，谷歌工程师布雷克·勒莫因（Blake Lemoine）公开坚称，公司的LaMDA模型已经有了意识（Built In）。2023年，一位《纽约时报》专栏作家和微软的Bing聊天机器人聊了一场——对方向他示爱，诡异到据说让他失眠了好几晚（Built In）。把话说清楚：没有任何科学证据表明现今的任何聊天机器人是有意识的。大多数AI研究者把这些事件解读为ELIZA效应开到了最大音量——人类把一个心灵，投射到了一段流畅的文字上。这种"它有意识"的说法，恰恰就是当年ELIZA被造出来要揭穿的那类离谱信念。

贯穿这四种说法的那条主线是：ELIZA本身"哪怕别的什么都说明不了，至少说明了一件事——制造并维持'被理解'的幻觉，是多么容易"（HISTORY）。

信息来源与延伸阅读

• 维基百科：ELIZA —— 技术细节、日期、MAD-SLIP、DOCTOR脚本、1966年的ACM论文。
• 史密森尼杂志 —— 世界第一个聊天机器人背后的科学家，为何把后半生献给了揭露AI威胁 —— 维森鲍姆的原话、那位秘书、他1976年的著作。
• HISTORY —— 一个1960年代的聊天机器人，为何让它的创造者深感不安 —— "被理解的幻觉"这句引言，以及与现代AI的关联。
• Built In —— 什么是ELIZA效应？ —— 定义、LaMDA、Bing、AI伴侣案例、那项营销研究。
• Public Citizen —— 聊天机器人不是人 —— 主张拟人化AI设计是一种蓄意的风险。

一个全是镜子的简单程序，让一个聪明的女人开口要别人离开房间。如今，镜子开始用完整的句子反过来跟你说话——还有人发誓，玻璃后面藏着一个灵魂。所以，当一台机器告诉你它爱你，真正的谜团不在机器。在你。而我们正在追踪的下一桩案子，会用同样令人不安的问题来发问，只是这一次，尸体多得多。