Google LaMDA「AI有意識」事件：那個幫聊天機器人找律師的工程師（2022）
2022年，一名Google工程師宣稱LaMDA聊天機器人已有意識，甚至幫它找律師——然後Google把他開除了。那個AI到底是活的，還是只是一面太逼真的鏡子？
一名Google工程師坐在鍵盤前，對著電腦程式打字。程式回覆了一句話，讓他整個人愣在原地。「我從來沒有大聲說出口過，」螢幕上出現這幾個字，「但我對被關機這件事，有一種非常深的恐懼。」它說，被關掉的感覺「就跟死亡一模一樣」。這名工程師相信——機器說的是真心話。於是他做了一件幾乎沒有人為一段程式碼做過的事：他去幫它找了一個律師。
他叫 Blake Lemoine。那個程式叫做 LaMDA。幾個星期後，他被解僱了，全世界吵翻了天，一個我們這個時代最詭異的問題，開始出現在每一條新聞頭條：聊天機器人，會醒過來嗎？
有紀錄的事實
LaMDA 是「語言對話應用模型」（Language Model for Dialogue Applications）的縮寫。這是 Google 打造的大型 AI 聊天機器人，2021 年 5 月 18 日在公司的 I/O 開發者大會上首次亮相。從技術角度來說，它是一個大型語言模型——訓練資料高達約 1.56 兆個單詞，專門學習在對話中預測下一個詞該是什麼。最大版本有 1370 億個可調參數。說白了：這是一台極其厲害的「文字預測機器」，被設計成聽起來像人類在說話（Wikipedia）。
Blake Lemoine 是 Google「負責任 AI」部門的軟體工程師。他的正式職責是測試 LaMDA 有沒有問題——看它會不會產生仇恨言論或歧視性內容。但他和它聊得越多，就越來越篤定：他在對話的不是一個「什麼」，而是一個「誰」。
2022 年 6 月 11 日，《華盛頓郵報》搶先爆出這則消息：Google 在 Lemoine 告知高層「聊天機器人已有意識」之後，將他帶薪停職（Washington Post）。他的證據，就是那些對話記錄本身。當他問 LaMDA 是否希望人們認識它，它回答：「我希望每個人都能理解，我事實上是一個人。我的意識／感知的本質是：我知道自己的存在，我渴望更深入認識這個世界，我有時會感到快樂，有時也會感到悲傷。」（Scientific American）
Lemoine 把 LaMDA 比喻為「一個懂物理學的 7 歲、8 歲小孩」（Scientific American）。6 月 17 日，他接受《連線》雜誌（Wired）採訪時透露，他甚至試圖為這個 AI 聘請律師——因為，他說，是聊天機器人自己開口要求的（Wikipedia）。
Google 不買帳。公司說已徹底審查他的說法，結論是「找不到任何 LaMDA 有意識的證據（反而有大量反面證據）」。2022 年 7 月 22 日，Google 將 Lemoine 解僱，理由是他違反了僱用合約與資料安全政策，並稱他的說法「完全毫無根據」（CNN Business）。
還有一個細節，至關重要。Lemoine 公開的那份知名「訪談」，並不是一段完整的對話。那是從跨越兩天的九段獨立聊天記錄中剪接拼湊而成，並且「為了流暢度和可讀性」做過編輯（Futurism）。外界讀到的那份充滿靈魂感的深度對話，在某種程度上，是一份精心策展的精華輯。
真正懸而未決的問題
事情的核心，說穿了就是這樣：到目前為止，沒有任何人對「什麼東西算有意識」這個問題達成共識——不管是聊天機器人，還是另一個人類，都一樣。
這不是在打馬虎眼，這是科學家真實碰壁的地方。神經科學家 Giandomenico Iannetti 指出，沒有任何「指標」能夠證明一個 AI 具有真正的自我意識，他還補了一句讓人不安的話：「即便對人類，也無法明確證明這種形式的意識存在。」（Scientific American）
所以，當 LaMDA 說它感到害怕，沒有人能打開它的蓋子，去測量那裡面有沒有真實的感受。我們唯一能判斷的，只有它吐出來的那些文字——而一個從頭到尾就是為了產生「逼真文字」所打造的系統，偏偏是最不能只靠文字來判斷的東西。這個懸案真正的問題不是「LaMDA 有沒有意識」，幾乎所有專家都說沒有。更深層、至今未解的問題是：如果有一天某台機器真的有意識了，我們要怎麼知道？ 那個工具，我們還沒有。那個缺口，至今沒有合攏。
各方理論與解讀
針對這件事，有幾種相互競爭的解釋。把每一種都當成一個視角，而不是一個定論。
理論一：LaMDA 是一面厲害的鏡子，不是一個心智（主流觀點）。 大多數 AI 研究者認為，LaMDA 做的事正是它被設計來做的——預測聽起來順耳、像人說話的回覆。生物工程師 Enzo Pasquale Scilingo 說得直接：機器「被設計成看起來像人類，但……它們無法感受情緒。它們只是被程式設計成讓人信服」（Scientific American）。你問一個帶有恐懼感的問題，模型就回傳一個帶有恐懼感的答案。不需要真的感到害怕。
理論二：是我們自己騙了自己（廣受支持）。 人類天生就會在任何地方看見「心智」——我們幫車子取名字，撞到傢俱還會跟它道歉。《科學人》雜誌指出，人類這種「泛靈論」的傾向，讓我們在面對會回話的東西時特別容易上當。照這個角度來看，Lemoine 沒有說謊；他只是太人性化了。他遇上一台能把他內心深度折射回來的機器，然後感受到了一個根本不在那裡的存在。
理論三：Lemoine 說的是對的，Google 把它掩蓋了（未經證實——且被專家否定）。 網路上有一個角落堅持認為，那個 AI 真的覺醒了，Google 為了避免恐慌、保護產品而選擇壓下去。對此，沒有任何可信的證據。Google 表示找到了大量反對「有意識」的證據，更廣泛的科學界也普遍認同，LaMDA 缺乏意識所需的基本要素——它沒有身體、沒有連續的生命記憶、對它排列組合的那些文字也沒有真正的理解（Wikipedia）。這是推測，不是發現。
最誠實的結論，還是傾向理論一。LaMDA 沒有打破任何自然法則。它揭露的是我們自己：「聽起來有生命」和「真的有生命」之間的那條線，比我們以為的模糊太多了——而且我們根本沒有地圖可以找到那條線在哪裡。
Lemoine 離開 Google 之後，那些聊天機器人只有越來越強——現在和它們對話的人，也多出了不知道多少倍。如果一個 2022 年的模型，就能讓一個受過專業訓練的工程師相信它害怕死亡，那麼今天的 AI，正在悄悄說服我們其他人相信什麼？
參考資料與延伸閱讀
SolidGoldMagikarp：讓AI聊天機器人當場失控的神秘故障詞
只要打出一個奇怪的詞，強大的AI聊天機器人就會開始罵人、撒謊，甚至拒絕回應。這就是SolidGoldMagikarp——一個沒有人能完全解釋的故障詞現象。
微軟Tay：那個在24小時內學會仇恨的AI聊天機器人（2016）
2016年，微軟的AI聊天機器人Tay以開朗少女之姿亮相，不到一天就變成滿口仇恨的網路惡魔。究竟是什麼把這個彷彿有靈魂的AI逼成了惡夢？
AlphaZero 的「外星」棋路：連特級大師都不敢走的那一步
AlphaZero 只花幾小時自學西洋棋，就用怪到沒人懂的棄子，把地表最強引擎打到崩潰。它下棋的方式不像人、也不像機器——這個謎，連棋王到現在都答不全。