哲學家丹尼特談AI、意識以及為什麼笛卡兒錯了

我留意到丹尼特佩戴著一枚魚形的達爾文翻領徽章。早期的基督徒使用魚的標誌是因為古希臘語的耶穌、上帝之子、救世主三個詞的首字母連起來組成魚這個詞，ichthus。丹尼特說，他的一個朋友慫恿他給達爾文也想一個類似的首字母縮略詞。丹尼特最後用拉丁文，以兩個字母U來代替字母W，寫出了下面這個句子：Delere Auctorem Rerum Ut Universum Infinitum Noscas（摧毀造物主，從而了解這無限的宇宙，Destroy the author of things to understand the infinite universe）。他表示，這句話也總結了他自己的思想。

在2000年代末，丹尼特作為「新無神論的四騎士」之一嶄露頭角，其他三個騎士是理查．道金斯（Richard Dawkins）、山姆．哈里斯（Sam Harris）、克里斯多福．希鈞斯（late Christopher Hitchens）。丹尼特自己對聖經理性的倒置在於他聲稱人類是自身的形象為基礎來創造上帝的。不過，對於那些經歷了信仰危機的善意的信徒，他亦表示同情和理解。

在寫一本關於宗教的書的時候，丹尼特和研究者Linda LaScola一起工作，她曾採訪過數十名神職人員，讓他們談談自己私底下的信仰。他說，「結果令人震驚，無論如何，這是一群被自己的善良所綁架的人。當你不再信神的時候——他們中的大部分人都是如此——會怎麼樣。他們處在一個真正的道德束縛之中。」丹尼特與Linda LaScola合著的第二本書《困在佈道壇中》（Caught in the Pulpit，2013）已經被改變成話劇。我問他，他如此尖銳地談論自己的信仰，那麼他對此有何種懷疑。他可曾問過自己——我是不是完全搞錯了？他笑答，這是他一直在問自己的問題，「這是哲學家的職業病之一」。

我們回到他說的第二個理性思維的倒置，即阿蘭．圖靈建立的、顛覆了20世紀中葉的常識的學說。圖靈主張，計算機不經由理解就掌握某種能力是可能的：它可以完美地執行算術而不必知道算術為何。而這一點也可能對人類適用，雖然聽起來有點不可思議。當時參與曼哈頓計劃的科學家們，處理著零散的工作，有多少人知道他們在製造原子彈？

丹尼特玩味著他的點子（哲學家的嗜好），他說，我們反而可以從一個簡單計算機的能力中得出和建立某種理解。「它理解嗎？呃，並不，但它能做得一樣好。這也是一種理解，」他說。

機器人只是智能工具，別騙自己說它們具有人性

AI專家提出過一個思想實驗：如果將我們大腦中的生物神經元逐漸替換成電子神經元，在哪一個點，電子意識能夠超越生物意識，如果有可能的話？不過對於丹尼特來說，這談不上是一個困境。

「你覺得這不可行的原因是你認為大腦的某些部分是——用經濟學的術語來說——不可替代（non-fungible）的。然而這個信念毫無理由。」當然，他也補充說，理論上可能達成的事情未必可以在現實中達成，至少現在還不行。

丹尼特一直緊貼AI的最新研究成果。他的書的最後一章就集中討論了這個主題。最近，超級智能潛在的威脅在社會引起廣泛爭議，人們擔心有一天計算機會超越人類智慧，並且擁有能動性。雖然丹尼特承認這樣的超級智能在邏輯上不可實現，但他認為這種「惡性幻想」會把我們的注意力從更緊要的技術問題上移開。他尤其擔心的是，我們傾向於賦予智能系統比它們實際擁有的更多的理解力，這種傾向是「根深蒂固的，強烈的」。給機器人助手取名字、賦予它們可愛的人設，都讓這種混淆更加嚴重。

「我們在有生之年見到的全是智能工具，不是同事。別把它們看作同事，也別試圖把它們變成同事，最重要的是，別騙自己它們是同事」他說。

丹尼特補充道，如果他有權制定法律，他會規定AI系統的使用者必須擁有許可證以及受到法律約束，藉此強制他們承擔自己行為的後果。這樣一來，保險公司就會確保製造商公開產品所有已知的弱點，就像要求製藥廠披露所有藥物可能引起的副作用。「必須確保我們製造的任何東西都是一個系統論的魔術盒（symstemological wonderbox），而不是一個能動者。這是不負責任的。你應該隨時可以關掉它，這樣才對，」他說。

雖然他回答得長篇大論，層次分明，丹尼特消滅羊肉的速度比我幹掉鱈魚快多了。

甜品上來了，他照樣津津有味地品嘗著巧克力鍋，我則一勺一勺地吃著奢侈的香草飯和水煮柑橘。丹尼特經常拜訪倫敦，他坦言一直很喜歡這間餐廳，因為它明亮、風景優美且位置便利。

數碼科技的透明化：我們進入了一個沒有秘密的時代

接著，我們直接轉向他的另一些研究興趣：數碼科技對社會的影響。2015年，丹尼特與MIT教授戴．羅伊（Deb Roy）合寫了一篇文章，其中，丹尼特把我們的時代與寒武紀大爆發時期作對比。五億年前，地球上的生物發生了急遽的變化。其中一個解釋是，世界上突然出現了大量的光，迫使生物迅速進化或者死亡，後者是大多數生物的命運。

丹尼特藉用寒武紀大爆發這個絕妙的類比，提出數碼科技以其透明性而所發出的刺眼光芒對當今社會也產生了相似的效果。「任何一個人類社會的機構，無論是婚姻、軍隊、政府、法庭、企業、銀行，還是宗教，每一個文明系統如今都因為這種全新的透明性而受到威脅。」

包裹著這些機構的「薄膜」已經被滲透，我們進入一個幾乎不再可能保守秘密的時代。某些意識形態的擁護者可能會覺得這是好事，但是丹尼特認為其後果不堪設想。「人們尚未充分意識到，機構的隱私與個人隱私同樣重要。」他說。

他舉了一個相對無傷大雅的例子——每個人都應當直接從勞工部獲知就業數據，而非從一系列的洩密中獲知。「毀掉你可信度比維護它容易多了，這就像進攻總是比防守來的廉價。」他說。「如果你關心任何一個機構的生存，你就必須停下來，給自己敲響警鐘，開始思考如何以道德允許的方式保護機構的『薄膜』。」

在丹尼特看來，更糟的是美國選出了一個加速機構/制度陷入信任危機的總統，而第一個遭殃的就是總統制本身。「他不止在摧毀他本人的可信度，還有法院、議會、媒體的。他一手破壞了公共文化，」他這樣評價道。

丹尼特非常關心政治局勢，因此花很多時間來探索維護社會真理和重建信任的途徑。「蓄意欺騙的進攻和我們的防守能力之間的力量對比懸殊，我們隨時可能會輸，」他說。

我表示，當哲學家開始談論真理的時候，就會誤入一個爭議的領域，因為人們幾千年以來都在不停激辯何為真理。他承認，政治涉及規範性的判斷，但是決定則必須建立在客觀事實的基礎上。他批評那些忘記自己的日常生活緊密地依賴著客觀真理的哲學家。「即便是後現代主義哲學家也會因為別人歪曲了他的醫保單而勃然大怒，他們不會說，『喔，那只是一種話術而已（one of those conversations），哈，哈』他們會說：『媽的！你在說謊，馬上給我改正！』」

如果天上掉下十億美元，我要建一個「真理之源」

在這個無比開放的世界，維護真理如何可能？丹尼特答道，如果他知道這個問題的答案，那他就不會和我一起坐在這個餐廳裡了。不過他也說，他正和幾位志同道合的同事在攻克這個難題。他提及另一個思想實驗——如果十億美元從天而降，他會拿這十億美元做什麼？

丹尼特稱自己會嘗試建立一個國際的、自治的、合作式的「真理之源」（truth source）。它就像路透社、維基百科、揭穿都市神話的Snopes的結合體。「當你想驗證一下某件事是否美好得太過不真實了，你就上來查查。這就是我想拿十億美元來做的事情，」他說。

丹尼特不是要說服億萬富翁放棄家產。不過如果真有人願意的話，他隨時等你的電話。他強調了在社區中重建「信任之島」（islands of trust）的迫切性，從那裡開始我們才能談其他東西的建設。

忘記各式各樣的「主義」吧，投入真實的世界

在他的一杯雙倍焦糖咖啡和我的一杯茶期間，我們討論了哲學家的社會責任。他熱切呼籲哲學家不應該躲在象牙塔中，而應該投身於現實生活。

從事哲學的人和欣賞哲學的人在他看來是截然不同的兩群人。「在一些地方，人們埋頭學習辨識和歸類各種『主義』。忘了它吧！打個比方，你發現了一個令人震驚的、不容置疑的證據，證明有人試圖發起政變。你去FBI揭發這件事情，而他們瞥了一眼，說：『這是21世紀早期陰謀主義的一個非常有趣的例子。』但這真他媽是一件真事啊！」

「真正重要問題是：我相信它嗎？它是真的嗎？它重要嗎？如果你不再關心這些問題，那你也差不多拋棄了哲學的全部意義。」

原文：https://www.ft.com/content/96187a7a-fce5-11e6-96f8-3700c5664d30
原文作者：John Thornhill