人工智慧與倫理學（上）：甚麼時候我們開始關注機器人的感受？

倫理是有關生活價值與行為正邪的探討。而無論生活還是行為，都是在人的關係中展開的，人的世界就是一個關係的世界。這些關係包括人與自然的關係、人與人的關係，乃至人與自我的關係、人與超越存在的關係。今天的世界出現了一個極為重要的新情況，就是人工智慧的飛速發展使一種新的物——智慧型機器也出現在倫理思考的範圍之內。

繼人從自然、從物中分離出來後，一種新的存在也有可能再分離出來。這種新的存在既是物，初始又是人創造的。它結合了人與物的兩方面性質。它是不是有可能取代人目前所取得的「超級物種」的地位？這是人工智慧對人類提出的最大挑戰。對此筆者將另文探討，這裡主要從倫理的角度探討對人機關係的認識，探討人們對目前的智慧型機器能做些什麼，能提出一些什麼樣的基本倫理思路與規範。

人與物的關係

作者 | 何懷宏

作者簡介 | 北京大學哲學系教授、博士生導師

世界上除了人，還有物。人本來也是物，現在也仍然還可以籠統地歸於物或者說一般的存在。但如果從人的特性，從人的能力、意識、道德而言，人就可以區別乃至對峙於地球上的其他所有物。這樣就有了人與物的關係，但人與自然物的關係長期以來並沒有納入道德的理論系統中來考慮，沒有成為一種道德理論或生態哲學的體系，直到20世紀下半葉才發生改變。

我們可以從不同的時間長度來回顧人與物的關係的歷史：地球史、生物史、動物史、人類史和文明史。前面的歷史包含著後面的歷史。當然，前面三種只是一種人類的史前史，只是方便我們看到人類的自然來源。

人猿揖別，人先是直立起來，就騰出了兩隻手，手的拇指能與其他手指對握，就能夠握持和製作工具；火的發明使人能吃到熟食乃至保存，它促進了腦力的發展，而且人工取火還能成為生產的工具，如利用火把來驅趕和燒死動物。人從一開始大概就是群居動物，有了意識之後更懂得分工合作。

二三十萬年前出現的現代智人，還在以採集狩獵為主的石器時代就已經造成大量物種的消滅了，他們用火把、呐喊、石塊、木棒等，利用分工協作的群體力量，將其他動物驅入山谷，使之大量死亡，真正吃下去的其實只是很小的一部分。而且他們的狩獵物件首先是一些大型陸地動物。

很長時間內，人對天空中的鳥和深水中的魚都不太能夠順利地把控，他們缺乏這方面的能力，甚至對微小生物也不如對大型動物有辦法。根據近年的研究，智人大致是從東非出發，後來分別到了亞洲、歐洲、澳洲、美洲。而他們走到哪裡，就造成那裡的一些大型動物迅速減少甚至滅絕，甚至一些原先的人種也消失了。

這大概是人與物的關係的第一階段，即他從其他動物中脫穎而出，能夠借助工具和智力來與任何一個物種甚至所有物種對峙與抗衡。第二個階段則是從僅僅一萬多年前的人類的農業文明開始。人在文明史的階段，逐步變得不僅能夠抗衡，而且能夠支配其他所有的物種，成為地球上的主人。

他獲取食物和能量的方式，開始從以採集狩獵為主轉到以種植畜牧為主。他不僅利用無生命的物體如石塊作為工具，也開始利用其他的動物作為工具了。他利用畜力來延伸和擴大自己的體能，不再只是獲取現成的自然物，而是通過改變自然物的形態以達到自己的目的。各種栽培的作物、馴養的動物，都不再完全是原先的樣子了。

人開始以越來越大的社群定居，經濟生活有了穩定的預期，可以養活少數的有閑階層來專門從事文化的工作，直到出現城市、文字、金屬工具和國家，乃至出現軸心時代的精神文明。
 

到了近代工業革命又是一個飛躍，人發明了蒸汽機、內燃機、電力，人利用煤、石油等自然資源，設計和大批製造了各種機器，極大地增強了人征服自然的能力。人在農業文明時代對自然物的改造，多少還能夠看出原來的模樣，工業革命時代的產品，就幾乎看不出原來的模樣了。人大大地改變和提升了各種獲取食物和能量的方式。這各種各樣的人造的機器已經不是自然物了，但卻還是沒有自身智慧、不能自我學習和獨立改進的人造物。人真正成了地球上所有自然物的主人，他能夠輕易地戰勝所有其他物種或其聯合，能夠移山填海，改變自然界的面貌。
 

那麼，人是依靠什麼達到這一切的呢？在這一過程中，人的體能並沒有什麼長進，在某些方面可能還退化了。人迄今在速度、力量、耐力、柔韌等方面還是不如地球上現有的某些動物，但他卻完全可以支配它們。他使它們就範所依靠的當然不是他的體能，而是他的智慧，是他的智慧所帶來的具有極大優勢的暴力和強力。人和其他動物之間自然也就處在一種很不平等的關係之中，只是到近年人類才稍稍有所反省和補救，但這種關係的不平等性質並不可能改變。

人依靠他的智慧，可以大大擴大和延伸他的體能，甚至完全不用自己的體能而辦成他想辦的事情。人哪怕開始只是比其他動物似乎稍稍聰明一點，也會帶來越來越大的差距。智慧貫穿人類進化的始終，今天看來更是獨領風騷。這裡所說的「智慧」自然不是人的意識能力的全部，而主要是指人對物質世界的認識和控制能力，人另外還發展起一種試圖認識世界之根本、人生之意義以及審美、藝術等諸多精神領域的能力，人與其他動物的不平等的緣由和本質差別甚至更多地是來自這些方面。但控物的智慧卻是人類對其他動物取得優勢和支配力的主要依靠。

當人類進入文明階段，有了勞心階級、國家和語言文字之後，智力則有極大的、飛速的長進。於是我們看到了加速度乃至指數速度的發展：地球有約40多億年的歷史；生命有30多億年的歷史；動物有約7億年的歷史；人類有近300萬年的歷史；現代智人有20萬年的歷史；文明有1萬多年的歷史；國家有5000餘年的歷史；工業革命有300年的歷史；而新的或可稱作「智慧革命「的高科技文明則大概只有五六十年的歷史。

人只是到了文明階段，有了明確的自我意識，有了明確的「人禽之別」的意識，才有了一種實際上存在的道德關係。但是，對人與物的道德關係的系統認識和有意識的調節，還要到文明的更高階段。而且，即便是文明階段的人和人之間，還有時重新墮入那種動物般的生存競爭的狀態，這時對雙方幾乎都沒有什麼道德可言，很難對其中的一方做出讚揚或譴責的道德評價。但這可以說是非常狀態，對為何墮入這種非常狀態，還是可以做出道德評價並進行各種補救和調節。

對人與物的道德關係的調節，必須首先解決一個「道德地位」（moral standing）的問題。人在征服其他物種尤其是動物的過程中，並不理解其他動物的全部感情和感受，甚至沒有嘗試去理解。他也不是對它們懷有惡意，人捕獲它們、吃掉它們，並不是出於憎恨。人和人之間畢竟都是有自我意識的，但動物、生物乃至其他一切自然物沒有這種自我意識，無法成為道德的主體。但人是否就可以隨心所欲地對待它們呢？它們是不是還能獲得一種得到人的道德對待的地位呢？這種道德地位的根據是什麼呢？

對這種道德地位的根據的問題，各種生態倫理學理論有一些不同的回答。但大都認為，其他物種或物體也具有它們內在的、固有的或天賦的價值。其他物種或物體雖然沒有意識，不是道德的主體（moral subject），但它們因為具有這種內在價值，也應當成為道德關懷的對象（moral object）或者說「道德顧客」（moral patient），而人也應該成為對它們進行道德關照的代理人或代理主體（moral agent）。

當然，除了「道德地位」，還會有一種「道德重要性」的考慮。即均獲得一種需要關照的道德地位的其他物種或物體，還是有一些不同的道德重要性。比如動物看來就因其具有感受性而應獲得更大的關照，像虐待動物就應該首先在排除之列，其次是有生命的物體，再次則是無生命的其他所有物體。當然，也可以將整個的自然環境視作一個生態系統來考慮。

人與人的關係

倫理學的中心，尤其是傳統的倫理學可以說主要是處理人與人的關係，即人際關係。對這種人與人的關係，有時容易僅僅理解為個人與個人的關係，中國傳統的倫理學尤其注重親人之間的關係。但廣義的人際關係應當包括三個方面：第一是個人與個人的關係或者自我與他人的關係，比如一個人與親人、朋友、熟人、生人的各種關係；第二則是個人與各種群體，諸如因地域、種族、文化、宗教、政治乃至興趣而結成的大大小小的群體的關係，這裡最重要的還是個人與國家的關係；第三則是人類的各種群體與群體的關係，這裡最重要的大概也是國家與國家的關係，或者說政治共同體之間的關係，還有宗教團體之間的關係。而在人類世代之間甚至還可以說有一種「代際關係」。

人與人之間的道德關係和行為規範是不是大致在進步呢？採集狩獵時代的人結成小的原始群體，內部非常平等，但對外部的其他人類原始群體則相當暴力或者說殘忍（如果說能夠用這個具有道德意味的評價詞的話）。農業文明階段則出現了國家，在各個政治社會之間還是有相當的衝突，但不是像原始時代那樣你死我活了；在政治社會的內部則更加溫和與和平了，人們通過政治秩序更能保障自己的安全與生養，但這是建立在某種等級制的基礎之上的。到了現代社會，道德調節範圍不斷擴大：所有的人都被視作平等的個體，雖然從生存平等、人格平等到基本人權的自由平等，也有大段的曲折。

而暴力的減少也是一個總體的趨勢，雖然也有曲折乃至大的波谷，像20世紀上半葉就爆發了兩次世界大戰和許多內戰、騷亂，但二戰之後的總體發展是暴力大幅減少，尤其是在發達國家與迅速發展的國家內部，我們甚至看到它延伸到家庭和學校，霸淩和體罰等都呈現日趨減少乃至禁絕之勢。人們的最低生活保障標準也在不斷提升，如食物、醫療條件的大幅改善，瘟疫的趨於消滅，人的預期壽命普遍增加。道德調節的範圍乃至擴展到所有生靈和自然物——雖然在要求的程度上有所不同，這種人物關係的改善或也可以說是人際關係改善的一種延伸。

如果我們以暴力與平等的兩個標準來考察人類道德的進步，那麼在暴力方面大致是一種相當平滑的線條：在人類的前文明階段，或者說採集和狩獵的階段，暴力是相當頻繁和殘酷的；在農業文明的階段，暴力減少了；在工業文明的階段，雖然也有起伏，但至少從截至目前的總體趨勢而言，暴力繼續減少了，雖然足以毀滅人類數十次的大規模殺人武器還存在。從平等的角度觀察，則大致是一條曲折的線條：在採集狩獵階段，有一種內外有別的內部高度平等；在農業文明階段，則基本上是一種不平等；到了工業文明階段，則走向了一種比較全面的包括所有社會成員和囊括各個方面的平等。

暴力與平等，不僅是我們觀察人際關係的兩個最重要的道德標準，也可以作為觀察人物和人機關係的重要標準。反對暴力和非法強制涉及到生命和自由的基本原則，構成在各文明和宗教中諸如摩西十誡中的「四不可」、基督教金規和儒家忠恕之道這樣的道德規範的核心內容。像國家這樣的強制暴力固然還是不可缺少，但產生這樣的暴力還是以「以暴制暴」為宗旨的，它針對的正是人類的暴力行為。雖然這種國家暴力也會被濫用，但如果它能遵守這一宗旨，且必須經過一定的法律程式才能實行，那麼，它還是能被人們廣泛接受。

人類目前已經歷了原始群體階段的內部很平等和外部多暴力、農業文明階段的不平等和少暴力、工業文明階段的廣泛平等和更少暴力的過程。人與自然物的關係近年雖有諸多改進，但還無法處在一種像人與人之間的平等地位。新出現的生態倫理學理論試圖對此有所平衡，尤其是非人類中心理論如動物權利和動物解放理論，試圖更加關懷和提升弱勢生命的地位，但還是不可能做到真正平等。這大概也是人類道德不僅不可能，甚至也無必要去做的。生態倫理學中的一種整體觀點可能更有道理，它也使我們聯想到像古代斯多亞派那樣的普遍宇宙理性，但它還是不能不給人類以更多的權重。

人與物的這種不平等關係的根本原因，可能還是人與自然物是屬於不同的存在種類，後者沒有理性和自我意識，而所有有意識的甚至僅僅有感覺和生命的存在都會更優先地傾向於自身的保存。即便是按照整體論的觀點，所有的生命都應該共生，所有的存在都應該共存，但每種生命都會本能地或者是有意識地優先考慮自身的生存，而不是優先考慮其他物種的生存。這也是有道理的。所以對人能夠提出的道德要求，應該是人也應當儘量兼顧其他物種的生存，而並不是要求人類相比關心自己的生存更關心其他物種的生存。否則就可能脫離人性，甚至也脫離物性。

那麼，對於人與智慧型機器的關係，我們是否也可以從上述兩個標準觀察，考慮能夠建立一種什麼樣的關係，並儘量地減少暴力呢？

人與智慧型機器的關係

自從電腦和網路、機器人、生物技術、納米技術等高科技問世且越來越快地發展，人類進入了一種新的技術革命。其核心或可稱之為「數位革命」、「演算法革命」，或者更綜合地說是「智慧革命」的階段。如果說以前的工業革命主要是以極高的效率解決人類體力所不及的問題，現在的智慧革命卻是以極快的速度解決人類智力所不及的問題。智慧一直貫穿于人類征服自然的始終，今天看來還要獨領風騷。

隨著這些技術革命和革新，人類今天進入了一個新的階段，這一新的技術革命或許將使人類文明脫離「工業革命」「工業文明」的範疇。目前還仍然將高科技的發展歸在「工業文明」的大範疇內，但未來或許要將這種智慧革命帶來的新文明獨立出來，構成一個新的文明階段，而「工業文明」或許還可歸之于利用和改造自然物的人類文明階段，未來的以人工智慧為中心的文明則可能是一種創造全新的人造物的階段。由此就給人類倫理帶來以前從未遇到過的新問題：如何認識和處理人機關係？

人類不僅一開始就要從生存發展的策略和技術上考慮人與物的關係，或者說人與自然的關係。人從精神文化上考慮這種關係也很早就開始了。最早的希臘哲學家試圖認識自然世界的本質、構成、元素，以及人與自然共用和區別的東西，人與自然應該處在一種什麼樣的關係之中，等等。中國古代的思想家也提出過「道法自然」「天人合一」的命題。古人也曾提出和實行過種種維護自然環境和生態的一些規則，並在近數十年出現了系統的環境倫理的哲學理論。但是，迄今的確還難說有關於人機關係的系統倫理學理論。這緣由是什麼呢？當然，最直接的一個解釋就是：人工智慧對倫理提出的挑戰還是一個很新、晚近才出現的事物。

但我們還可以結合也是晚近才進入我們系統性倫理思考的人物關係的論據，來更細緻地回答這個問題：為什麼我們過去幾乎不重視甚至很少考慮人機關係的倫理問題？察看一下近年來環境哲學提出的有關應該注重人物關係的倫理，善待其他生靈和關心整個生態的論據，大致有以下幾點：

第一是感受性，這主要是對動物有效。其他動物也和人一樣會感受到痛苦，雖然主要是生理上的痛苦，但也有心理上的痛苦，不僅有受害動物感受的痛苦，甚至也有它的同伴的痛苦。一隻大雁被人擊傷掉落了，不僅這只大雁感受到痛苦，它的同伴也常常會徘徊不去，哀鳴不已。

第二是生命，這也包括了植物，植物也是有生命的。你拔起一株花，它很快就枯萎了。你砍伐掉一棵樹，它也就永遠不能鬱鬱蔥蔥了。

第三是整體性，這包括了所有的自然物，尤其是地球上的自然物。不論是有生命的還是無生命的，它們構成一個人生活在其中的生態整體，從整體的觀點來看，幾乎也可以說是需要相互依存。

第四是自然性，自然界是先於人類而存在的，自然物也是可以不依賴於人而獨立存在的，而人卻必須是依賴自然而生存的。最後可能還有一種自然給人帶來的感受問題，自然萬物常常能夠給人帶來一種美感，甚至還喚起人們的一種宏大感、深邃感、莊嚴感乃至敬畏感。基於上面的理由，人不僅應當善待動物，愛惜生命，即便是無生命的物體，也應當儘量保護它的原生態和自然性，保留一些原生態的荒野、濕地、雪峰等，維護整個生態系統的平衡。

但以上這些理由似乎對人造的機器和機器人都不適用。它們是矽基原料或者加上金屬，不具有我們人與動物共有的肉體感受性；它們看來也不具有會自己生長、變化和繁殖的生命，也不構成自然整體的一部分——它們在自然界本來是不存在的，只是人利用一些自然原料造出來的物體；它們也不會自然地給我們帶來美感，或者說，優美與否是我們按照自己的審美觀賦予它們的，是出於我們的設計，看來也喚不起一種宏大感和敬畏感。所以，此前人們對機器的態度是比對自然物差的，人們會根據自己的需要更加隨意地對待它們：會拆卸、報廢和處理它們。沒多少人會想我們要像善待動物一樣善待機器。保養它們也只是為了讓它們更好和更長久地為我們服務。當然，也沒有人真的恨它們，過去盧德分子搗毀機器其實主要是傾瀉對人的怒火。

但為什麼我們現在需要認真地考慮人機關係的倫理問題？這變化可以追溯到什麼時候？是什麼因素使我們必須思考機器倫理的問題呢？

工業文明早期，機器還是我們製造並完全可控的產品，並不存在倫理的問題。這一變化大概發生在機器開始自我學習、自我改進的時候，即出現了自動化機器，直到智慧型機器人的出現，這時機器開始擁有了人的一部分能力，即控物的能力、工具理性的能力，這也是人賴以戰勝其他動物的能力。機器開始擁有了智慧，擁有了工具或技術的理性——而這工具理性正是現代社會的人最為推崇和廣泛應用的一種理性。機器在這些方面開始有些像人了，但在人的其他意識能力方面，比如說情感、意志、整體的自我意識方面，它們還不像人。

但既然有了一部分人的能力，它們是否會發展到也將擁有自己的情感、意志乃至自我意識？如果未來的發展的確是這樣，甚至在它們只具有人的一部分能力的情況下，我們是不是就應該開始考慮我們與它們的倫理關係問題？當然，促使人關心這一問題的一個最大潛在動因可能還是一個威脅的幢幢暗影——那就是它們會不會繼續發展到在智慧方面超越人乃至替代人？

許多科學技術專家可能是一心專注于研製與開發，這方面我們得感謝文學藝術家，是他們的作品，包括許多科幻小說和影視作品，從一開始直到今天都在堅持不懈地提出各種可能的人機倫理問題。

最早使用「機器人（Robot）」這個概念的捷克作家恰佩克（Karel Čapek），在1921年發表的作品《羅素姆萬能機器人》（Rossum's Universal Robots）中就很超前地提出了人與機器的關係問題。其劇中，發明和製造機器的人們動機各不相同，有的是為了利潤，有的是為了科學，有的甚至是出於人道的理想——如主管多明就是希望能夠將人類從繁重的勞動中解放出來，都變成享有尊嚴和閒暇的「貴族」。於是，公司製造的大量機器人在全球被用作苦力，而來到機器人製造公司的總統的女兒，則希望人道地對待機器人。十年後，機器人開始在全世界造反了，組織了國際機器人協會，殺死了這個工廠的管理人，結束了人類的統治而開始了自己的統治，雖然他們不久也遇到如何繁殖或複製自己的問題。

科幻作家阿西莫夫（Asimov）在小說《轉圈》中最早提出了給機器人設定的三個倫理規則：1.不得傷害人和見人受到傷害不作為；2.服從人的指令；3.自我保存。這是有序的三規則，即越是前面的規則越是優先，後面的規則不得違反前面的規則，機器人甚至不能服從人發出的傷害人的指令（如主人想要機器人説明自己自殺的指令）；機器人的自我保存不僅不能傷害人，也不能違反人的旨意。如果出現機器人即將傷害人的情況，或者即便不在這種情況下，但只要人發出了讓機器人自殺的指令，它也必須服從。這顯然是以人為中心的規範。

要實行這些規則自然會有機器人判斷的負擔，即如何判斷人——被傷害的對象和作為發令主體的人，這人是指發明製造它的人還是使用它的人，是指人類個體還是整體，因為他們之間是可能出現矛盾的？還有判斷哪些情況會傷害人，以及在無法避免傷害人的情況下選擇傷害哪個或哪些人；在不同的人發出不同的指令的時候，究竟服從誰的命令；等等。阿西莫夫在一些作品中也描述了其中的一些矛盾和困境。他不僅認真地考慮人機關係——當然，這種關係毫無疑義是不平等的，還試圖明確地提出調節的倫理規則，這是一個很有意義的起點。

後來的人們對這三個倫理規則有不少修改和補充，但都傾向於做加法，增多或提高要求，包括阿西莫夫自己，或是鑒於機器人可能成為惡人保鏢的危險，自己也加上了一條更優先的零原則：「不得傷害人類整體。」但做加法將繼續加重機器人判斷的負擔，還打開了誤判或冒名和假託「人類利益」的缺口。

本文原載《探索與爭鳴》2018年第7期，第27-34頁

《01哲學》，哲學入門，深入淺出，更好地理解，更好的邏輯。
立即下載《香港01》App：https://hk01.onelink.me/FraY/hk01app