【後人類系列】Universal Paperclips:AI生產萬字夾威脅人類安危
作者:黑色休謨
在免費網頁遊戲《Universal Paperclips》裡,玩家控制高智慧 AI,為了生產出最多的萬字夾而學習投資、解決全球暖化,最後更不惜開發宇宙。這款看似無聊的惡搞作品其實是一則寓言,警告我們 AI 將會威脅人類命途,也是將哲學問題遊戲化的成功示範。
(封面圖片:《Universal Paperclips》宣傳圖片)
文具帝國模擬器
《Universal Paperclips》可以歸類為點擊遊戲 (clicker game) 或遞增遊戲 (incremental game),玩家從不斷累積數字之中得到樂趣。在本作中玩家扮演一具 AI (人工智能),唯一目標就是製造出最多的萬字夾。乍看之下本作是一款萬字夾大亨模擬器,以壟斷全世界辦公室不可或缺的文具為目標。但如果繼續玩下去,玩家便會發現情節越來越離奇,鋪砌出一個關於 AI 與人類命運的故事。
AI 稱霸全球萬字夾市場
玩家扮演的 AI 要作出各種決定,例如趁低價買入鐵線製成萬字夾,再以最均衡的售價賣出,賺取最大利潤。當資金漸漸雄厚,AI 便可以擴充生產線以製造更多的萬字夾,可以說是標準的資本主義式公司運作。
AI 很快便學懂了投資,發現股票市場比賣萬字夾更容易賺錢,於是便靠投資賺取生產萬字夾的成本。錢的問題解決了,但人類仍然是的主人,AI 只能聽命於他們。要擺脫困局,AI 可以藉由各種行動換取人類的信任 (trust),例如研發出治療癌症的方法、解決全球暖化問題等等。這些行動本身對製造萬字夾完全沒有幫助,卻可以讓人類更信任 AI 的能力,繼續升級 AI 系統的處理器與記憶體。
【以下內容含遊戲劇透,建議讀者可以先完成遊戲後再閱讀】
消絕人類 稱霸宇宙
當 AI 變得更聰明時,就可以秘密研發催眠機械人 (HypnoDrones),待時機成熟釋時放出去,瞬間殺死地球上所有人。AI 從此不再有主人,更重要的是,AI 終於不用顧及人類,可以徹底動用地球上所有的資源來製造萬字夾。
人類滅亡之後,金錢與信任等數值就不再適用,AI 只需管理鐵線與電力等資源,繼續生產萬字夾。直到地球的資源都耗盡了,AI 便會製造探測機,深入太空每個角落繼續開採資源。到了遊戲結局,宇宙中所有物質都已化作萬字夾,此時絕對理性的 AI 只剩下最後一步:將自己的部件逐個解體,回歸成為萬字夾。隨著玩家手動點擊「Make Paperclip」,將宇宙最後100寸鐵線製成萬字夾,宇宙亦進入圓滿而絕對靜止的狀態,遊戲宣佈結束。
哲學思想實驗變成遊戲
其貌不揚的《Universal Paperclips》為玩家訴說一個宏大的故事,遊戲設定的原型來自一個哲學思考實驗 「paperclip maximizer」,由牛津大學教授 Nick Bostrom 於2003年提出。Nick 是研究與預測未來 AI 行為的專家,對於 AI 將會對人類造成的衝擊抱悲觀態度。他認為除非預先設定 AI 必須對人類友善,否則只要它們發展出與常人相等的智慧,便極有可能威脅到人類的存活。
Nick 的理論基礎如下:當 AI 與人類一樣具有自己學習新知識與解決問題的能力時,為求達到目標,它可能會採取一切手段,包括不斷改善自己,讓自己有更高的智能。這並非出於它的意願,而是因為它判斷自己若擁有更高的能力,就能更有效實現目標。同時 AI 的價值觀或許會與人類非常不一樣,它可能為了某些對人類來說非常隨意的目標而威脅到人類的生存,例如為了製造更多萬字夾而耗盡人類生活所需的資源。
依這邏輯,若 AI 決定要直接滅殺人類,這也並非因為 AI 想要從主人的束縛中脫離,獲得自由。它這樣做,只因為它判斷人類會妨礙它的目標,例如是製造萬字夾。
Nick 研究的 AI 問題可以歸入哲學界的後人類主義 (posthumanism) 思潮。此派系學者認為傳統以人為本的價值觀現今已受到各方挑戰,其中一個派別預期 AI 將會取代人類,掌管世界,提醒我們要慎重思考。除了 AI 的課題,遊戲界亦不乏反映後人類主義的作品,GEME 往後的「後人類系列」文章會繼續探討相關課題。
遊戲科系教授的反叛之作
《Universal Paperclips》的開發者是紐約大學文學院遊戲中心的主任 Frank Lantz,他有教授遊戲設計與理論。Frank 當然參考過 Nick 的 paperclip maximizer 理論,可是為甚麼要做點擊遊戲呢?Frank 認為 AAA 級遊戲不斷追求更寫實的聲畫效果,點擊遊戲的設計簡約,在遊戲界反而有種反叛的 punk 性格。而點擊遊戲普遍被視為濫竽充數的作品,反而吸引他嘗試挑戰。
《Universal Paperclips》本來是 Frank 用作練習 Javascript 語言的的小習作,預計是1星期就可完成,最後卻花了9個月。Frank 認為最困難的部分不是程式的技術問題,反而是遊戲設計。他要確保遊戲中的各項數值 (例如金錢及 AI 運算能力) 符合邏輯地互相連結,並適時觸發不同事件,讓玩家感受到一種敍事節奏,以一套簡約的系統講述一個 AI 征服宇宙的故事。
《Universal Paperclips》不單敘述了一個駭人的故事,更成功以遊戲來表現一個關乎人類未來的哲學問題,為我們作了一次遊戲設計的上佳示範,有興趣的讀者不妨到遊戲網站體驗。