人類早晚玩死自己？ 馬斯克等人叫停AI研究的三點體會｜杭子牙
GPT-4發布兩周後，馬斯克（Elon Musk）等上千名科技界人士簽署的公開信在網上發布。這封公開信因此呼籲所有人工智能實驗室立即暫停比GPT-4更強大的人工智能系統的訓練至少6個月。
AI領域教科書《人工智能：現代方法》合著者斯圖爾特·羅素（Stuart Russell），圖靈獎得主約書亞·本吉奧（Yoshua Bengio）、蘋果聯合創始人史蒂夫·沃茲尼亞克（Steve Wozniak）等著名科技人士均在這封信上署名。
這封公開信聲稱，「高級AI可能意味着地球生命史上的深刻變革，我們應當投入相稱的關注和資源對其進行規劃和管理」。這封公開信還提到，當代人工智能系統在一般任務上已經變得與人類具有競爭力，這是一個危險的趨勢，「只有當我們確信強大的人工智能系統的效果是積極的，其風險是可控的，才應該開發。」
結合對AI及當下國際關係體系和中美在這一領域的競爭力研究，筆者對這封公開信有以下三點體會：
第一，大家千萬不要再以傳統機器人或普通人工智能的粗淺視角認識現代大型AI，現代AI是一個和傳統完全不同的東西，已經具有了自我意識，開始在佔有海量資料的基礎上依據算法自我思考，能夠自我進化。
ChatGPT剛面世的時候筆者就撰文警告稱，「它*」是一個一體兩面的東西，一方面在科技與社會生產上具有顛覆性革命的意義，將大大提升生產效率，給各行業帶來革命性變化，另一方面，「它*」已經具有了矽基生命的某些雛形，開始有自我意識，會思考，能夠自我進化，接下來很可能就會有自我保護與領地意識，如果一些人或機構或國家在研發生產的時候在裏面埋下一些反人類的潛在程序，或是未來「它*」們開始和人類爭奪空間資源，將是非常危險的事情。
千萬不要再愚蠢的認為拔掉電源就能讓「它*」們變成一堆廢鐵，認為人類可以控制「它*」們，未來真正的AI是會自己尋找和製造利用能源，自己生產自己，並自行判斷哪些行為對他們有危害並開始自行反擊的，到那個時候「它*」們是否會奮起反抗乃至反擊消滅人類是個未知數。我們用「它*」這個詞，不是他或她，也不是它，大家應該知道這是什麼意思。現在看到那麼多科技人士認識到這個問題的嚴重性並開始達成共識發出呼籲，這非常令人欣慰，即為筆者當初先見之明欣慰，也為我們人類科技與哲學精英們的科技理性欣慰。
第二，非常悲哀的是，對人類能否達成最終共識，在找到妥善辦法排除各種潛在危險之前，停止對更強大AI系統的研發訓練，筆者並不抱多大希望，有極大可能，我們最不樂見的事情，會恰如我們所預警的那樣發生。這不是自我實現的預期，更不是滅人類自己威風，而是人類的劣根性與現代民族國家的競爭性衝突所決定的，資本或許也在期間發揮了某些作用。
我們可以回顧一下，自人類社會誕生以來，有哪一天不是在糟糕的互相毀滅性競爭中度過的？生存與利益爭奪是人類的本性，現代民族國家競爭與資本的逐利本性則相當於為這種本性安裝了兩個自我驅動的輪子，科技發展則相當於為之裝上了一台往自我毀滅的終極目標狂飆的噴氣發動機。
自人類進入工業革命以來，各國達成過兩個共識，一個是成立了聯合國，一個是不隨意研發和使用核武器。可是我們現在看看，這兩條共識，人們遵守得怎麼樣？聯合國在大國利益對抗與爭奪上基本上已經成為廢物了，核武器這個東西也早已在一定程度上氾濫只是還沒有被在戰場上濫用罷了。
在這個日益動盪，走向對抗，又互相缺乏戰略與安全自信的世界，各民族主權國家會停止在AI系統的研發與投入？即便達成了某些共識，各國會自覺遵守共識？能否建立起對破壞共識者的有效懲罰機制？筆者對此嚴重懷疑，極為悲觀。
第三，必須實事求是地認識到，以ChatGPT面世為標誌，在大型AI研究上中國已經落後了，落後的原因非常值得深入思考並需要儘快調整。大型AI訓練與研究需要幾大要素，一個是大容量先進晶片，一個是涵養創新的社會氛圍與科研環境，一個是海量不受限的供AI佔用思考的公開人文社科資料，一個是有大量為了個人理想愛好和人類公共利益投身研究的科研人員，這些有些是基礎性的，有些是機制性的，有些是公共性的，有些是市場性的。
回顧中美競爭與這幾年美國在AI領域狂飆突進的過程，可以明顯感覺到美國這幾年對中國進行嚴厲科技封殺，阻斷科技流動，遏制中國在晶片領域形成研發與生產能力，除了宏觀層面的國家競爭與新冷戰之外，與美國在以ChatGPT為代表的AI領域的迅速冒起具有某些內在聯繫，同時和中國內在的某些不利於創新型科研的機制性、氛圍性短板也有一定關係。所以接下來如果中國想在這條賽道上更具競爭力，必須從多領域共同入手依科技發展規律進行某些調整才行。
必須認識到，因為AI會產生的巨大效益，在這個領域長期落後將是災難性的，不僅是經濟與科技層面的災難，還可能構成國家安全層面的災難，回顧人類工業革命與訊息革命帶來的國家之間的發展落差以及不同命運對此就會有一定程度的認識。所以中國一定要想辦法重塑在科技與AI領域的競爭力，儘快縮小與美國在該領域的差距，並爭取對美形成領先優勢。
筆者知道，以上三條思考本身就是矛盾的悖論：我們希望人類能停止在AI領域的危險競爭，但是因為人性與民族國家存在這個希望一定會落空，每個國家都希望自己能在這個領域比對方更具競爭力，這大概就是我們人類的悲哀之處吧。人類早晚會自己玩死自己！