Sam Altman正製造Skynet？發展AGI對人類構成威脅嗎｜新聞背後

路透社11月23日報道，OpenAI辭退行政總裁奧爾特曼（Sam Altman）的原因，是因其開發中的通用人工智慧（AGI）「Q*」恐怕會對人類構成威脅。截至現時OpenAI未有就路透社的報道作出回應，因此無法證實事件及「Q*」的存在，但什麼是AGI？為何AGI發展可能對人類構成威脅？

AGI全稱Artificial General Intelligence，與今天的一般AI不同，AGI是一款可以「在任何領域」都能完成任務的人工智慧。今天一般的AI在工作上有很大限制，如深藍（Deep Blue）下棋非常厲害可以擊敗世界棋王，但它不會讀書、不會寫論文、不會斷證醫病、也無法解答除西洋棋以外的所有問題。

與之相比，AGI則如人類一樣，可以做出「任何事情」。而且AGI還有能力學習及分析讓自己進步，因此可以「比人類做得更好」。

AGI的發展依然很初步，目前並未有已知可稱為AGI的人工智能出現。ChatGPT可說是今天最接近AGI的東西，具備一定的學習及分析能力，但ChatGPT只集中在生成功能，且給予答案尚有瑕疵，還有機會因「過度學習」出現混亂。

OpenAI暫未為路透社報道置評，因此也無法一窺「Q*」是什麼。但從各國關注AI的發展，及今次OpenAI辭退奧爾特曼的事件，AI發展對人類未來構成影響已是無可爭辯的事實，AGI的出現必然對今天我們認知的世界帶來翻天覆地的改變。

未來戰士的Skynet？

正如電影《未來戰士》（Terminator）的劇情一樣，一些人會擔憂AI一天會發展出自我意識並決定摧毀人類。儘管劇情內容缺乏邏輯，電影確實展示着一種未來的觀點，當AI與人類為敵時的最可怕結局。但歷史已多次說明，技術帶來的傷害往往是由於人類故意或意外誤用所造成。人類可以決定AI的發展方向及使用方法，AGI的出現不等於人類要步向滅亡的結局。

值得注意的是，ChatGPT對許多人來說似乎是突然冒出來的東西，但事實並非如此。在2019年和2020年GPT 2和GPT 3已經存在，但因為操作困難及技術限制，知名度遠低於ChatGPT。ChatGPT的發展與流行是一個標誌事件，代表這個趨勢已經存在。AGI的發展也將會一樣。

奧爾特曼，可能會讓「Q*」胎死腹中，但無法改變AI被使用和正在發展的趨勢，潘朵拉的盒子已經打開，再也沒法回去，AGI只會以另一種形式出現。人類現在能夠做的，是保持知情，認識AI並了解它將如何影響今天的生活，同時設立機制負責任地引導AI研究發展，為AGI的誕生作準備。