ChatGPT等AI技術將會失控危害人類？Elon Musk等專家叫停科技競賽

近年ChatGPT等人工智能發展飛快，不過同時令不少人擔心AI是否會對人類帶來威脅。最近有人工智慧專家們呼籲暫停先進AI的研發。Elon Musk、Steve Wozniak及Pinterest的聯合創始人Evan Sharp等人都簽署了由公開信。警告說，像OpenAI的GPT-4這樣的AI系統正在「在一般任務上與人類競爭」，對人類和社會構成潛在風險。

最近非營利機構Future of Life Institute發表的公開信，而且Elon Musk、Steve Wozniak、Pinterest聯合創始人Evan Sharp及Stability AI CEO Emad Mostaque等人都在信上聯署。呼籲在研發AI時應更多時間評估新技術的危險性，而且建議暫停訓練比GPT-4更強大的AI技術長達6個月。另外，還有專家Yoshua Bengio及科學家Stuart Russell亦支持這封信，引用了對錯誤信息的擴散、勞動力市場自動化的風險以及對文明失去控制的可能性的擔憂。

👉 ChatGPT救一命！狗隻患怪病獸醫無能為力　GPT-4僅5分鐘正確診斷

AI失控

提出了開發人員對強大的新AI系統失去控制及其對文明預期影響的可能性。它暗示公司正在競相開發先進的AI技術，以至於甚至創作者也無法「理解、預測或可靠地控制」。同時指人類不應應該冒失失去文明的控制。

信函警告說，AI公司正在進行“失控的競賽，以開發和部署”新的先進系統。最近，OpenAI的ChatGPT的病毒般的受歡迎似乎已經推動其他公司發布自己的AI產品。同時敦促公司在社會有機會適應新技術之時，享受AI的好處，而不是匆忙進入未做好準備的日子。

AI自動化和錯誤信息

同時強調了新技術的幾個風險，包括非人類思維最終「超過、超越、淘汰並取代人類」的可能性。它亦指AI系統在某些任務上正在“與人類競爭”，並引用對錯誤信息和勞動力自動化的擔憂。

公開信要求在市場上已經存在的AI系統更強大之外，暫停開發任何更強大的AI系統長達六個月。它要求開發人員與政策制定者共同創建AI治理系統，強調需要監管當局以及AI“水印系統”，以幫助人們區分人工製造的內容和AI製造的內容。信函還提出了需要“有豐富資源的機構”來應對由AI引起的經濟和政治混亂。不過公開信同時指出，暫停應該是對先進技術「危險的競賽」的一個步驟，而不是對一般AI開的完全停止。

消息來源：Insider