AI教父Geoffrey Hinton：GPT-4的知識比任何人類多數百倍

被稱為「人工智能教父」電腦科學家欣頓（Geoffrey Hinton）周一宣布已辭去Google的職位。畢生致力於開發人工智能系統的他，聲稱「後悔自己的畢生志業」，並警惕AI發展的潛在危險。在最近另一篇專訪中，欣頓進一步談及為何他對AI研發感到害怕。

75歲的欣頓離開Google消息傳出的數天後接受MIT Technology Review資深編輯Will Douglas Heaven的專訪。欣頓指出，新一代的人工智能語言模型，尤其是3月面世的GPT-4令他意識到，這些機器已朝著比他想像的要聰明得多的方向發展，令他感到害怕這些的後續發展。

最出名的是他在1980年代（與兩名同事）提出的一種稱為反向傳播（backpropagation）的技術。簡而言之，就是讓機器進行學習的演算法，支撐著當今幾乎所有的人工「神經網絡」（neural networks），從計算機視覺系統到大型語言模型都包括在內。

直至2010年代，欣頓與其兩名剛畢業的門生研發的「神經網絡」才展現其威力，比起任何電腦辯別影像中的物件的能力都要強，而且還訓練到「神經網絡」來預測句子的下個字母，成為當今大型語言模式的先驅。其中一名門生正是後來OpenAI的創辦人Ilya Sutskever，並在他領導下開發了ChatGPT。「我們首先想到這東西可能很棒。」「但需要很長時間才能認識到，需要大規模開展才能達到好的效果。」

在1980年代，有關「神經網絡」的討論被認為是笑話。但欣頓不以為然，致力進行這方面的研發，軟件模仿抽象的人類大腦，並以代碼作為神經元與之間的連接。40年來，欣頓一直將人工神經網絡視為模仿生物神經網絡的笨拙嘗試。現在他認為情況發生了變化：他認為，在試圖模仿生物大腦的行為時，竟出現更優越的效果。「當你親眼看到時，感覺很可怕。」他說：「這是一個突如其來的轉變。」

那麼ChatGPT為何令欣頓也感吃驚？他解釋，人類大腦擁有約100萬億個連接，「大型語言模型最多有5000億，最多一萬億。然而，GPT-4的知識比任何人類都多數百倍。所以也許它實際上擁有比我們更好的學習算法。」

他又指出，除了學習能力，傳播（communicating）能力亦是另一個種點。「你或我學習一個新事物，再想教授給另一個人，我們不能單靠傳一個副本（send them a copy）。」但人工神經網絡卻做得到。

就好像這裏有10000個人，當一個人學懂一個新事物，另外的人全都同時學懂了。

欣頓現在認為，世上有兩種智能（intelligence）：動物大腦和人工神經網絡。「這是一種完全不同的智能。」「一種嶄新、更佳的智能」。欣頓認為超級智能是好是壞在很大程度上取決於你是樂觀主義者還是悲觀主義者，而自言「有點悲鬱」（mildly depressed）的他說：「這就是我害怕的原因」。

「這些東西是否會比我們更聰明，我突然改變了看法。我認為它們現在非常接近我們了，未來它們將比我們聰明得多」他說。「那我們如何生存？」他尤其憂慮人們會利用他研發的工具去改變人類的生活軌跡，包括選舉與戰爭。

他表示，希望離任後繼續談論有關AI安全的問題，花更多時間在「更具哲學性的工作」上，「只要我仍受僱於Google，我都難以暢所欲言」。不過，這不代表欣頓與Google的10年合作是不快，表示：「我有很多關於Google的好說話可以講，若果我不在Google，說這些話會更加令人信服。」