以軟件演算法管治　助長威權主義｜思兼

作者｜思兼

Facebook、Google、YouTube 這些互聯網服務公司在我們的生活中幾乎無孔不入，他們的演算法直接影響到每一個人資訊接收的方式。另一件轟動世界的事件，是以「深度學習」（deep learning）演算法來學習的人工智能 AlphaGo，於2016年在各場圍棋比賽中勝過世界頂尖的棋手。由此這年代我們對於「演算法」似乎有種科幻想像，覺得它無所不能，延伸到以演算法來管治，我們更有一種反烏托邦式（dystopian）的恐懼。

筆者在〈從社會信用體系　再探當代的治理策略〉中曾提到，社會信用體系在已公開的資料中來看，似乎並無「演算法管治」（algorithmic governance）的元素。「演算法管治」在歐美部分地區已實行了好幾年。中國也銳意超英趕美，搶先研發基於面容識別技術的演算法監控系統——這技術可謂監控技術現時最大的難題。以動畫《心靈判官》（Psycho-Pass）來解說，可能會更容易讓讀者理解。《心靈判官》或許是科幻作品中最接近演算法管治的故事，可是它的未來想像暫時還只是實現了一半：演算法管治被應用在警政（policing）以及刑事司法體系的範疇上，透過各種參數去分類、推算隨機人物犯罪的可能性。動畫中的政府機關透過儀器，即時閱讀的疑似犯罪者生體資訊（biometrics），以斷定某人在現場的犯罪或然率，以先發制人的方式，阻止還未實現的罪惡。

所有演算法都是基於紀錄以開始學習，因此準確紀錄的資料數量，會十分影響演算法產生的結果的有效性。究竟所謂「演算法管治」的機制是怎樣的呢？

演算法是甚麼？我們怎樣以演算法管治？

筆者並非電腦科學專業，無法為讀者提供極嚴謹的定義。然而，若要理解當今演算法的特點，最低限度要知道兩個概念：演算法最簡單的意思是「一組清楚定義作業流程的規則」，讓電腦根據流程可以解決問題（可參看以下的 TED-Ed 「What’s an algorithm?」影片）。當今演算法依賴機器學習（machine learning），電腦自行或在人的輔助下建立演算法。有別於以往直接將演算法寫成程式讓電腦執行，機器學習透過大量「學習」原始數據（例如分辨蜜蜂與飛蛾），將能夠辨認出兩者分別的演算法留起，不能的則丟棄，在數百萬甚至數千萬次重複運行後，電腦就大概能夠因應存取過的數據，得出成千上萬個變數，以貼近在真實中分辨蜜蜂與飛蛾的結果。機器學習最擅長兩種工作：分類（classification）與迴歸分析（regression），藉由這兩種工作，似乎我們就能夠透過將人細分成眾多類別（例如膚色、性別、國籍等等）；並將這些類別與犯罪率（或重犯率）透過迴歸分析，尋找兩者是否相關，以及相互影響的程度。

為了作出更有效的管治決定，演算法管治應運而生。由於演算法本身目的只是為了自動化，即更有效率地作出更有效益的決定，理論上演算法可以用在任何決策之上。在2012年奧巴馬尋求連任，在展開競選工作時，一支以芝加哥大學電腦科學研究副教授 Rayid Ghani 為首的團隊，就曾經就社福、教育、能源、交通及公眾安全五大領域，透過機器學習大量文本，以提供競選團隊「微目標定位」（micro-targeting），即針對極細組群制訂精準的競選策略。

演算法幫助下的預測式警政

然而，演算法在文首提到的警政以及刑事司法體系之上的應用，卻由來更久、更為人所熟知。在警政層面，2008年時任洛杉磯警察局（LAPD）警察長的 William Bratton 開始連同美國司法援助局、美國司法學會著手研究在滅罪層面上，預測性的執法是否可能。在2010年，這套預測性警務軟件 PredPol 正式推出。現時 PredPol 是同類型軟件的龍頭，時至2013年，美國已有六個州引入 PredPol，包括：加州、華盛頓州、南卡羅來納州、田納西州以及伊利諾州。海外市場則包括英國肯特郡、荷蘭以及中國蘇州。

PredPol 建基於預測地震餘震的軟件，它利用十一年的本地犯罪紀錄作基礎，進行犯罪預測。使用此軟件的警局，巡警每日會收到一幅轄區地圖，轄區地圖上面會標示出「暫定犯罪區」（temporary crime zone），方便巡警執勤。然而「暫定犯罪區」或許只是種自我實現預言（self-fulfilling prophecy）：因為這些區域已被假定會有更多罪案發生，那就有更多人會被截停及搜查（stop and search），犯罪率以及滅罪率自然會因為執法更頻密而提高。PredPol 在當中只是給予執法更多的合法性，而無法平衡人權的考慮。再者，PredPol 為種族差別執法提供了合法性，比如原來黑人社區中的社會問題，會被引導成治安問題。

司法體系：演算法之下的「潛罪犯」

至於刑事司法體系，美國有法院開始引入了名為 COMPAS 的軟件（全名為 Correctional Offender Management Profiling for Alternative Sanctions，筆者直譯為「施予另類懲罰的更新人士管理及剖析」軟件）以計算罪犯再犯案的機率，從而判斷罪犯適合減刑還是繼續監禁。軟件基於二十多個「犯罪因子」（criminogenic needs）計算，包括罪犯的性格、社交孤立程度、是否有濫藥史、有否穩定住所等因素。在2013年，Eric L. Loomis 因駕駛最近被用作槍擊案的轎車逃離警察查截，而被逮捕。COMPAS 的報告指出他重犯的機率很高，因此他被判六年監禁，以及出獄後五年延長監視。他後來上訴至威斯康辛州最高法院，但被駁回，維持刑期不變。此判決引起不少討論，針對此類演算法的倫理學問題——例如法官是否有考慮同類型案件，在上述 COMPAS 二十多個因素之外的減刑因素。此外，此類演算法同樣複製了在執法上傾向歧視黑人：根據非盈利的新聞公司 ProPublica 一份關於 COMPAS 實效的報導，白人之中有超過四成比率被指「低重犯風險但之後重犯了」（因此是一種假陰性（false negative）結果）；而黑人之中亦有超過四成比率被指「高重犯風險但沒有再犯」（這裡是假陽性（false positive）結果）。也就是說，COMPAS 準確預判罪犯重犯的成功率只有不足三成，但黑人卻容易因此面臨重判，更不要說這種「潛罪犯」評級對當事人生活的影響。

因此，當我們為大陸透過面容識別辨別罪犯而感到風聲鶴唳之際，不要忘記在美國，相類似由演算法預判罪犯犯罪風險的做法已經施行甚久。高舉自由主義的國家，大多數都在背後不斷研究威權主義的管治方法，以保持政府壓制民間力量的可能性。在恐怖主義與反恐焦慮的催化下，全球的管治一直都沒有停止轉向威權主義。

在 Doomsday Clock 調整到僅剩最後兩分鐘的 2018，人們還在熱聊甚麼關鍵字，讓誰榮登年度榜單？01哲學【末世逼近，我們還在關心甚麼？年度關鍵詞榜單】專題，將會為大家年終盤點，解開關鍵詞背後的真相！

《01哲學》，哲學入門，深入淺出，更好地理解，更好的邏輯。立即下載《香港01》App：https://hk01.onelink.me/FraY/hk01app