【科技．未來】歐盟祭出最嚴法案 監管AI時代來臨
兩周前，歐盟委員會發表《人工智能法案》（Artificial Intelligence Act）立法草案，除了全面禁止使用人工智能（AI）作大規模監控及社會信用評分之外，還就不同用途區分風險程度，並訂立相應的使用條件及罰則。
或掀「布魯塞爾效應」
草案建議把AI用途分成不同風險來監管（見表）。最嚴格一類為「不可接受風險」，這類用途完全禁止。包括利用AI實行「社會信用體系」，以及「在公眾地方使用實時遙距生物特徵辨識系統作執法用途」。一些影響人們生命安全或重要日常服務的AI應用被列為「高風險」。草案對這些高風險AI應用的供應者有多種要求，違規企業最高可被判以其全球年度收入6%的罰款。而且，所有歸類為高風險的AI必須在一個新設立的歐盟數據庫登記。此外，草案也要求供應者對某些AI應用下有「透明義務」。草案還建議成立「歐洲AI委員會」，以確保在歐盟內統一實施新法。
草案要成為正成法例，需要得到歐洲理事會及歐洲議會通過，哥倫比亞大學法律教授、《布魯塞爾效應》一書作者Anu Bradford估計，可能需要兩年才能通過審議程序。若成功通過，將會對歐洲內外構成重大影響：一方面，若某個AI系統可以在歐盟成員國內使用，身處歐盟範圍內的人都會受到影響；另一方面，就如歐盟在2018年帶頭實施《通用數據保障條例》（GDPR）後，歐盟以外不少地區迅即仿傚立法，監管AI的新規例或會再次帶來這種「布魯塞爾效應」。
中美以外「第三條路」
數碼權利倡議組織Access Now歐洲政策分析師Daniel Leufer形容，在監管新科技上，歐洲在美國和中國之外採取了「第三條路」。最多科技巨頭所在的美國素來以鼓勵創新為由，主張自由市場、對AI採取寬鬆的監管態度。而與另一AI及科技大國中國相比，歐盟草案特別指明禁止使用AI建立社會信用評分，也顯示了歐盟不接受「奧威爾式」的AI應用。歐盟委員會執行副主席韋斯塔格（Margrethe Vestager）也明言：「我們的社會容不下大規模監控。」
事實上，中、美在監管AI方面雖然明顯落後於歐盟，但兩國也意識到AI應用的各種潛在禍害，某程度上同意要開始着手監管AI。在中國，中共中央今年初印發的《法治中國建設規劃（2020－2025年）》文件表明要「加强信息技術領域立法」，包括AI，形容相關法律制度要「抓緊補齊短板」。而在美國，聯邦貿易委員會（FTC）私隱及身份保障分部律師Elisa Jillson在上月19日發表網誌，表示FTC正計劃監管使用和出售帶有偏見的AI應用的公司。當然，FTC的權力範圍只限於規管企業，實際上有否動力進行監管，又是另一回事。不過，紐約大學AI Now研究所所長Meredith Whittaker認為，FTC的舉動標誌着美國正在進入新的監管時代。
魔鬼盡在細節中
不過，即使歐盟高呼新法保障人權，不少人權組織卻對其感到失望。他們尤其不滿草案中對人面辨識應用禁令存有漏洞。首先，草案只是「原則上禁止」使用人面辨識作執法用途，列明在例外情況下仍可經法官批准後使用，包括尋找失蹤兒童、制止迫切恐怖主義威脅、緝捕嚴重刑事罪行疑犯等。其次，草案只是禁止實時和在公眾地方使用生物特徵辨識執法，換言之，若非實時使用或並非由執法機構使用生物識別系統，該AI應用就會從「不可接受風險」變成「高風險」。
歐洲數碼人權組織（EDRi）高級政策顧問Sarah Chander批評：「豁免範圍闊到難以置信，難以稱得上是一條禁令。」EDRi政策與活動課員Ella Jakubowska亦擔心，人面辨識仍可在學校、企業之類，或其他執法調查程序中，用作大規模監視。Chander主張徹底禁止大規模生物特徵辨識，才是「捍衛民主的唯一途徑」。
此外，雖然草案要求「高風險」AI應用須預先進行評估，但除卻某些特定用途，如人面辨識之外，這類評估不必由第三方進行。Jakubowska批評：「實際上是讓AI開發者自己改自己的功課……當你把責任外判予這些利用AI賺盡每分每毫的公司，很難稱之為一種監管。」
更根本的問題是，草案中不少措辭空泛含糊，定義有解讀空間。例如它禁止「超越個人意識的潛意識技術，從而實質上改變人的行為，造成身生理及心理傷害」。Gesser指出：「所有廣告設計為『操縱行為』。挑戰在於如何決定什麼是可以接受和不可以接受。」英國AI初創公司CausaLens應用數據科學總監Andre Franca亦認同，需要仔細的定義才能判斷新法例的影響，例如到底怎樣才算「適當的人為監督」。
（節錄）
上文節錄自第263期《香港01》周報（2021年5月3日）《歐盟祭出最嚴法案 監管AI時代來臨》。如欲閱讀全文請按此試閱周報電子刊，瀏覽更多深度報道。