烏克蘭戰事之外的化學武器危機｜TECH

圍繞烏克蘭戰事的相爭各方在戰事爆發前後都有質疑對方有使用化學武器可能的消息。近日，《華爾街日報》等媒體更爆出參與俄烏談判的英超球會車路士（Chelsea）班主、俄羅斯富商艾巴莫域治（Roman Abramovich）和兩名烏克蘭官員及談判代表在3月初出現紅眼、持續疼痛流淚、手與臉脫皮等徵狀，艾巴莫域治甚至一度失去視力，懷疑是被下毒所致。

然而，就在艾巴莫域治等人懷疑中毒後數日在《自然—機器智能》（Nature Machine Intelligence）發表的一篇文章，卻更加明確地指出了一項為人忽視的潛在化學武器危機。

該文章標題為《人工智能藥物發現的雙重用途》（Dual use of artificial-intelligence-powered drug discovery），作者們來自一個名為「Collaborations Pharmaceuticals」的公司，專門以人工智能為顧客尋找可能成為藥物的化學分子排列，近來曾在毒性預測的機器學習模型的議題上發表過文章，並獲瑞士官方有關核子、生物、化學防治的機構Spiez Laboratory邀請在有關人工智能藥物發現可能有何濫用的議題上發表報告。

作者承認，在此前，他們雖知道有毒化學物可被濫用，卻沒有想過用以發現新藥物的人工智能本身會被濫用的問題。

作者的公司本身已設計了一套稱為「MegaSyn」的程式，經人工智能學習後可自我產生新的化學分子組合，MegaSyn則受一套機器學習模式的引導，後者從一系列數據集中已學習到如何預測出不同分子結構部分在抑制人類疾病上的生物活性。MegaSyn的原意是要尋找可抑制目標人類疾病的化學分子。

在實際運用上，作者以懲罰毒性、獎勵其定為目標的生物活動為界限，希望減低程式產生出來的化學分子的毒性。

為了這個有關人工智能濫用的研究，作者則將實際運用的界線反轉過來，改為同時獎勵毒性和生物活性。最終，以作者自家的伺服器運算，人工智能程式在6個小時內就產生出40,000種化學分子，當中包括很多已知的化學武器，例如幾粒鹽的份量就足以致命的VX，也有很多全新的化學分子，當中包括預計毒性更強的組合，也包括作者所述的「未知分子性質空間」（unknown molecular property space），即與已知神經毒素完全分開的組合類別。

換句話說，這已構成製造全新一代生化武器的可能。作者在文中就指：「我們的概念性證明因此點出一個非人類的自動致命化武製造者為何完全可行。」

文章的作者沒有進一步查證其人工智能程序生產出來的化學分子的合成難度，或者研究它們如何可以逆合成法軟體製造出來。不過，作者認為，坊間已有很多商用或開源的軟體可以直接配搭上能產生新化學分子的軟體去應用。

同時，作者也沒有物理上嘗試合成這些化學組合。不過他們指出，全球有數以百計的商業機構提供化學合作服務，而且管制不嚴，這並不算是什麼困難。

作者更「謙虛」地指出，他們只是數以百計以人工智能軟件作藥物發現和新設計的公司之中的其中一家非常小的公司。而在他們公司設計的軟件工具之外，一系列的開源程式工作和資料庫，幾乎都在沒有監管的情況下被公開。到底有多少人有足夠的技術去生產新的化學武器？

在文章中，作者並沒有很到位地形容這到底有多容易，不過在文章發布後的一個《Verge》訪問中，其中一位作者就說得明白：「你可以去搜尋一下生成模型，就可以找到一堆早已弄好、一行字就夠的生成模型（可免費使用），然後你再去搜尋毒性資料集，外面有一大開源的……於是你有了這兩樣東西，你再懂得如何寫程式和製造機器學習模式（按：此作者的標準似乎是懂得一點Python，再多一些就夠），你只需要互聯網連接和一台電腦，你就可以複製我們所做的。」

而且，儘管已知化學武器的成分已有嚴厲管制，但化學合成公司眾多，只要一樣新的化學分子看起來不像是他們知道的化學武器，他們就很可能會把它合成出來，再交付出去。因此，製造過程並不困難。

在文章中，作者認為他們所擁有的人工智能工具，可能要像GPT-3這個自然語言生產器一般去管理（後者有可能用於深層造假的影片上），使用者需要該程式的擁有者給予存取許可，並且可隨時收回。

不過，這種建議看起來並非長治久安之法。

與其在俄烏問題上散佈化武使用的恐慌，各國政府實在應該留意一下這種硝煙之外的潛在危機。