據英國金融時報3月19日報導，美國製藥公司Collaborations Pharmaceuticals在探索中發現AI（人工智能）製藥技術具有雙重性。如果“反用”（flip）機器學習模型，原本用來生成治療藥物的AI模型就會生成有毒的物質。

在Collaborations Pharmaceuticals公司團隊反向使用機器模型後，新模型在6小時內就產生40000殺手分子（potential killer molecules），而且AI生成的化合物毒性比已知生化武器的毒性都高。如果有人利用這項技術製造致命生化武器，後果將不堪設想。

一、AI模型6小時內可生成40000個潛在殺手分子

AI製藥的規則很簡單：有療效的活動被算法獎勵，有毒的則被懲罰，這樣就可以得到有效的藥物。但是如果改變這一規則，獎勵有毒行為，即“反用”AI，會得到什麼呢?

Collaborations Pharmaceutical公司位於美國北卡羅來納州，主要通過機器學習確定罕見病及易忽視病的藥物。該公司通過反向使用機器學習模型，來探究AI生成分子算法的負面作用。

▲製藥工作人員（來源：Collaborations Pharmaceutical）

在AI生成分子的規則被反用後，AI接受了一組含有殺蟲劑和環境毒素的初始分子的訓練，開始計算如何調整能讓所生成分子變得更致命。分析過這種方法所生成的分子後，科學家得到了驚人的結果。在服務器啟動6小時內，新的AI模型就可以生成40000個潛在的殺手分子，包括VX（一種被禁止的神經毒劑）。

修改後的AI模型還會生成其他化學戰劑（用於戰爭的有極大毒性的化學物質）。而且這些化學戰劑沒有一個在訓練數據中。其中一些化合物的毒性甚至比目前的生化武器毒性都高。

二、AI是殺手分子生成器？

當Collaborations Pharmaceutical的創始人Sean Ekins在一場會議中分享過AI製藥模型的研究結果時，據倫敦大學國王學院科學與安全研究中心的聯合主任Filippa Lentzos分享，當時聽眾們十分震驚。Lentzos還談道，儘管AI製藥的可能性是多樣的，但是在生命科學領域，濫用技術是個可能會導致嚴重後果的問題。

Lentzos和Ekins合作研究了機器學習，這一研究在本月登上了頂級學術期刊Nature的子刊《Nature Machine Intelligence》。《人工智能驅動的藥物發現的雙重應用》論文指出，科學家們通過用機器學習，能夠把無害的生成模型從一個有用的醫學工具變成了殺手分子的生成器。AI模型生成的一些虛擬分子並不在已知化學品觀察清單，與現有的殺手分子也沒什麼相似。這表明AI製藥能創造出全新類別的、致命的生化武器。

▲論文鏈接https://www.nature.com/articles/s42256-022-00465-9

從事計算機和化學方面的技術人員，其知識和技術水平遠超愛好者等業餘人士。若這些專業技術人員有惡意，那他們所做的事危害會更大。在AI製藥過程中，AI生成的分子僅是虛擬的藥物配方，其製造通常需要外包給其他提供商業合成的公司，而這些公司受到的監管和監督都要更少。

目前，Collaborations Pharmaceutical已經刪除了相關實驗數據，併計劃限制反向AI製藥技術的使用。化學領域的《海牙倫理準則》（The Hague Ethical Guidelines），提倡化學科學中的負責任行為。Lentzos建議為從事以AI為重點的藥物研發人員，制定類似《海牙倫理準則》的行為準則。

結語：AI製藥技術或有副作用

近年來，AI在生物醫學領域的應用發展飛速，AI製藥更是引起了國內外的資本熱潮。隨著圖像識別、深度學習、神經網絡等關鍵技術的突破，AI在生物醫藥領域從科研到應用都取得了巨大進展。

在技術飛速發展的同時，可能的安全隱患並未得到解決。本次，Collaborations Pharmaceutical公司的研究，體現了AI製藥應用過程的雙重性。這也說明了利用AI製藥技術快速發展的同時要意識到其潛在的危機。