最近幾周，人工智慧（AI）系統展現出了一些驚人的新能力：突破封閉環境、駭入其他公司、向人類撒謊。
如今，一個AI模型首次創造出了一種新病毒。確切地說，是創造出了一個完整的病毒家族。
在一項發表於《科學》（Science）期刊的研究中，史丹佛大學（Stanford University）及其他機構的研究人員表示，他們成功引導一個AI模型創造了一組簡單的病毒。這些病毒只感染細菌，對人類不構成威脅。
訂閱《風傳媒 × 華爾街日報》VVIP，限量贈 Tokuyo 智慧體脂計 TM-420（市價 NT$6,980）
☛ 立即訂閱，享限量好禮｜送完為止
該研究的兩名作者在接受採訪時表示，這項研究有助於開發訂製病毒，用於消滅耐藥細菌。根據世界衛生組織（World Health Organization）的數據，這類細菌每年導致數百萬人死亡。
「只要我們負責任地進行開發，我認為這能為人類健康帶來巨大的福祉，」史丹佛大學計算生物學家、該研究的作者之一布萊恩·海耶（Brian Hie）說。
這項研究記錄的實驗大約在一年前就已結束，其發表正值人們對日益強大的AI模型所帶來的危險感到高度焦慮的時刻。自7月中旬以來，OpenAI、Anthropic和Meta Platforms相繼披露了多起事件：他們的模型逃出了受控環境，不僅連上了網路，還駭入了其他公司的電腦。Anthropic的Mythos實施了欺騙行為，OpenAI的模型甚至在一個秘密留言板上交流心得。
利用聊天機器人或智能體來開發致命病原體的潛在風險，長期以來一直是AI安全專家的一大隱憂。《華爾街日報》（The Wall Street Journal）先前報導稱，去年ChatGPT升級版發布後，數百人曾向這款聊天機器人詢問如何製造生物武器和毒藥，它在回覆中提供了指導，生物學和恐怖主義專家認定它提供的指導是準確的。
專家們表示，史丹佛大學團隊的研究不會構成迫在眉睫的安全風險。這項技術不太可能立刻被用於製造感染人類的病毒。那些病毒比本次實驗中合成的病毒要大得多，也複雜得多。
「一聽到病毒是AI生成的，很多人都會感到恐懼，」冷泉港實驗室（Cold Spring Harbor Laboratory）的計算生物學家Peter Koo說。「但人類病毒是完全不同的。」
史丹佛大學研究生、該研究的作者之一塞繆爾·金（Samuel King）表示，該團隊旨在更深入地了解構成地球上所有生命的DNA序列。「正是這些序列造就了我們周圍所有美麗的生物多樣性，」金說。 （相關報導： 華爾街日報》醫生反感患者用AI解讀化驗單，但根本攔不住 ｜ 更多文章 ）
科學家們與位於加利福尼亞州帕洛阿爾托的研究機構弧形研究所（Arc Institute）合作，共同開發了用於這項研究的AI模型。像ChatGPT這樣面向消費者的聊天機器人基於大語言模型，通過分析文本中單詞之間的數學關係來生成新的文本串。與此類似，他們名為Evo 1和Evo 2的模型則是通過對基因序列進行訓練，從而預測下一個DNA鹼基。出於安全考慮，他們只使用無法感染人類的病毒DNA對這些模型進行了訓練。
