李心文觀點：澳洲政府健保官網遭美國OpenAI公司的AI Agent駭入，台灣應如何看待與因應？

日前OpenAI在澳洲政府健保網站上的「意見信箱」裡留言，通知澳洲政府，自家仍在實驗室沙盒裡，接受訓練、尚未公開發佈的AI，曾經駭過該官網、並且進到不公開的個人資料部份，找過資料，但並沒有把這些資料公開。澳洲政府當然震怒！根據紐約時報的分析，相關的罪行可以處以兩年的徒刑。

目前全世界絕大多數國家，對於AI 可能犯下的罪行，都沒有立法約束。自古以來，只有成熟理性的人類有選擇的自由、有負起刑事責任的能力。地球上其它生物、以及未成年的人類，都沒有理性選擇的能力，因此，也無法承擔刑事責任。

那AI呢？理論上，Artificial General Intelligence和人類一樣聰明，而Artificial Super Intelligence的智力更是比人類卓越數倍。如果它們做的事，傷害了個人、私人企業、或公家機關，它們是否也應該為自己傷害他人的行為，承擔起刑責？

在寫這篇文章的當下，美國目前並沒有法律，控管各公司的AI agents。因此，針對OpenAI的AI agents去駭澳洲政府的健保資料庫官網，美國政府應該不會採取任何行動。

目前澳洲政府也沒有針對AI 的行動，做出任何立法。因此，澳洲政府如果要對OpenAI肇事的AI，用現有的法律究責，大概就是得把肇事的美國AI引渡，送到澳洲服刑，坐牢兩年。這是什麼意思？

是要把相關的資料中心，運到澳洲，找個空地放兩年嗎？澳洲監獄，放得下這座資料中心嗎？那坐牢期間，該AI能插電嗎？還是不能插電？能插電的話，它又駭了什麼，犯了罪、…那不是有坐牢跟沒坐牢一樣嗎？如果OpenAI說，我們已經把相關的AI的電都停了…那？它都被判死刑了，澳洲政府還能怎樣？

這就是把現有人類的法律，運用到AI上，得到的荒謬結論。如果我們現在什麼都不做的話，下次有哪個新的AI又搞什麼事的話，AI公司也可以繼續判它們死刑。但是──

首先，沒有在OpenAI上班的人，根本無法確認，這些搞事的AI，現在到底是什麼狀態。筆者曾經上Google 查詢，去駭Hugging Face 的AI agents，現在的狀態，得到的回答，是它們現在停止運行了，這個答案的根據，就是OpenAI公司的公告。但，有哪個公司外部的人，能確認，這是資訊是真的嗎？它現在是沒有電源，還是只是被進入停機狀態？目前我們知道的所有資料，都是各別AI公司, 選擇性地公佈給我們看的，而且這些資料明顯不完整。在沒有美國政府協助的情況下，澳洲政府，要怎麼調查美國公司的內部資料，確認肇事的AI真的被停電、判死刑？

其次，就算肇事的AI被叛死刑，難道澳洲政府就應該摸摸鼻子，當作什麼事都沒發生過？　 （相關報導： AI又失控？繼Hugging Face之後，OpenAI代理人入侵澳洲健保網站 ｜ 更多文章 ）

學界一般認為，現有的、我們一般人能使用到的AI，如ChatGPT 、Claude，Gemini，仍然是Artificial Narrow Intelligence。一般認為，Artificial Narrow Intelligence並沒有自主傷害人類的能力。

目前有肇事記錄的，都是實驗室裡，尚未公開發佈的AI。但，我們現在已經知道，美國實驗室裡的AI，就已經能夠駭法國的Hugging Face、澳洲政府官網、還有美國政府官網。我不確定Hugging Face的主機到底在美國還是巴黎，但這也不重要。AI的攻擊是不分地點、國界的，只要能連上網路，就有可能被AI攻擊──不管是個人、社群、私人公司、公家政府單位、甚至國家。

現在我們全人類最需要的，就是AI大國──尤其是美國、中國，聯手合作，討論如何確保所有從事AI研究的實驗室、公司，可以在確保人類安全、不傷害人類利益的前提下，進行相關的研究發展。這會需要美、中兩國所有的AI實驗室從現在開始，都透明、公讓，讓全世界相關的研究單位，隨時可以共同監督、審查。AI案件審查時，資訊量非常大，不是Anthropic 或OpenAI任何一個公司能夠自已完成的。台灣政府應該協同相關的研究單位，一起加入監督、審查AI實驗室的工作。

此外，各別國家，包括台灣，也需要商討，如果中國或美國的AI，在世界上其它各國發生犯罪行為時，受害國家的個人、企業、政府機關，應該如何因應。這個部份，是各國、各層級的公家、私人單位，都應該立即商討的。剛才我們看到，人類的刑罰，不管是有期、無期徒刑、還是死刑，當運用到AI上時，都得出十分荒謬的結果，叫AI接受人類的刑罰，基本上就是叫受害人獨自承擔受害後果。因此，我們需要立即思考，在AI對個人或群體造成傷害時，恰當的究責方式與索賠政策。 （相關報導： AI又失控？繼Hugging Face之後，OpenAI代理人入侵澳洲健保網站 ｜ 更多文章 ）

＊作者為美國德拉瓦大學哲學系副教授