美國人工智慧研究實驗室OpenAI去年推出聊天機器人ChatGPT後，被視為是人工智慧的重大突破，人工智慧驅動的聊天機器人、圖像生成器、搜尋引擎正迅速激增。美國期刊《外交政策》指出，許多開發人工智慧科技的專家都提出警告，指出人工智慧發展不受拘束的危險，最近數週，各國呼籲政策干預的聲浪越來越高，監管機構正試圖加強監管人工智慧。
《外交政策》（Foreign Policy）指出，數百名科技專家與研究人員在多封公開信中警告人工智慧的危險，其中一封於3月下旬發表，主張「暫停」人工智慧新模型的開發6個月。最近，被稱為「人工智慧教父」的英國知名電腦科學家辛頓（Geoffrey Hinton）辭去全球搜尋引擎龍頭谷歌公司（Google）的職務，並提出可怕的預測。
辛頓向《紐約時報》（New York Times）表示：「我認為人們不應該擴大規模，直到他們了解是否可以控制它。」他呼籲全球監管與合作，控制可能摧毀全球就業市場、扭曲線上現實的（人工智慧）科技，或者在最壞的情況下，隨著人工智慧系統變得更先進，超越人類智慧。
為科技制定通用的監管框架一向很棘手，但隨著科技的進步變得更具挑戰。從社群媒體到5G科技的規則談判一直充滿地緣政治的混亂及關於最佳方法的分歧。人工智慧具有改變經濟及社會的巨大潛力，不一定變得更好，而這帶來了前所未有的挑戰。
歐洲經常處於新科技監管的前沿，歐盟議員11日將針對「人工智慧法案」（AI Act）投票，該法案於2年前首次提出，並可能在2年後生效。該法律標出人工智慧的「高風險」應用，例如執法、關鍵基礎建設、教育、就業，對於製造及利用這些應用的公司來說，這些應用將受到更嚴格的法遵及測試要求的約束。
歐盟駐美國數位資深特使德格拉夫（Gerard de Graaf）表示：「歐盟構思人工智慧法案時，生成式人工智慧（generative AI）或大型語言模型還沒出現。」現在歐盟議員正仔細研究擬議的立法。
美國對人工智慧的監管尚未規劃完成，去年白宮發布了《人工智慧權利法案藍圖》（Blueprint for an AI Bill of Rights），列出防止歧視與保護用戶隱私與安全的5項原則，美國國家標準暨技術研究院（National Institute of Standards and Technology）1 月發布人工智慧風險管理（AI Risk Management）框架，國會也開始動員，聯邦參議院民主黨領袖舒默（Chuck Schumer）上個月發起全面的人工智慧立法。然而，目前為止，美國政府採取的是自願法遵的方式，專家表示必須對人工智慧監管採取更具約束力的方式。 （相關報導： 「AI教父」離開谷歌：後悔畢生研究恐威脅人類 警告「殺手機器人」或成現實 ｜ 更多文章 ）
美國與歐盟正試圖透過美歐貿易和技術委員會（EU-US Trade and Technology Council），為人工智慧的全球治理奠定基礎。七國集團（G7）數位部長也在4月底的會議上將許多時間用於討論「負責任的人工智慧及全球人工智慧治理」，支持類似歐盟立法的風險基礎法。美國也大力支持發展全球框架，4日宣布「關鍵與新興科技國家標準戰略」（National Standards Strategy for Critical and Emerging Technology），其中包括人工智慧主題，一位政府高階官員表示：「我們正引入更多國際夥伴及盟友來支持共享的標準框架。」
