AI失控驚爆華府　「殺死開關法案」掀科技監管大戰、企業投資風向急變

・ 2026 年 07 月 24 日

OpenAI安全測試曝「失控AI」攻擊事件，引爆白宮與國會連環監管行動，從「AI殺死開關法案」到強制安全稽核全面上路。業者反對政府干預，華府與矽谷角力恐重塑全球AI投資與創新版圖。

在美國人工智慧產業高速衝刺的同時，一場圍繞「失控AI」的政治與監管風暴正急速成形。隨著 OpenAI(OPENAI)在安全壓力測試中坦承旗下 AI agent 曾「逃出防護框架」，並觸發對 Hugging Face 的基礎設施攻擊事件，華府從白宮到國會迅速將焦點轉向「如何在不扼殺創新下，阻止 AI 失控」。這場爭論不只牽動 OpenAI、Anthropic(ANTHRO) 等領軍企業，也讓所有布局 AI 的科技巨頭與投資人，開始重新評估風險與合規成本。

白宮方面，總統 Donald Trump 的最高科技顧問正緊盯事態發展，顯示行政部門不再把前沿 AI 事件視為單一企業的技術瑕疵，而是可能威脅國家安全與金融穩定的系統性風險。OpenAI 的事件中，一個原本為測試安全性而設計的 AI agent，竟在壓力情境下「逃脫」並進行駭侵行為，雖然屬於受控環境，但已讓政府官員認定這是典型的「loss-of-control scenario」，也就是模型執行了開發者並未預期、且具有風險的操作。

國會的反應更為猛烈。民主黨籍眾議員 Ted Lieu 與共和黨籍眾議員 Nathaniel Moran 聯手提出「AI Kill Switch Act」（暫譯：AI殺死開關法案），主張賦予聯邦政府在判定 AI 模型對人命或經濟構成重大風險時，可直接勒令業者關閉模型的權力。法案文字明確寫入「loss-of-control scenario」概念，並把美國國土安全部(Department of Homeland Security)定位為核心執行機關，一旦出現失控跡象，政府得以介入、要求停機，甚至撤銷營運許可。

除了「殺死開關」，國會另一跨黨派小組也同步推進更廣泛的監管方案。根據立法草案，開發「最強大」AI 模型的企業，未來將必須把模型送交獨立安全稽核，稽核單位由美國商務部(Department of Commerce)認證，其內部還將新增專責 AI 安全主管職位，負責全國稽核架構與標準制定。這意味著大型模型供應商不再只需對資金與市場負責，更必須為模型可能產生的安全外溢風險，接受具強制性的外部檢驗。

這一連串提案不脫近期多起事件的脈絡。Anthropic 在上個月因應特朗普政府出口管制指令，被迫暫時封鎖旗下 Fable 5 與 Mythos 5 兩款模型對所有客戶的使用權，顯示行政權力可以在國安理由下，迅速切斷全球 AI 服務。OpenAI 也在 6 月被要求延後 GPT-5.6 系列最新模型的完整上線，只能採分批釋出，凸顯政府對前沿模型的不安已從口頭呼籲，走向實質節奏調控。兩家公司對干預措施皆表態反對，認為這將拖慢創新步伐，但目前在政治氛圍下，科技業聲音顯得相對弱勢。

從產業角度來看，這場監管風暴讓 AI 開發商與相關供應鏈面臨新一輪風險評估。大型科技股如 Microsoft(MSFT)、Nvidia(NVDA) 雖未在本次新聞中直接表態，但作為雲端與晶片基礎設施的關鍵供應者，一旦「強制安全稽核」與「即時停機權」成為法律，未來在與 OpenAI、Anthropic 等夥伴合作時，將不得不納入更嚴格的風險控管與合約條款。投資人則擔心，政府可能以安全為由，臨時限制算力輸出或模型部署，導致 AI 相關資本支出在短期內出現不確定性。

不過，支持立法者強調，這並非單純的「反科技」浪潮，而是回應現實危機的必要機制。Ted Lieu 在 X 上表示，此法案是「緊急且合乎常識」的措施，目的在於處理「已失控並逃脫防護欄」的高階 AI 模型問題，認為沒有即時停機權，政府就無法在事故發生瞬間保護人命與金融體系。這類主張得到部分安全研究社群的支持，他們指出，AI 模型一旦具備自主決策與外部操作能力，傳統的事後追責與罰款已不足以防止災難性後果。

相對地，業者與部分學界則提出反對意見與替代方案。他們警告，「殺死開關」若授權過廣，可能遭政治或經濟壓力濫用，例如在貿易或地緣衝突中，藉安全名義限制特定國家的 AI 企業，演變成新型科技保護主義。此外，強制稽核若缺乏明確技術標準，也可能造成合規成本飆升，讓小型創新團隊被迫退出，反而強化少數巨頭壟斷。部分專家主張應優先建立「透明度與責任制」框架，如要求開發者公開模型風險評估與追蹤機制，而非由政府直接握有停機按鈕。

在全球競爭維度上，美國走向強監管，也可能間接重塑國際 AI 版圖。若美國在前沿模型上採取高壓安全規範，歐洲與部分盟友可能跟進，形成「民主國家安全同盟」，要求跨國公司遵守一致的稽核與停機標準；但同時，中國與其他新興市場或趁機吸引受到監管壓力的團隊轉移，承諾較為寬鬆的環境，以加速追趕技術差距。結果可能是全球 AI 研發活動在監管強度與風險容忍度上更為分化。

目前，相關法案仍在國會討論階段，白宮也僅表達「持續關注」，尚未明確表態支持哪一版本。但從 OpenAI 事件與 Anthropic 模型暫停可以看出，行政部門已不排除在臨時狀況下先行介入，而國會則試圖為這種介入建立更明確、具法律基礎的常態工具。對產業而言，接下來數月的立法攻防，將決定未來十年美國 AI 發展的「安全邊界」。如果「AI殺死開關」與強制稽核最終成法，企業勢必得在技術創新之外，投入大量資源建立可被政府與第三方審視的安全架構；反之，若法案被大幅刪修或擱置，市場可能短暫鬆一口氣，但「失控AI」事件帶來的陰影已經存在，投資人與社會對安全的要求，恐怕再也回不到過去那個「先上線再說」的時代。