AI 超級智能恐「賭上人類性命」？微軟喊建緊急煞車機制，川普反押國安賭注

・ 2026 年 10 月 11 日

微軟執行長 Satya Nadella 罕見公開呼籲，未來最強 AI 必須內建「緊急煞車」與封閉管控；在 Anthropic、OpenAI 內部人士示警 AI 恐有 10% 機率「滅絕人類」之際，前總統川普則淡化風險、主打要在 AI 軍備上領先中國。

在全球科技圈高喊「全力衝刺 AI」的同時，一股要求為超級智能踩煞車的聲浪正悄悄升溫。Microsoft(微軟，MSFT)董事長暨執行長 Satya Nadella 日前在社群平台 X 發文，明確主張所有先進人工智慧系統，必須設計出可由授權人員隨時「暫停甚至關閉」模型的緊急煞車機制，並需建立完整的封閉控管與獨立監督系統，才能降低風險。

Nadella 提到，當前最前沿的 AI 屬於「非決定性模型」，也就是輸出結果難以完全預測，因此必須以嚴謹、可預期的系統設計把它包覆起來。他強調，這些系統需要人類控制權、可靠操作程序與明確業界標準做支撐，現有規範不足之處，產業必須補上。他甚至提出，要把「封閉權重與開放權重的前沿模型」視為類似公司內部「內線風險」的高敏感資產來管理，顯示對 AI 潛在失控的憂慮已上升到企業治理層級。

這番談話並非孤立聲音。近來包括 Microsoft 創辦人 Bill Gates、Anthropic 執行長 Dario Amodei、OpenAI 執行長 Sam Altman，以及 SpaceX 執行長 Elon Musk 等一線科技領袖，都先後對 AI 安全機制表達不安。有前 Anthropic 研究員乾脆選擇離職，直指 Anthropic 與主要競爭對手 OpenAI 正在「拿人類生命來賭」，批評業界在追求技術突破與商業利益時，對長期風險的控管明顯落後。

更具爭議的是，同一天，Anthropic 一位負責 AI 對齊(alignment)工作的安全主管公開表示，自己認為未來十年內，AI 存在「超過 10% 機率」會「殺死所有人類」。這樣的說法雖極端，卻反映出部分專家對 AI 能力快速膨脹、而人類制衡機制跟不上所產生的深層焦慮。也因為這類高風險預估聲量持續擴大，「AI 是否需要像核武一樣被視為全球安全議題」在政策圈已不再只是科幻命題。

在技術社群呼籲控制風險的另一端，美國政治圈卻呈現截然不同的調性。前總統 Donald Trump 多次公開淡化 AI 絕種風險，對「AI 可能滅絕人類」一說並不買帳，反而集中火力在「不能輸給中國」的戰略敘事。對他而言，AI 核心問題不是安全，而是國力競賽，如果在技術、軍事或情報應用上被中國超前，才是真正威脅。

也因此，Trump 近期宣佈成立名為「AI Force」的新組織，由 Director of National Intelligence Jay Clayton 領銜，目標是協助促進美國 AI 產業發展，同時「揪出壞人」。從定位來看，這支「AI Force」與其說是純粹的科技監管機構，更像是聚焦在國安與產業競爭力的混合平台，優先考量的是如何把 AI 變成戰略優勢，而非限制其發展。

對照 Nadella 所提出的「可觀測性原則」，雙方路線差異更顯鮮明。Nadella 主張，可信賴的超級智能系統必須建立在一系列具體機制上，包括模型多樣性、人類可讀的行為足跡、持續性的系統測試、獨立控制與可稽核性、系統封閉與事故揭露等。他指出，「最值得信任的超級智能系統，不會是那個我們最信任模型本身的系統，而是那個讓我們可以『最不信任模型』卻仍安全運作的系統」，意即要假設模型可能犯錯甚至失控，再用制度把風險圍起來。

從產業角度來看，這場 AI 安全論戰不只關乎倫理，更深刻牽動企業與監理機關的權力邊界。一方面，各家 AI 大廠若搶先布局「緊急煞車」與完整審計機制，可能在未來監管成形時取得話語權優勢；另一方面，過度嚴厲的管制也可能讓美國在國際競賽中被其他對安全標準較寬鬆的國家超車。因此，企業與政府的關係，正從單純的產業扶植，轉向高度政治化的 AI 安全博弈。

針對「是否應放慢 AI 發展速度」的爭辯，目前也出現不同路線。部分研究者主張暫緩最前沿模型訓練，先把風險與監理框架設計清楚，再談更強的能力；但也有人認為過度強調災難場景，可能掩蓋了現實中的偏見、監控、就業衝擊等更緊迫問題。Nadella 所提出的觀測性與煞車機制，某種程度是在這兩端之間尋找中間路線：不是完全停下，而是讓系統在可控的範圍內持續前進。

展望未來，AI 安全勢必會成為美國科技監管與國安政策的核心議題之一。微軟等科技巨頭若能率先將「緊急煞車」與完整審計標準落地，或有機會成為全球 AI 安全規範的參考模板；但在特朗普式「先贏中國、再談風險」的政治氛圍中，安全與競爭究竟誰先誰後，仍充滿變數。可以確定的是，當科技領袖與政治領袖在「AI 賭注」上採取不同策略，人類社會也被迫在「加速進步」與「踩煞車自保」之間，做出極具代價的選擇。