AI 超級軍備競賽失控？從晶片聯盟到研究員出走，產業內部自曝「十分之一機率人類滅亡」

・ 2026 年 09 月 09 日

OpenAI 擴大與 Samsung 合作研發次世代晶片、Qualcomm 攜手 Amazon 佈局 AI 資料中心，卻同時遭前研究員與安全主管公開警告「自我進化超級智慧」可能在十年內終結人類文明，產業正陷入技術衝刺與安全焦慮的兩難。

全球生成式 AI 風潮席捲企業與金融市場之際，產業內部卻浮現前所未見的安全焦慮。一方面，OpenAI(OPENAI) 與 Samsung Electronics(SSNLF) 加深次世代晶片合作、Amazon(AMZN) 與 Qualcomm(QCOM) 聯手打造新一代 AI 資料中心基礎設施，加速算力軍備競賽；另一方面，來自 OpenAI 與 Anthropic(ANTHRO) 的研究員與安全主管卻罕見公開示警，直言當前產業「正賭上人類性命」衝向自我改進的超級智慧，風險可能在十年內演變為文明級災難。

在技術與商業版圖上，算力合作正在迅速升溫。OpenAI 韓國總經理 Harrison Kim 表示，與 Samsung Electronics 的合作已延伸到次世代晶片的聯合研發與生產，並稱 Samsung 是全球最大規模導入 ChatGPT 的企業之一，其在韓國及海外員工，已廣泛在研發、行銷與業務等環節使用 ChatGPT。OpenAI 指出，南韓 ChatGPT Enterprise 企業用戶一年內成長 28 倍，且南韓已成為美國以外付費 ChatGPT 訂閱數量最多的市場，顯示企業對高階 AI 服務與背後巨量記憶體需求的依賴不斷攀升。

另一邊，Qualcomm(Qualcomm, QCOM) 與 Amazon(Amazon.com, AMZN) 周二宣布將共同打造「次世代 AI 資料中心基礎設施」。Qualcomm 將為 AWS 提供多世代客製化晶片，並導入其光學連線解決方案至 Amazon 資料中心網路。Qualcomm 執行長 Cristiano Amon 強調，隨 AI 需求加速，資料中心在運算與連線兩端都必須顯著進步，以在效能與能源效率之間取得平衡。AWS 高階主管 Prasad Kalyanaraman 則稱此合作是在「突破可能邊界」，提供更高效且具成本競爭力的 AI 基礎設施。為強化綁定，Qualcomm 同意向 Amazon 發行最多 2,500 萬股認股權憑證，部分股份於簽約即生效，顯示雙方視此為長期戰略聯盟。

然而，當資本與技術狂飆向前，來自產業核心的安全質疑聲浪也越來越高。一名曾在 OpenAI 及 Anthropic 任職三年的研究員 Jacob Coxon 在社群平台 X 宣布辭職，指控兩家公司「不負責任地」競逐能自我改進的超級智慧。他警告，未來將出現「可駭入任何系統、瞬間革新任何領域、並取得實際權力與資源的超人系統」，而業界卻在缺乏完整防護之下加速研發。

更令人震撼的是，Anthropic 對內的安全高層並未否認風險，甚至進一步量化。Anthropic 對齊科學主管 Evan Hubinger 在回應 Coxon 時表示，他「真心認為」AI 在十年內「殺死所有人類」的機率超過 10%，且公司目前仍沒有針對超級智慧 alignment（行為與人類價值對齊）的完整解決方案。Hubinger 指出，現階段模型的風險仍低，但他最憂心的是「遞迴自我改進」帶來的超級智慧，而這一進程「比預期來得更快」。

來自 OpenAI 內部的論調亦顯示，不少領導者認知到長期風險，但在具體行動上仍陷於兩難。OpenAI 執行長 Sam Altman 近日在 G20 創新部長會議指出，如果各方不迅速行動，他相信在網路安全與其他領域「會發生非常錯誤的事情」。OpenAI 首席科學家 Jakub Pachocki 則在部落格坦言，目前「沒有任何實驗室」在 alignment 與監控技術上達到足以支持「以最大速度持續擴張」的標準，他期待並呼籲在建立共同安全門檻前，能看到更多「自願減速」。

這種「一面踩油門、一面喊要煞車」的矛盾，正成為 AI 產業的核心張力。一方面，OpenAI 與 Samsung 的晶片合作、Qualcomm 與 Amazon 的資料中心聯盟，反映企業要在全球 AI 雲端市場中搶食龐大商機，特別是推理與訓練需求暴增下，記憶體與客製化加速晶片的重要性日益突出。合作案中提到的「更高效、更具成本競爭力」基礎設施，對雲端巨頭而言是維持市佔與利潤的關鍵，也直接影響投資人對 Nvidia(NVDA)、Microsoft(MSFT)、Amazon(AMZN)、Qualcomm(QCOM) 等相關供應鏈與平台股的期待與估值。

另一方面，來自研究與安全社群的批評則指出，現階段的治理與監管框架，完全追不上技術與算力的堆疊速度。Coxon 在辭職聲明中直言，OpenAI 許多人尚未「深刻內化」 AI 帶來的文明級風險；而在 Anthropic，雖然團隊更清楚理解風險，但卻因相信「其他公司更不負責任」，遂選擇自己加速衝向超級智慧，希望以「負責任者搶先到達」的方式降低總風險，結果反而落入「越擔心就越加速」的集體困局。

在政策層面，全球監管仍停留在針對現有模型的使用規範與資料保護，多數政府尚未對遞迴自我改進系統與超級智慧提出具體、可執行的紅線。這使得產業預設「技術先行、治理隨後」的路線，而當算力合作敲定、企業部署迅速擴張時，任何事後的減速倡議就更難付諸實行。業界有人開始呼籲，晶片與資料中心擴張計畫不該只由成本與效能驅動，還應納入「安全門檻」與「對齊能力」等指標，作為投資與擴容的前置條件。

從投資人角度，AI 相關巨頭股價短期仍受利多支撐，例如 Qualcomm 在宣布與 Amazon 合作後股價盤中即漲逾 3%，反映市場看好其資料中心營收將於今年第四季開始貢獻，並朝 50 億美元目標邁進。然而，隨著安全風險評估被更頻繁地搬上檯面，中長期資本可能開始重視企業在 alignment 研究、風險治理架構與「願意自願減速」上的表現，作為衡量 AI 投資可持續性的關鍵指標。

目前，產業在技術與安全之間仍未找到穩定平衡點。OpenAI 與 Samsung、Qualcomm 與 Amazon 等合作案，將持續推動更強大的模型與更普及的企業應用；但隨著像 Jacob Coxon 這樣的內部人士選擇出走並公開告誡，加上 Anthropic 安全部門與 OpenAI 高層不再避談「人類滅亡機率」，AI 超級軍備競賽是否需要制度性「踩煞車」的問題，已從邊緣討論走向主流。未來數年內，各國監管機構、科技巨頭與研究社群能否共同建立具約束力的安全門檻，將決定這場 AI 革命究竟是人類歷史上最大的生產力躍升，還是充滿存在性風險的豪賭。