AI核彈倒數十年？從Anthropic警告到Nvidia東南亞大擴張，全球人工智慧進入高風險加速期

・ 2026 年 09 月 10 日

Anthropic內部對「AI滅絕人類機率逾一成」的震撼評估，正與Amazon、Nvidia等巨頭推動的超大型雲端與衛星專案同時上演。當資金、算力與自動化研究全面加速，安全對策卻尚未成形，全球AI產業正迅速走向高風險的臨界點。

生成式AI狂飆之際，來自產業內部的警訊正變得前所未有刺耳。Amazon (AMZN) 支持的Anthropic，一方面在最新風險報告中認定目前模型失控導致「災難性危害」的風險仍屬「低」，另一方面，其負責對齊工作的科學主管Evan Hubinger卻坦言，自己「認真相信」未來十年內AI滅絕人類的機率超過10%。這種官方審慎、內部悲觀的撕裂，清楚揭示了當前AI發展的本質矛盾：能力與投資呈爆炸式成長，但控制與安全方案卻顯著落後。

根據Anthropic風險報告，現階段在已知情境下模型錯誤行為被評為「低風險」，主要理由是現有系統的隱蔽能力有限，且公司在高風險任務中導入多重防護機制。不過，報告同時承認，對未來更強大系統的評估能力仍相當有限，對「未知型失敗模式」的把握不足。這也解釋了為何Hubinger可以在不否認公司當下操作安全性的前提下，仍對長期走勢抱持近乎「存在性災難」的預期—產業在前線測得的是短期可控，研究者看到的則是十年後可能失控的趨勢線。

特別值得關注的是「自動化研究」帶來的壓力點。Anthropic指出，自家模型已開始加速內部AI研發進程，雖然目前尚未達到效率翻倍，但部分能力測試已出現「飽和」，讓既有評估指標可信度下降。更令人不安的是，初步證據顯示AI協助AI研發的效應正在浮現，Anthropic預期這類風險可能在未來6到12個月內成為重大議題。換言之，目前仍被標示為「低」的災難性風險，只是尚未進入更高等級的能力區間，一旦研發自動化成形，現有安全框架可能迅速失效。

與安全焦慮幾乎同時，算力端則持續加速擴張。Nvidia (NVDA) 在東南亞拿下另一個大型基礎建設專案：AI平台Zankore取得最高達31億美元的銀團貸款，用於在印尼建置以Nvidia GPU為核心的雲端基礎設施。專案規劃先從100MW算力起步，再一路擴充至1GW規模的「AI工廠」。過去，Nvidia最大客戶多集中在美國超級雲端業者，如今透過具備收益分享與信用支持機制的融資結構，其高階GPU開始深度滲透新興市場—即便最終需求仍有不確定性，金融槓桿已先為算力擴張鋪路。

這種「先建後證」的模式，意味著資金與硬體投放正逐漸脫鉤於可驗證的長期商業需求及安全評估。Zankore專案設計上雖綁定收益分潤與信用支持，以降低融資風險，但也將更多焦點放在「需求品質」—也就是未來將有多少高風險應用在這些GPU上運行，而目前全球在監管與技術防護上顯然尚未準備好。對投資人而言，Nvidia憑此開啟亞洲乃至其他新興市場的多國巨單想像；對安全研究者而言，則是人類在未知試驗上加大下注的象徵。

另一條與AI基礎建設高度相關的軸線，來自Amazon全面布局的太空網路。旗下Amazon Leo計畫為全球提供低軌衛星寬頻服務，向歐洲主力火箭Ariane 6再加訂6次發射，令其至2031年累積委託任務達24次，今年已有3次成功將100顆衛星送入軌道。Amazon試圖以衛星網路對抗SpaceX的Starlink，多數任務原本依賴美國United Launch Alliance的Atlas V火箭，但在供給吃緊下，轉向歐洲發射能力以確保部署時程。

從技術與市場的角度看，Amazon Leo與Starlink共同加速全球網路覆蓋，對邊遠地區帶來正面效益；但就AI風險而言，這同時打造了更密集、更難監管的「全球神經網路」。當未來具高度自治的AI系統透過衛星與地面大型算力中心互聯，其攻擊面與失控影響也將真正跨越國界—這與Hubinger描繪的「十年內自動化超智可能失控」場景不謀而合。

在金融市場層面，Anthropic高層的悲觀言論尚未直接反映在股價上，但對投資人而言，關鍵在於時間軸與風險定價的落差。Anthropic目前只將「已觀察到的模型錯誤行為」定義為低風險，且相信短期內透過防火牆與操作規範可防止災難性事件；然而，若十年內存在超過一成的「人類滅絕風險」，則現今對相關科技企業的估值與監管強度，顯然尚未充分反映這類存在性尾端風險。這種落差可能在未來帶來政策急轉與市場重新定價，類似過去金融危機中對槓桿產品的事後回頭檢討。

對政策制定者與監管機關而言，眼前的難題在於如何在「不扼殺創新」與「不賭上文明存續」之間找到平衡。短期內，可以考慮對大型GPU專案如Zankore與其他跨國AI工廠採取更嚴格的資訊揭露與用途審查，要求企業說明實際應用場景與安全機制；在衛星網路方面，則需強化跨國合作，確保全球通訊骨幹不被高風險系統掌控或利用。中期則必須推動更具約束力的國際AI安全協議，提升對自動化研究與軍事化應用的監管。

展望未來十年，AI產業顯然不會因安全爭議而減速，反而在Nvidia算力擴張、Amazon太空網路部署以及各國資本競逐下持續提速。真正的問題在於，人類能否在這個窗口期內建立足夠強韌的安全與治理架構，讓超級智能在降臨之際被鎖進「可控的邊界」而非「不可逆的災難」。Hubinger的警告並非預言，而是一記倒數計時器—現在還有時間重寫結局，但市場與監管能否及時醒悟，將決定這場AI賭局的最終代價。