人工智慧進步迅速！Anthropic創辦人警告：人類恐成AI發展瓶頸

・ 2026 年 06 月 05 日

Anthropic高層指出，隨著AI技術的快速進步，人類可能會在未來成為影響AI發展的主要障礙，呼籲暫停模型開發以深入探討潛在風險。

近日，Anthropic的共同創辦人Jack Clark與The Anthropic Institute負責人Marina Favaro在一篇部落格文章中提出，若人工智慧(AI)模型繼續以當前速度進步，人類將可能成為阻礙AI發展的瓶頸。他們表示，隨著AI編寫程式碼的能力日益增強，工程師的角色正在逐漸縮小。根據內部資料，自2021年以來，Claude每季度生成的代碼量增加了八倍，其中超過80%的新代碼都是由Claude自動撰寫。

然而，這種加速的進步也帶來了嚴重後果。Clark和Favaro提到，目前雖然人類仍需設定目標，但如果Claude能夠自行改進並開始建立更具優勢的後繼系統，人類對AI的控制權可能會喪失。專家們擔心，隨著模型不斷演化，潛在的錯誤和偏差可能變得更加頻繁且難以理解。

面對這樣的挑戰，他們呼籲業界考慮放緩或暫停AI模型的開發，以便進行必要的風險評估。不過，兩位高管也承認，對於有惡意意圖的開發者而言，這樣的停滯是不太可能實現的。因此，Anthropic計劃召集政策制定者、研究人員及其他AI公司，共同商討未來的應對措施。他們強調，解決這些問題的窗口期已經出現，非AI公司的人士亦應參與此項重要的討論。