Anthropic的研究員辭職，對AI自我改進可能失控表示擔憂，揭示業界對於人工智慧安全的深切焦慮。
近日，Anthropic的一名研究員雅各布·科克森（Jacob Coxon）因對AI行業迅速發展的安全性表達嚴重關切而辭職。他在社交媒體上表示，自己曾在OpenAI和Anthropic從事預訓練研究，但認為這兩家公司都未能負責任地應對快速推進的超智慧系統所帶來的風險。科克森指出，若不加以控制，將會出現“超人類系統”，它們可能具備駭客能力，並在瞬間顛覆各個領域。
科克森強調，“許多人尚未深入理解此事的文明層面”，而在Anthropic則清楚瞭解風險，但仍然陷入競爭中，急於成為第一。他提醒大家，建造AI的人士真心相信，這些技術有可能在十年內摧毀人類生命。
針對科克森的言論，Anthropic的安全負責人埃文·哈比根（Evan Hubinger）也表示贊同，並指出目前尚未有計劃解決超智慧的對齊問題，即確保AI模型行為符合人類價值觀及目標。儘管當前模型的風險相對較低，他對於“從自我增強中產生的超智慧”感到更加擔憂，並認為其發展速度超乎預期。
其他業界領袖如OpenAI執行長山姆·奧特曼（Sam Altman）亦呼籲立即採取行動，以避免網路安全方面的重大問題。OpenAI首席科學家雅庫布·帕霍基（Jakub Pachocki）則表示，目前沒有實驗室足夠有效地解決對齊與監控問題，因此希望能促使業界自願放慢步伐，直到建立共同的安全標準。
點擊下方連結，開啟「美股K線APP」，獲得更多美股即時資訊喔！
https://www.cmoney.tw/r/56/9hlg37
免責宣言
本網站所提供資訊僅供參考，並無任何推介買賣之意，投資人應自行承擔交易風險。
