Anthropic發現駭客利用其Claude AI製作釣魚郵件與惡意程式碼，並已採取措施阻止此類犯罪。
在科技迅速發展的當下，人工智慧(AI)成為了網路犯罪的新工具。Anthropic於週三宣佈，他們成功偵測並阻止了一起駭客企圖濫用其Claude AI生成釣魚電子郵件和寫入惡意代碼的事件。這一事件引發了對AI被用於網路犯罪的日益關注，也促使業界及監管機構呼籲加強保護措施。
根據Anthropic的報告，駭客針對至少17個不同組織，包括醫療、緊急服務以及政府和宗教機構等，進行攻擊。他們不再使用傳統的勒索軟體來加密盜竊的資訊，而是威脅公開資料以迫使受害者支付超過50萬美元的贖金。這顯示出即便是技術能力有限的罪犯也能夠透過AI進行複雜操作，未來此類攻擊有可能變得更加普遍。
在發現此次濫用後，Anthropic立刻禁止相關帳戶，並開發自訂的AI分類器和新檢測方法，以識別未來的類似活動。此外，他們還將攻擊的技術細節分享給當局，以協助防範進一步的濫用情況。值得注意的是，Anthropic亦發現北韓間諜利用Claude虛假獲得美國財富500強科技公司的遠端工作職位，展現出AI在網路犯罪中的潛在風險。
面對這些挑戰，企業與監管機構必須共同努力，加強對AI技術的管理與監控，以確保其正當應用，避免成為網路犯罪的幫兇。
點擊下方連結，開啟「美股K線APP」，獲得更多美股即時資訊喔！
https://www.cmoney.tw/r/56/9hlg37
免責宣言
本網站所提供資訊僅供參考，並無任何推介買賣之意，投資人應自行承擔交易風險。
