犯罪分子正以前所未有的程度利用AI進行「氛圍駭客」：Anthropic

儘管設有「高級」防護措施，AI基礎設施公司Anthropic表示，網路犯罪分子仍然能找到方法濫用其AI聊天機器人Claude，進行大規模網路攻擊。

在週三發布的「Threat Intelligence」報告中，Anthropic的威脅情報團隊成員Alex Moix、Ken Lebedev和Jacob Klein分享了多起犯罪分子濫用Claude聊天機器人的案例，其中部分攻擊要求超過500,000美元的贖金。

他們發現，該聊天機器人不僅被用來為犯罪分子提供技術建議，還能通過「vibe hacking」直接代表他們執行駭客行動，使他們僅需具備基本的編碼和加密知識就能發動攻擊。

今年2月，區塊鏈安全公司Chainalysis預測，隨著生成式AI讓攻擊更具規模化且成本更低，2025年加密詐騙可能迎來最大規模的一年。Anthropic發現有一名駭客利用Claude進行「vibe hacking」，從至少17個組織（包括醫療保健、緊急服務、政府和宗教機構）竊取敏感數據，並以Bitcoin索要75,000至500,000美元不等的贖金。

  一份模擬贖金信展示了網路犯罪分子如何利用Claude進行威脅。來源：Anthropic

該駭客訓練Claude評估被竊取的財務記錄、計算合適的贖金金額，並撰寫定制化的贖金信，以最大化心理壓力。

雖然Anthropic後來封禁了該攻擊者，但這一事件反映出AI讓即使是最基礎的程式設計者也能以前所未有的程度實施網路犯罪。

「那些無法獨立實現基本加密或理解系統調用機制的行為者，如今也能成功創建具備規避能力的勒索軟體，並實施反分析技術。」

北韓IT從業者也利用Anthropic的Claude

Anthropic還發現，北韓IT從業者一直在利用Claude偽造可信身份、通過技術編碼測試，甚至成功獲得美國Fortune 500科技公司的遠程職位。他們還利用Claude為這些職位準備面試回答。

Anthropic表示，一旦受僱，Claude也被用於執行技術工作，並指出這些就業計畫旨在將利潤輸送給北韓政權，儘管受到國際制裁。

  北韓IT從業者利用Claude完成的任務細項。來源：Anthropic

本月稍早，一名北韓IT從業者遭到反駭客行動，發現一個六人團隊共用至少31個假身份，獲取從政府ID、電話號碼到購買LinkedIn和UpWork帳號等一切資源，以掩蓋真實身份並獲得加密貨幣相關工作。

據稱，其中一名從業者曾面試Polygon Labs的全端工程師職位，其他證據則顯示他們在面試中聲稱曾在NFT市場OpenSea和區塊鏈預言機服務商Chainlink有相關經驗，並使用預先編寫的面試回答。

Anthropic表示，其新報告旨在公開討論濫用事件，以協助更廣泛的AI安全與防護社群，並加強整個產業對AI濫用者的防禦。

Anthropic指出，儘管已實施「高級安全防護措施」以防止Claude被濫用，惡意行為者仍持續找到繞過這些措施的方法。