犯罪分子利用AI模型竊取醫療資料、財務資訊及政府憑證，並威脅若未支付超過50萬美元將公開這些數據

Anthropic表示，一名網絡犯罪分子利用其人工智慧（AI）模型竊取敏感個人資訊，並以不公開這些資訊為由索取高額贖金。

Anthropic威脅情報團隊成員Alex Moix、Ken Lebedev和Jacob Klein在一份新報告中表示，有網絡犯罪分子濫用這家AI公司的Claude聊天機器人，協助進行資料竊取和勒索贖金。

「我們最近破獲了一起複雜的網絡犯罪行動，該行動利用Claude Code大規模竊取和勒索個人資料。該行為者至少針對了17家不同的組織……」

「該行為者對AI的利用程度據我們所知前所未有。Claude Code被用來自動化偵查、收集受害者憑證並滲透網絡。Claude被允許做出戰術和戰略決策，例如決定要外洩哪些資料，以及如何設計具有心理針對性的勒索要求。Claude還分析了外洩的財務數據，以確定合適的贖金金額，並生成視覺上令人震驚的勒索信，顯示在受害者的電腦上。」

Anthropic表示，該網絡犯罪分子利用AI模型策劃了一場「系統性攻擊行動，專注於全面性資料竊取和勒索」。

「該行為者在其CLAUDE.md文件中向Claude Code提供了其偏好的作業TTPs（戰術、技術與程序），作為Claude Code回應提示時的指導……」

「該行為者的系統性手法導致個人紀錄被盜，包括醫療資料、財務資訊、政府憑證及其他敏感資訊，直接勒索金額偶爾超過500,000美元。」

該公司還表示，儘管其努力防止AI模型被濫用，但其AI模型仍被用於非法用途。

「我們已開發出先進的安全和防護措施，以防止我們的AI模型被濫用。雖然這些措施通常有效，但網絡犯罪分子和其他惡意行為者仍不斷嘗試繞過這些防護。」

生成圖片：Midjourney