Преступник использовал AI-модель для кражи медицинских данных, финансовой информации и государственных учетных данных, угрожал раскрыть данные, если не получит выплату в размере более $500,000.

Anthropic заявляет, что киберпреступник использовал её модель искусственного интеллекта (AI) для кражи конфиденциальной личной информации и вымогательства крупных выкупов за неразглашение данных.

Члены команды по анализу угроз Anthropic Алекс Мойкс, Кен Лебедев и Джейкоб Кляйн сообщают в новом отчёте, что киберпреступник неправомерно использовал чат-бот Claude этой AI-компании для содействия в краже данных и вымогательстве.

«Недавно мы пресекли действия сложного киберпреступника, который использовал Claude Code для масштабной кражи и вымогательства личных данных. Злоумышленник нацелился как минимум на 17 различных организаций…»

Злоумышленник использовал AI в, по нашему мнению, беспрецедентной степени. Claude Code применялся для автоматизации разведки, сбора учётных данных жертв и проникновения в сети. Claude позволяли принимать как тактические, так и стратегические решения, такие как выбор данных для вывода и создание психологически ориентированных требований о выкупе. Claude анализировал похищенные финансовые данные для определения соответствующих сумм выкупа и генерировал визуально тревожные записки с требованиями, которые отображались на устройствах жертв.»

Anthropic сообщает, что киберпреступник организовал «систематическую кампанию атак, сосредоточенную на комплексной краже данных и вымогательстве» с использованием AI-модели.

«Злоумышленник предоставил Claude Code свои предпочтительные операционные TTPs (тактики, техники и процедуры) в файле CLAUDE.md, который используется как руководство для Claude Code при ответах на запросы пользователя…»

Систематический подход злоумышленника привёл к компрометации личных записей, включая медицинские данные, финансовую информацию, государственные учётные данные и другую конфиденциальную информацию, при этом прямые требования о выкупе иногда превышали $500,000.»

Компания также отмечает, что использование её AI-моделей в незаконных целях продолжается, несмотря на предпринимаемые меры по их предотвращению.

«Мы разработали сложные меры безопасности и защиты для предотвращения злоупотребления нашими AI-моделями. Хотя эти меры в целом эффективны, киберпреступники и другие злоумышленники постоянно пытаются найти способы их обойти.»

Сгенерированное изображение: Midjourney