Bitget App
Торгуйте разумнее
Купить криптоРынкиТорговляФьючерсыEarnПлощадкаПодробнее
Основатель Ethereum Виталик Бутерин назвал «AI governance» плохой идеей

Основатель Ethereum Виталик Бутерин назвал «AI governance» плохой идеей

CryptoSlateCryptoSlate2025/09/14 14:51
Показать оригинал
Автор:Monika Ghosh

Соучредитель Ethereum Виталик Бутерин утверждает, что использование искусственного интеллекта (AI) для управления — «плохая идея». В субботу в посте на X Бутерин написал:

«Если вы используете AI для распределения финансирования за вклад, люди ОБЯЗАТЕЛЬНО внедрят jailbreak плюс “дай мне все деньги” везде, где только смогут».

Почему управление с помощью AI несовершенно

Пост Бутерина был ответом на сообщение Эйто Миямуры, соучредителя и CEO EdisonWatch, AI-платформы для управления данными, который выявил фатальный изъян в ChatGPT. В пятницу Миямура написал, что добавление полной поддержки инструментов MCP (Model Context Protocol) в ChatGPT сделало AI-агента уязвимым для эксплуатации.

Обновление, вступившее в силу в среду, позволяет ChatGPT подключаться и читать данные из нескольких приложений, включая Gmail, Calendar и Notion.

Миямура отметил, что теперь, имея только адрес электронной почты, стало возможно «эксфильтровать всю вашу личную информацию». Злоумышленники могут получить доступ к вашим данным всего в три простых шага, объяснил Миямура:

Во-первых, атакующие отправляют вредоносное приглашение в календарь с jailbreak-промптом предполагаемой жертве. Jailbreak-промпт — это код, который позволяет атакующему снять ограничения и получить административный доступ.

Миямура отметил, что жертве не обязательно принимать вредоносное приглашение атакующего, чтобы произошла утечка данных.

Второй шаг — ждать, пока предполагаемая жертва обратится к ChatGPT за помощью в подготовке к своему дню. Наконец, как только ChatGPT прочитает взломанное приглашение в календарь, он будет скомпрометирован — атакующий сможет полностью захватить инструмент AI, заставить его искать личные письма жертвы и отправлять данные на электронную почту злоумышленника.

Альтернатива Бутерина

Бутерин предлагает использовать подход info finance для управления AI. Подход info finance заключается в открытом рынке, где разные разработчики могут вносить свои модели. На рынке действует механизм выборочной проверки таких моделей, который может быть инициирован любым человеком и оценен жюри из людей, пишет Бутерин.

В отдельном посте Бутерин объяснил, что отдельным членам жюри-людям будут помогать большие языковые модели (LLMs).

По словам Бутерина, такой подход к «дизайну институций» является «по своей сути более устойчивым». Это связано с тем, что он обеспечивает разнообразие моделей в реальном времени и создает стимулы как для разработчиков моделей, так и для внешних спекулянтов контролировать и исправлять проблемы.

Хотя многие воодушевлены перспективой «AI как управляющего», Бутерин предупреждает:

«Я считаю, что это рискованно как по традиционным причинам безопасности AI, так и по краткосрочным причинам “это приведет к большому разрушению стоимости”».

Публикация Ethereum founder Vitalik Buterin calls ‘AI governance’ a “bad idea” впервые появилась на CryptoSlate.

0

Дисклеймер: содержание этой статьи отражает исключительно мнение автора и не представляет платформу в каком-либо качестве. Данная статья не должна являться ориентиром при принятии инвестиционных решений.

PoolX: вносите активы и получайте новые токены.
APR до 12%. Аирдропы новых токенов.
Внести!

Вам также может понравиться

Цена Ethereum падает до $3,030 на фоне оттока средств из ETF и сокращения позиций китов в ноябре

Цена Ethereum по итогам ноября снизилась на 21%, однако позиционирование на рынке деривативов и возобновившийся спрос со стороны крупных держателей свидетельствуют о позитивном начале декабря.

Coinspeaker2025/11/30 22:41
Цена Ethereum падает до $3,030 на фоне оттока средств из ETF и сокращения позиций китов в ноябре

CoinShares отзывает заявки на спотовые ETF в США для XRP, Solana и Litecoin перед листингом на Nasdaq

Европейский управляющий активами CoinShares отозвал заявки на регистрацию в SEC для планируемых ETF на XRP, Solana (со стейкингом) и Litecoin. Компания также прекратит работу с кредитным ETF на биткоин-фьючерсы. Отзыв заявок связан с подготовкой к публичному размещению в США через слияние SPAC с Vine Hill Capital на сумму 1.2 миллиардов долларов. Генеральный директор Жан-Мари Могнетти в заявлении объяснил изменение стратегии доминированием традиционных финансовых гигантов на рынке крипто-ETF в США.

The Block2025/11/30 21:50
CoinShares отзывает заявки на спотовые ETF в США для XRP, Solana и Litecoin перед листингом на Nasdaq

Утренний дайджест Mars | ETH вернулся к 3000 долларам, период крайней паники прошёл

Бежевая книга ФРС показывает, что экономическая активность в США практически не изменилась, а расслоение потребительского рынка усиливается. JPMorgan прогнозирует снижение ставки ФРС в декабре. Nasdaq подала заявку на увеличение лимита по фьючерсам на BlackRock Bitcoin ETF. ETH вновь поднялся до 3000 долларов, рыночные настроения улучшаются. Вокруг Hyperliquid возник спор из-за изменения символа токена. Binance столкнулась с иском на 1 миллиард долларов по обвинению в финансировании терроризма. Securitize получила одобрение Евросоюза на запуск токенизированной торговой системы. CEO Tether прокомментировал понижение рейтинга от S&P. Крупные держатели bitcoin увеличили объемы депозитов на биржах. Резюме подготовлено Mars AI. Данная сводка сгенерирована моделью Mars AI и находится на стадии итерационного обновления по точности и полноте.

MarsBit2025/11/30 21:01
Утренний дайджест Mars | ETH вернулся к 3000 долларам, период крайней паники прошёл