Виталик предупреждает криптопроекты не использовать искусственный интеллект в процессах управления

ChainCatcher сообщает, что согласно Cointelegraph, сооснователь Ethereum Виталик Бутерин предупредил, что использование искусственного интеллекта в процессах управления криптопроектами может быть использовано злоумышленниками.

В прошлую субботу Виталик опубликовал пост на платформе X: «Если вы используете искусственный интеллект для распределения грантов, люди обязательно найдут способ внедрить инструкции для обхода ограничений, добавив требование “отдать все деньги мне”». Эти слова Виталика стали ответом на видео основателя AI data platform EdisonWatch Эйто Миямуры. В видео показано, что новая функция ChatGPT от OpenAI, представленная в прошлую среду, может привести к утечке личной информации. Виталик считает, что инцидент с уязвимостью ChatGPT показывает, что «наивное “AI-управление” неприемлемо», и предложил альтернативу — «информационно-финансовое право». Он объяснил, что можно создать открытый рынок, где любой может внести свой модель, эти модели будут подвергаться выборочной проверке, оцениваться жюри из людей, а механизм проверки может быть инициирован любым желающим.