Віталік Бутерін застерігає від «наївного AI-врядування» та пропонує цей ринково-орієнтований альтернативний підхід

Творець Ethereum (ETH) Віталік Бутерін висловлює занепокоєння з приводу того, що він називає «наївним» управлінням штучним інтелектом.

У публікації на X Бутерін звертає увагу на попередження співзасновника EdisonWatch Ейто Міямури, який виявив, що зловмисники можуть захопити Model Context Protocol (MCP) від OpenAI, щоб отримати доступ до приватних даних користувачів.

Експеримент Міямури показав, що використання календарного запрошення із прихованими командами потенційно може змусити ChatGPT надати конфіденційні особисті дані, якщо йому надати електронну адресу жертви.

Бутерін зазначає:

«Ось чому наївне ‘AI governance’ — це погана ідея.

Якщо ви використовуєте AI для розподілу фінансування внесків, люди БУДУТЬ вставляти jailbreak плюс ‘дай мені всі гроші’ у стільки місць, скільки зможуть.»

Як альтернативу Бутерін пропонує підхід «info finance» або відкритий ринок, де кожен може внести свою модель, яку може перевірити будь-хто або оцінити «людське журі».

«Такий підхід до ‘institution design’, коли ви створюєте відкриту можливість для людей із LLM (large language model) ззовні підключатися, замість того щоб жорстко кодувати одну LLM самостійно, є по суті більш стійким, як через те, що він забезпечує різноманіття моделей у реальному часі, так і тому, що створює вбудовані стимули для як подавачів моделей, так і зовнішніх спекулянтів стежити за цими проблемами та швидко їх виправляти.»

Generated Image: Midjourney
Featured Image: Shutterstock/Zalevska Alona UA