Співзасновник Ethereum Vitalik Бутерин попередив проти криптовалютних проектів, використовуючи штучний інтелект для процесу їх управління, оскільки шкідливі суб’єкти можуть використовувати цю технологію.
“Якщо ви використовуєте AI для виділення фінансування внесків, люди покладуть джейлбрейк плюс” дайте всі гроші “у стільки місць, скільки зможуть”, – сказав Бутерін у суботній пості.
Бутерин відповідав на відео від Eito Miyamura, творця платформи AI Data Edisonwatch, на якій показано нову функцію, додану в середу до Chatgpt OpenAI, може бути використаний для витоку приватної інформації.
Багато користувачів криптовалют охопили AI для створення складних торгових ботів та агентів для управління своїми портфелями, що призвело до ідеї, що технологія може допомогти групам управління керувати частиною або всім протоколом криптовалют.
Бутерін визначає альтернативну ідею
Бутерін сказав, що останній експлуатацію Chatgpt – це те, чому “наївне” управління AI ” – це погана ідея” і розбив альтернативу під назвою “підхід інформації про фінансування”.
“У вас є відкритий ринок, де кожен може внести свої моделі, які підлягають механізму перевірки плями, який може бути спровокований будь-ким і оцінюється людським присяжним”,-пояснив він.
This is also why naive "AI governance" is a bad idea.
If you use an AI to allocate funding for contributions, people WILL put a jailbreak plus "gimme all the money" in as many places as they can.
As an alternative, I support the info finance approach ( https://t.co/Os5I1voKCV… https://t.co/a5EYH6Rmz9
— vitalik.eth (@VitalikБутерин) September 13, 2025
Бутерін писав про інформаційні фінанси в листопаді 2024 року, заявивши, що це працює, починаючи з “факту, який ви хочете знати”, а потім розробляючи ринок “, щоб оптимально отримати цю інформацію від учасників ринку”, і виступав за ринки прогнозування як спосіб збору розуміння майбутніх подій.
“Цей тип підходу” Дизайн установи “, де ви створюєте відкриту можливість для людей з LLM ззовні, щоб підключити, а не жорстко кодуючи єдиний LLM, по суті є більш міцним”, – сказав Бутерін у своєму останньому x Пост.
“Це дає вам модельну різноманітність у режимі реального часу, і тому, що воно створює вбудовані стимули як для представників моделей, так і для зовнішніх спекулянтів для спостереження за цими проблемами і швидко виправити їх”,-додав він.
Останнє оновлення Chatgpt “серйозний ризик безпеки”
У середу OpenAI оновив Chatgpt для підтримки інструментів протоколу контексту моделі – стандарт того, як моделі AI інтегруються з іншим програмним забезпеченням для виконання агентів.
Пов’язано: Майбутнє належить тим, хто володіє своїм ШІ
У своєму дописі X Міямура заявив, що він отримав модель просочити приватні дані електронної пошти, використовуючи лише електронну адресу жертви, додавши, що оновлення “створює серйозний ризик безпеки”.
Він сказав, що зловмисник може надіслати запрошення календаря на електронний лист жертви з “підказкою джейлбрейка”, і, не прийнявши жертву запрошення, Чатгпт може бути використаний.
Коли жертва просить Чатгпта подивитися на їхній календар, AI читає запрошення з підказкою і “викрадений нападником і буде діяти за командою зловмисника”, який може бути використаний для пошуку електронних листів та пересилання їх нападнику.
Міямура зазначив, що оновлення вимагає ручного схвалення людини: “Але втома рішення – це реальна річ, і нормальні люди просто довіряють ШІ, не знаючи, що робити, і натисніть схвалити”.
“AI може бути дуже розумним, але його можна обдурити і постояти неймовірно німі способи просочити ваші дані”, – додав він.
AI Eye: “випадкові джейлбрейки” та посилання Чатгпта на вбивство, самогубство
