«Будьте обережні», додаючи штучний інтелект до блокчейнів, – попереджає розробників Віталік Бутерін

Співзасновник Ethereum Віталік Бутерін попереджає розробників «бути обережними», поєднуючи штучний інтелект (ШІ) з технологією блокчейн.

У дописі в блозі від 30 січня Бутерін класифікував свої найактуальніші проблеми щодо штучного інтелекту, сказавши розробникам, що «варто бути обережними», особливо при розгортанні нових програм у контекстах високої цінності та високого ризику.

«Важливо бути обережним: якщо хтось створює, наприклад, ринок прогнозів або стейблкоїн, який використовує оракул ШІ, і виявляється, що оракул можна атакувати, це величезна сума грошей, яка може зникнути миттєво».

Бутерін пояснив, що однією з сфер, де штучний інтелект має найвищу «життєздатність», є можливість ШІ брати участь у таких механізмах, як ринки прогнозів у мікромасштабі, який був би недоступний для людей.

ШІ також можна використовувати в інтерфейсах криптовалютних гаманців для користувачів, допомагаючи їм розуміти криптовалюту та безпечно взаємодіяти з нею, пояснюючи транзакції та підписи або виявляючи шахрайство, написав Бутерін.

«Я вважаю, що чисті інтерфейси штучного інтелекту зараз, ймовірно, надто ризиковані, оскільки це збільшує ризик інших видів помилок, але штучний інтелект, який доповнює більш традиційний інтерфейс, стає дуже життєздатним», — сказав він.

The promise and challenges of cryptocurrency + AI applications:https://t.co/ds9mLnshLU

— vitalik.eth (@VitalikБутерин) January 30, 2024

На думку Бутеріна, найризикованішою спробою було б використовувати штучний інтелект для забезпечення виконання правил або управління системами криптовалюти, оскільки моделі штучного інтелекту з відкритим кодом можуть бути вразливими до агресивних атак.

Штучний інтелект з відкритим вихідним кодом більш вразливий до агресивних атак, оскільки зловмисники можуть перевіряти його код і оптимізувати атаки проти нього. Штучний інтелект із закритим вихідним кодом забезпечує «безпеку через невідомість», однак ці моделі не забезпечують прозорості того, як вони працюють, або гарантій того, що вони неупереджені, сказав він.

Суміжний з OpenAI криптовалютний стартап Worldcoin є прикладом штучного інтелекту із закритим кодом. Бутерін пояснює, що він покладається на те, що «не дозволяє нікому просто звертатися до моделі штучного інтелекту», а натомість використовує «надійне обладнання».

Пов’язане: чи може блокчейн забезпечити огорожу, щоб ШІ продовжував курс?

Бутерін пояснив, що найбільшою проблемою буде створення децентралізованого ШІ з використанням криптовалюти та блокчейну, який могли б використовувати інші програми.

«Найскладнішим є додатки, які намагаються використовувати блокчейни та криптографічні методи для створення «єдиного елемента»: єдиного децентралізованого довіреного штучного інтелекту, на який певна програма покладається з певною метою».

Ці програми обіцяють «як функціональність, так і покращення безпеки штучного інтелекту таким чином, щоб уникнути ризиків централізації, пов’язаних із більш масовими підходами до цієї проблеми», – сказав він. Він дійшов висновку, що існує також багато способів, якими основні припущення можуть виявитися невдалими.