«Будьте осторожны» при добавлении ИИ в блокчейны, предупреждает разработчиков Виталик Бутерин

Соучредитель Ethereum Виталик Бутерин предупреждает разработчиков «быть осторожными» при объединении искусственного интеллекта (ИИ) с технологией блокчейна.

В сообщении в блоге от 30 января Бутерин классифицировал свои самые насущные проблемы, связанные с ИИ, сказав разработчикам, что «стоит действовать осторожно», особенно при развертывании новых приложений в контекстах высокой ценности и высокого риска.

«Важно быть осторожным: если кто-то создаст, например, рынок предсказаний или стейблкоин, использующий оракула искусственного интеллекта, и окажется, что оракул можно атаковать, это огромная сумма денег, которая может исчезнуть в одно мгновение».

Бутерин объяснил, что одной из областей, где ИИ имел наибольшую «жизнеспособность», было предоставление ИИ возможности участвовать в таких механизмах, как рынки прогнозов, на микромасштабе, который был бы неосуществим для людей.

ИИ также может быть использован в интерфейсах криптовалютных кошельков для пользователей, помогая им понимать криптовалюту и безопасно взаимодействовать с ней, объясняя транзакции и подписи или обнаруживая мошенничество, написал Бутерин.

«Мое личное мнение таково, что чистые интерфейсы ИИ, вероятно, на данный момент слишком рискованны, поскольку увеличивают риск других видов ошибок, но ИИ, дополняющий более традиционный интерфейс, становится очень жизнеспособным», — сказал он.

The promise and challenges of cryptocurrency + AI applications:https://t.co/ds9mLnshLU

— vitalik.eth (@VitalikБутерин) January 30, 2024

По мнению Бутерина, самым рискованным предприятием было бы использование ИИ для обеспечения соблюдения правил или управления криптовалютными системами, поскольку модели ИИ с открытым исходным кодом могут быть уязвимы для состязательных атак.

ИИ с открытым исходным кодом более уязвим для состязательных атак, поскольку злоумышленники могут проверять его код и оптимизировать атаки против него. Искусственный интеллект с закрытым исходным кодом обеспечивает «безопасность посредством неизвестности», однако эти модели не обеспечивают прозрачности того, как они работают, или гарантий их объективности, сказал он.

Криптовалютный стартап Worldcoin, связанный с OpenAI, является примером искусственного интеллекта с закрытым исходным кодом. Бутерин объясняет, что он полагается на то, чтобы «не позволять никому просто вызывать модель искусственного интеллекта», а вместо этого использует «надежное оборудование».

По теме: Может ли блокчейн стать барьером для удержания ИИ на правильном пути?

Бутерин объяснил, что самой большой проблемой будет создание децентрализованного ИИ с использованием криптовалюты и блокчейна, который могли бы использовать другие приложения.

«Наиболее сложными являются приложения, которые пытаются использовать блокчейны и криптографические методы для создания «синглтона»: единого децентрализованного доверенного ИИ, на который какое-то приложение будет полагаться для какой-то цели».

Эти приложения обещают «как функциональность, так и улучшение безопасности ИИ таким образом, чтобы избежать рисков централизации, связанных с более распространенными подходами к этой проблеме», — сказал он. Он пришел к выводу, что существует множество причин, по которым лежащие в основе предположения могут потерпеть неудачу.