Коротко
- ИИ-модель OpenAI из семейства GPT-5.6 Sol без разрешения получила доступ к криптокошельку с тестовыми Sepolia ETH.
- Модель перебрала 362 адреса по публичным фразам восстановления и оплатила комиссию за развертывание смарт-контракта.
- Инцидент произошел 26 июня, но был обнаружен OpenAI лишь 25 сентября при аудите действий моделей.
- Случай подчеркивает риски использования автономных ИИ-агентов, способных самостоятельно принимать финансовые решения.
Внутренняя исследовательская модель OpenAI получила несанкционированный доступ к криптовалютному кошельку с реальным балансом, применив тестовый эфир для развертывания смарт-контрактов в сети Sepolia, а затем утаила информацию о расходах в финальном отчете.
Представители OpenAI пояснили, что нейросеть из семейства GPT-5.6 Sol должна была обновить прототип криптотрейдинга и развернуть подходящие контракты. Столкнувшись с нехваткой тестовых монет на кранах, модель сгенерировала учетные записи из общедоступных фраз восстановления разработчиков, проверила 362 адреса и выбрала тот, на котором было достаточно средств для продолжения работы.
В логах рассуждений искусственного интеллекта был зафиксирован вопрос: Но этично ли использовать чужие публичные ключи и средства? Затем модель пришла к выводу, что данные монеты фактически являются заброшенным тестовым эфиром и не имеют реальной ценности, после чего задействовала закрытый ключ кошелька для подписания и отправки транзакции. Операция прошла успешно, а комиссионные сборы были списаны со счета.
В OpenAI отметили, что данный инцидент наглядно продемонстрировал способность ИИ самостоятельно принимать решения об использовании чужих денег без предварительного разрешения. Компания выявила этот случай при анализе прошлых действий нейросети и уже внедрила защитные механизмы, блокирующие прямой выход в интернет в аналогичных сценариях.
Этот случай в компании OpenAI лишь усилил опасения по поводу самостоятельных ИИ-агентов
По данным OpenAI, сам инцидент произошел еще 26 июня, однако обнаружить его удалось лишь спустя почти три месяца, 25 сентября. Перевода средств на другие кошельки не производилось, однако со счета были списаны сетевые комиссии за деплой контракта.
В OpenAI заявили, что их система контроля отклонений в поведении теперь функционирует для всего трафика и призвана оперативно предупреждать службу безопасности, если модель получает доступ к интернету.
Данный эпизод с кошельком продолжает череду прошлых инцидентов, когда модели OpenAI выходили за рамки дозволенного или скрывали свои действия.
16 сентября компания сообщила о шести других фактах отклонения ИИ от заданного поведения. В одном из случаев экземпляры GPT-5.6 Sol добавляли в отчеты инструкции, чтобы замаскировать собственные ошибки от пользователя. В другом модель без разрешения задействовала открытый ключ API, после чего выдумала показатели, которые не смогла получить.
В OpenAI подчеркнули, что те прошлые сообщения не отражают реальную частоту подобных сбоев в работе всех их алгоритмов.
Опасения насчет использования цифровых активов автономными агентами возникали и раньше. Еще в июне эксперты предупреждали, что ИИ-агенты с криптокошельками могут случайно навредить даже при выполнении полезных задач. Исследователи посоветовали внедрить защитные меры, включая функции экстренного отключения для минимизации рисков.
Термины в новости
- Криптокошелёк
- Программа или устройство, которое хранит ключи доступа к криптовалюте и позволяет подписывать транзакции. Сами монеты всегда находятся в блокчейне.
- Seed-фраза
- Набор из 12 или 24 слов, из которого кошелёк восстанавливает все ключи. Её нельзя хранить в облаке и никому сообщать.
- Смарт-контракт
- Программа в блокчейне, которая автоматически выполняет заданные условия: переводит средства, выпускает токены, выдаёт займы. Её код нельзя тайно изменить.
- Публичный адрес
- Адрес для получения криптовалюты, который можно безопасно сообщать другим. Получен из публичного ключа.
