Эксперимент с блокчейном привел к появлению множества децентрализованных обучающихся роботов

Команда ученых из Бельгии, возможно, решила одну из самых больших проблем в области искусственного интеллекта, используя децентрализованный метод обучения на основе блокчейна. Хотя исследование все еще находится на самых ранних стадиях, его потенциальные последствия могут варьироваться от революционного изменения в освоении космического пространства до создания экзистенциальной угрозы человечеству.

В моделируемой среде исследователи разработали способ координации обучения между отдельными автономными агентами ИИ. Команда использовала технологию блокчейна для облегчения и защиты связи агентов, создав тем самым децентрализованный «рой» моделей обучения.

Результаты индивидуального обучения каждого агента в рое затем использовались для разработки более крупной модели ИИ. Поскольку данные обрабатывались через блокчейн, эта более крупная система извлекла выгоду из коллективного разума роя, не имея доступа к каким-либо данным отдельных агентов.

Рои ИИ

Машинное обучение, концепция, тесно связанная с искусственным интеллектом, существует во многих формах. Типичный чат-бот, такой как ChatGPT от OpenAI или Claude от Anthropic, разрабатывается с использованием нескольких методов. Он предварительно обучается с использованием парадигмы, называемой «обучение без учителя», а затем дорабатывается с помощью другой парадигмы, называемой «обучение с подкреплением на основе обратной связи с человеком».

Одна из самых больших проблем, связанных с этим подходом, обычно заключается в том, что он требует, чтобы данные обучения системы были помещены в централизованную базу данных. Это делает его непрактичным для приложений, требующих непрерывного автономного обучения или там, где важна конфиденциальность.

Исследовательская группа провела исследование блокчейна, используя парадигму обучения, называемую «децентрализованное федеративное обучение». При этом они обнаружили, что могут успешно координировать модели, сохраняя при этом децентрализацию данных.

Роевая безопасность

Большая часть исследований команды заключалась в изучении устойчивости роя к различным методам атак. Поскольку технология блокчейна представляет собой общий реестр, а обучающая сеть, использованная в эксперименте, сама по себе была децентрализованной, команда смогла продемонстрировать устойчивость к традиционным хакерским атакам.

Тем не менее, они нашли четкий порог того, сколько именно роботов-изгоев сможет выдержать рой. Исследователи разработали сценарии с участием роботов, намеренно созданных для нанесения вреда сети. В их число входили агенты с гнусными намерениями, агенты с устаревшей информацией и роботы, закодированные простыми инструкциями по подрыву.

Хотя от простых и устаревших агентов было относительно легко защититься, команда обнаружила, что умные агенты с гнусными намерениями могут в конечном итоге нарушить работу роевого интеллекта, если достаточное количество агентов сможет проникнуть в него.

Это исследование остается экспериментальным и проводится только посредством моделирования. Но вскоре может наступить время, когда стаи роботов можно будет координировать децентрализованно. Возможно, однажды это позволит командам ИИ-агентов из разных компаний или стран работать вместе над обучением более крупного агента, не жертвуя при этом конфиденциальностью данных.

Связанный: Сатоши против физики: как квантовые биткоин-майнеры могут сделать ASIC устаревшими