Виталик Бутерин: ИИ может превзойти человека как «высший вид»

По словам соучредителя Ethereum Виталика Бутерина, сверхразвитый искусственный интеллект, если его оставить без контроля, имеет «серьезный шанс» превзойти людей и стать следующим «высшим видом» планеты.

Но это сводится к тому, как люди потенциально могут вмешиваться в разработки ИИ, сказал он.

New monster post: my own current perspective on the recent debates around techno-optimism, AI risks, and ways to avoid extreme centralization in the 21st century.https://t.co/6lN2fLBUUL pic.twitter.com/h5aIyFNCoh

— vitalik.eth (@VitalikБутерин) November 27, 2023

В своем сообщении в блоге от 27 ноября Бутерин, которого некоторые считают идейным лидером в сфере криптовалют, заявил, что ИИ «фундаментально отличается» от других недавних изобретений, таких как социальные сети, контрацепция, самолеты, оружие, колесо ипечатный станок — поскольку ИИ может создать новый тип «разума», который может обернуться против человеческих интересов, добавив:

«ИИ — это […] новый тип разума, который быстро набирает интеллект, и у него есть серьезный шанс обогнать умственные способности людей и стать новым высшим видом на планете».

Бутерин утверждал, что в отличие от изменения климата, искусственной пандемии или ядерной войны, сверхразумный ИИ потенциально может положить конец человечеству и не оставить никого в живых, особенно если в конечном итоге он будет рассматривать людей как угрозу своему собственному выживанию.

«Один из способов, по которым сбой в работе ИИ может сделать мир хуже, — это (почти) худший из возможных способов: он может буквально привести к вымиранию человечества».

«Даже Марс может быть небезопасным», — добавил Бутерин.

Бутерин процитировал опрос, проведенный в августе 2022 года более чем 4270 исследователями машинного обучения, которые оценили вероятность того, что ИИ убьет человечество, составляет 5–10%.

Однако, хотя Бутерин подчеркнул, что заявления такого рода являются «крайними», у людей также есть способы одержать победу.

Мозговые интерфейсы и технооптимизм

Бутерин предложил интегрировать интерфейсы «мозг-компьютер» (BCI), чтобы предоставить людям больший контроль над мощными формами вычислений и познания на основе искусственного интеллекта.

BCI — это путь связи между электрической активностью мозга и внешним устройством, например компьютером или роботизированной конечностью.

По словам Бутерина, это позволит сократить цикл двусторонней связи между человеком и машиной с секунд до миллисекунд и, что более важно, гарантировать, что люди сохранят некоторую степень «значимой активности» в мире.

Связанный: Как ИИ меняет криптовалюту: шумиха против реальности

Бутерин предположил, что этот маршрут будет «более безопасным», поскольку люди смогут участвовать в каждом решении, принимаемом машиной ИИ.

«Мы [можем] уменьшить стимул перекладывать ответственность за планирование высокого уровня на сам ИИ и тем самым уменьшить вероятность того, что ИИ самостоятельно сделает что-то, совершенно не соответствующее ценностям человечества».

Соучредитель Ethereum также предположил «активное человеческое намерение» направить ИИ в направлении, которое принесет пользу человечеству, поскольку максимизация прибыли не всегда ведет человека по наиболее желательному пути.

Human beings are deeply good. pic.twitter.com/AbOfd75IJ4

— vitalik.eth (@VitalikБутерин) November 27, 2023

Бутерин пришел к выводу, что «мы, люди, являемся самой яркой звездой» во Вселенной, поскольку мы разработали технологии, позволяющие расширить человеческий потенциал на тысячи лет и, надеюсь, еще на многие годы вперед:

«Через два миллиарда лет, если Земля или какая-либо часть Вселенной все еще будет нести красоту земной жизни, именно человеческие изобретения, такие как космические путешествия и геоинженерия, сделают это возможным».