По словам соучредителя Ethereum Виталика Бутерина, сверхразвитый искусственный интеллект, если его оставить без контроля, имеет «серьезный шанс» превзойти людей и стать следующим «высшим видом» планеты.
Но это сводится к тому, как люди потенциально могут вмешиваться в разработки ИИ, сказал он.
New monster post: my own current perspective on the recent debates around techno-optimism, AI risks, and ways to avoid extreme centralization in the 21st century.https://t.co/6lN2fLBUUL pic.twitter.com/h5aIyFNCoh
— vitalik.eth (@VitalikБутерин) November 27, 2023
В своем сообщении в блоге от 27 ноября Бутерин, которого некоторые считают идейным лидером в сфере криптовалют, заявил, что ИИ «фундаментально отличается» от других недавних изобретений, таких как социальные сети, контрацепция, самолеты, оружие, колесо ипечатный станок — поскольку ИИ может создать новый тип «разума», который может обернуться против человеческих интересов, добавив:
«ИИ — это […] новый тип разума, который быстро набирает интеллект, и у него есть серьезный шанс обогнать умственные способности людей и стать новым высшим видом на планете».
Бутерин утверждал, что в отличие от изменения климата, искусственной пандемии или ядерной войны, сверхразумный ИИ потенциально может положить конец человечеству и не оставить никого в живых, особенно если в конечном итоге он будет рассматривать людей как угрозу своему собственному выживанию.
«Один из способов, по которым сбой в работе ИИ может сделать мир хуже, — это (почти) худший из возможных способов: он может буквально привести к вымиранию человечества».
«Даже Марс может быть небезопасным», — добавил Бутерин.
Бутерин процитировал опрос, проведенный в августе 2022 года более чем 4270 исследователями машинного обучения, которые оценили вероятность того, что ИИ убьет человечество, составляет 5–10%.
Однако, хотя Бутерин подчеркнул, что заявления такого рода являются «крайними», у людей также есть способы одержать победу.
Мозговые интерфейсы и технооптимизм
Бутерин предложил интегрировать интерфейсы «мозг-компьютер» (BCI), чтобы предоставить людям больший контроль над мощными формами вычислений и познания на основе искусственного интеллекта.
BCI — это путь связи между электрической активностью мозга и внешним устройством, например компьютером или роботизированной конечностью.
По словам Бутерина, это позволит сократить цикл двусторонней связи между человеком и машиной с секунд до миллисекунд и, что более важно, гарантировать, что люди сохранят некоторую степень «значимой активности» в мире.
Связанный: Как ИИ меняет криптовалюту: шумиха против реальности
Бутерин предположил, что этот маршрут будет «более безопасным», поскольку люди смогут участвовать в каждом решении, принимаемом машиной ИИ.
«Мы [можем] уменьшить стимул перекладывать ответственность за планирование высокого уровня на сам ИИ и тем самым уменьшить вероятность того, что ИИ самостоятельно сделает что-то, совершенно не соответствующее ценностям человечества».
Соучредитель Ethereum также предположил «активное человеческое намерение» направить ИИ в направлении, которое принесет пользу человечеству, поскольку максимизация прибыли не всегда ведет человека по наиболее желательному пути.
Human beings are deeply good. pic.twitter.com/AbOfd75IJ4
— vitalik.eth (@VitalikБутерин) November 27, 2023
Бутерин пришел к выводу, что «мы, люди, являемся самой яркой звездой» во Вселенной, поскольку мы разработали технологии, позволяющие расширить человеческий потенциал на тысячи лет и, надеюсь, еще на многие годы вперед:
«Через два миллиарда лет, если Земля или какая-либо часть Вселенной все еще будет нести красоту земной жизни, именно человеческие изобретения, такие как космические путешествия и геоинженерия, сделают это возможным».
