Ранний прототип системы общего искусственного интеллекта может появиться уже в следующем году, считает основатель Singularity.net Бен Герцель.
Выступая на открытии Саммита по выгодному AGI в Панаме 27 февраля, Герцель, который изобрел термин AGI, изложил план его развития, чтобы гарантировать, что AGI не будет контролироваться корпорациями или правительствами и будет помогать человечеству, а не вредить ему..
AGI — это теоретическая концепция, которая, если она будет реализована, позволит разработать систему искусственного интеллекта, способную выполнять любую интеллектуальную задачу, которую могут выполнить люди.
План Герцеля предусматривает использование открытого исходного кода, децентрализованной инфраструктуры и управления, открытой когнитивной архитектуры, разнообразных алгоритмов AGI, данных, полученных с помощью этических источников и управляемых, а также обеспечения участия людей со всего мира.
Герцель рассказал Cointelegraph в интервью, что этот план лежит в основе всего, «что мы делаем во всей экосистеме Singularity.net».
«Мы создаем децентрализованные инфраструктуры искусственного интеллекта, которые не зависят от того, какой подход к искусственному интеллекту вы захотите использовать», — сказал он, отметив, что цель заключалась в том, чтобы «12-летний гений из Таджикистана» мог внести свой вклад в прорыв.
Но хотя сеть предназначена для содействия сотрудничеству и различному вкладу в достижение AGI, Герцель сказал, что, по его «наилучшему предположению», его собственный проект OpenCog Hyperon «может стать системой, способной совершить прорыв».
Выпуск альфа-версии Hyperon, запланированный на апрель, описан в исследовательской работе с многочисленными соавторами как «структура для AGI на человеческом уровне и за его пределами», которая включает в себя новейшие идеи, программное обеспечение и методы. OpenCog — это проект искусственного интеллекта с открытым исходным кодом, основанный Герцелем в 2008 году и связанный с Singularity.net.
По его словам, Hyperon Alpha будет своего рода прото-AGI, использующим специальный язык программирования под названием Metta, который откроется в апреле, чтобы разработчики с открытым исходным кодом могли использовать его для написания лучшего кода для различных приложений искусственного интеллекта.
Нажимая на Герцеля для получения более подробной информации, Коинтелеграф спросил, будет ли альфа-релиз чем-то вроде детского AGI, который можно будет превратить в полноценный AGI.
«У нас будет полный набор инструментов для создания детского AGI», — пояснил он и сказал, что им необходимо и мы будем масштабно масштабировать систему в период с настоящего момента до конца года.
«Чтобы достичь того, что я хотел бы назвать младенцем AGI, нам понадобится ускорение в миллион раз».
«Я думаю, что к началу 2025 года у нас может появиться ребенок ОИИ», — сказал он. «Я думаю, мы можем назвать его эмбриональным ОИИ, если вы хотите продолжить эту метафору».
Герцель поддерживает подход Виталика Бутерина d/acc AGI
Герцель также поддержал подход Виталика Бутерина к разработке сверхразумного искусственного интеллекта (d/acc).
Мнения о развитии AGI в настоящее время разделились между сторонниками акселерационизма (e/acc), которые хотят броситься к этой технологии из-за ее преимуществ, и сторонниками замедления (decel), которые хотят замедлить развитие из-за страха перед экзистенциальными рисками.
Герцель сказал, что в первом есть что-то от «силиконовой долины Uber Alles», тогда как у второго нет реальных шансов на успех, даже если бы это был лучший подход.
Вместо этого он поддержал подход «децентрализованного акселерационизма» или «защитного акселерационизма», предложенный Бутерином в ноябре.
Ускорение прогресса в области AGI — «вероятно, лучшее, что мы можем сделать», — сказал он, но «мы не хотим, чтобы власть над AGI была сосредоточена в руках какой-либо одной партии […] И мы хотим обратить внимание на различные плохие вещиэто может случиться».
По теме: Будет ли просьба Сэма Альтмана в 7 триллионов долларов действительно гарантировать наше будущее?
Герцель только что написал новую книгу об ОИИ под названием «Взрыв сознания», в которой утверждает, что ИИИ принесет огромную пользу и освободит людей от монотонного труда, положит конец всем физическим и психическим заболеваниям, излечит старение и потенциально предотвратит непроизвольную смерть.
Хотя он говорит, что эти преимущества перевешивают риски, AGI все равно может пойти не так по ряду причин.
В своем выступлении он обрисовал некоторые из этих рисков, в том числе разработку Китаем и Соединенными Штатами «супер-ИИ, цель которого — забить другого парня» или неэтичное внедрение ИИ, которое приносит пользу только мировой элите и делает бедных еще беднее.
Регуляторный захват, когда крупные компании лоббируют правила, которые приносят пользу им больше, чем людям, был вполне возможен.
Хотя он считает это маловероятным, «риск, о котором Голливуд любит говорить» о том, что ИИ выходит из-под контроля, также находится в пределах возможного.
«Я также не думаю, что мы можем с полной уверенностью что-либо исключать, потому что мы вступаем на принципиально неизвестную территорию», — сказал он.
