Майлз Брандейдж, давний исследователь безопасности OpenAI, создаст или присоединится к другой фирме, занимающейся искусственным интеллектом, после того, как уйдет с поста главы отдела готовности AGI и покинет компанию 23 октября.
Брандейдж, который присоединился к OpenAI в 2018 году в качестве исследователя, был назначен главным специалистом по безопасности компании.
В сообщении Substack, в котором обсуждается его уход, он заявил, что команда OpenAI по обеспечению готовности к AGI будет распущена, в результате чего фирма может остаться без специального отдела безопасности.
AGI, или общий искусственный интеллект, — это теоретическая парадигма, в которой модель ИИ способна выполнять любую задачу, которую мог бы выполнить человек, если бы ему были предоставлены те же ресурсы.
Основной целью команды Брандейджа, судя по всему, было предоставление предложений по политике и надзор за безопасностью для дальнейшего развития компании в направлении AGI.
Его уход, согласно сообщению, был вызван желанием сосредоточиться на независимых исследованиях и правозащитной деятельности. Он назвал несколько причин своего ухода, включая желание «быть менее предвзятым» по отношению к своей корпоративной среде и искать возможности либо через предпринимательство, либо в другой организации.
Пер Брандейдж:
«Я планирую открыть новую некоммерческую организацию (и/или присоединиться к существующей некоммерческой организации) и буду заниматься исследованиями и пропагандой политики в области ИИ. Я, вероятно, проведу некоторое сочетание исследований и пропаганды, но детали и соотношения пока неизвестны».
Однако исследователь, возможно, не останется без работы надолго, поскольку он уже установил потенциальные деловые связи с Бренданом МакКордом, основателем и руководителем Института Космоса, организации, занимающейся разработкой технологий с гуманистическим подходом.
Готовность к искусственному интеллекту
Значение ухода Брандейджа из OpenAI остается неясным. Коинтелеграф обратился к OpenAI и получил следующее заявление:
«Мы полностью поддерживаем решение Майлза продолжить свои политические исследования за пределами промышленности и глубоко благодарны за его вклад. Его план полностью заняться независимыми исследованиями в области политики в области ИИ дает ему возможность оказать влияние в более широком масштабе, и мы рады учиться на его работе и следить за ее влиянием. Мы уверены, что в своей новой роли Майлз продолжит поднимать планку качества разработки политики в промышленности и правительстве».
Компания отказалась отвечать на вопросы Cointelegraph относительно будущего команды AGI Readiness.
Связанный: «Загрузка разума» ИИ может позволить мертвым торговать вечно
Отток сотрудников OpenAI
До создания команды AGI Readiness основным отделом надзора за AGI в компании была команда Superalignment, которую совместно возглавляли соучредители компании Илья Суцкевер и Ян Лейке.
Эта команда была расформирована после того, как Лейке покинул компанию в мае, заявив, что он достиг своего «переломного момента» из-за разногласий с руководством.
Суцкевер покинул фирму в следующем месяце и с тех пор основал свою собственную конкурирующую компанию по искусственному интеллекту, стоимость которой уже оценивается в 5 миллиардов долларов.
К этому моменту OpenAI уже потеряла соучредителя и главного ученого Андрея Карпати, который ушел, чтобы основать собственную компанию в феврале.
Другой соучредитель, Джон Шульман, в августе объявил о своем уходе и присоединении к конкуренту Anthropic. Тем временем, как сообщается, бывший технический директор Мира Мурати также собирает средства для создания конкурирующей компании по искусственному интеллекту.
