Керівник «Готовності AGI» OpenAI йде у відставку — «Я хочу бути менш упередженим»

Багаторічний дослідник безпеки OpenAI Майлз Брандейдж створить або приєднається до іншої фірми зі штучного інтелекту після того, як залишить посаду керівника «AGI Readiness» і залишить компанію 23 жовтня.

Брандадж, який приєднався до OpenAI у 2018 році як дослідник, позиціонувався як головний спеціаліст із безпеки компанії.

У дописі Substack, де обговорювався його відхід, він стверджував, що команда OpenAI «AGI Readiness» буде розформована, що потенційно залишить фірму без спеціального відділу безпеки.

AGI, або загальний штучний інтелект, є теоретичною парадигмою, згідно з якою модель штучного інтелекту здатна виконувати будь-яке завдання, яке може виконати людина, якщо матиме ті самі ресурси.

Головною метою команди Брандаджа було надання пропозицій щодо політики та нагляд за безпекою для подальшого розвитку компанії в напрямку AGI.

Його відхід, згідно з дописом, був викликаний бажанням зосередитися на незалежних дослідженнях та адвокації. Він назвав кілька причин свого відходу, включаючи бажання «бути менш упередженим» до своєї корпоративної обстановки та шукати можливості через підприємницьку діяльність або в іншій організації.

За Брандадж:

«Я планую заснувати нову некомерційну організацію (і/або приєднатися до існуючої) і працюватиму над дослідженнями та адвокацією політики ШІ. Ймовірно, я зроблю певне поєднання досліджень і адвокації, але деталі та співвідношення будуть уточнені».

Однак дослідник може не залишитися без роботи надовго, оскільки він уже встановив потенційні ділові зв’язки з Бренданом МакКордом, засновником і керівником Інституту Космосу, організації, яка займається розробкою технологій із гуманістичним підходом.

Готовність до AGI

Значення відходу Брандаджа з OpenAI залишається незрозумілим. Cointelegraph звернувся до OpenAI і отримав таку заяву:

«Ми повністю підтримуємо рішення Майлза продовжити дослідження політики за межами галузі та глибоко вдячні за його внесок. Його план зосередитися на незалежних дослідженнях політики штучного інтелекту дає йому можливість впливати в більш широкому масштабі, і ми раді вчитися на його роботі та стежити за її впливом. Ми впевнені, що на своїй новій посаді Майлз продовжить піднімати планку якості розробки політики в промисловості та уряді».

Компанія відмовилася відповідати на запитання Cointelegraph щодо майбутнього команди AGI Readiness.

За темою: «завантаження розуму» ШІ може дозволити мертвим торгувати вічно

Відплив співробітників OpenAI

До створення команди AGI Readiness основним відділом нагляду за AGI компанії була команда «Superalignment», яку спільно очолювали співзасновники компанії Ілля Суцкевер і Ян Лейке.

Ця команда була розпущена після того, як Лейке покинув компанію в травні, заявивши, що він досяг «краю перелому» після розбіжностей з керівництвом.

Суцкевер залишив фірму наступного місяця і з тих пір заснував власну конкуруючу компанію зі штучного інтелекту, яку вже оцінюють у 5 мільярдів доларів.

На той момент OpenAI вже втратила співзасновника та головного наукового співробітника Андрія Карпаті, який пішов, щоб створити власну компанію в лютому.

Інший співзасновник, Джон Шульман, залишив компанію в серпні, щоб приєднатися до конкурента Anthropic. Тим часом, як повідомляється, колишній головний технічний директор Міра Мураті також збирає кошти для створення конкуруючої компанії зі штучного інтелекту.