Команда популярного чат-бота с искусственным интеллектом (ИИ) ChatGPT заявляет, что будет формировать команду, которая будет контролировать и управлять рисками сверхинтеллектуальных систем ИИ.
В объявлении в блоге OpenAI от 5 июля компания сообщает, что новая команда будет создана для того, чтобы «направлять и контролировать системы искусственного интеллекта намного умнее нас».
В своем заявлении некоммерческая организация заявила, что, по ее мнению, сверхразум станет «самой эффективной технологией, которую когда-либо изобретало человечество», и поможет решить многие проблемы, хотя и существуют риски.
«Огромная сила сверхразума также может быть очень опасной и может привести к лишению человечества прав и даже к вымиранию».
OpenAI заявила, что считает, что сверхразум может появиться в этом десятилетии.
OpenAI заявила, что выделит 20% уже защищенных вычислительных мощностей для усилий и направлена на создание автоматизированного исследователя выравнивания «человеческого уровня». Автоматизированный исследователь теоретически должен помочь команде управлять безопасностью сверхразума и привести его в соответствие с «человеческими намерениями».
В настоящее время он назначил своего главного научного сотрудника Илью Суцкевера и руководителя исследовательской лаборатории Яна Лейке соруководителями работы. Исследователям и инженерам в области машинного обучения было открыто предложено присоединиться к команде.
Связанный: OpenAI приостанавливает функцию Bing ChatGPT, поскольку пользователи прыгали через платный доступ
Это объявление от OpenAI сделано в то время, когда правительства всего мира рассматривают меры по контролю за разработкой, развертыванием и использованием систем искусственного интеллекта.
Регулирующие органы в Европейском Союзе продвинулись дальше всех в реализации правил ИИ.14 июня Европейский парламент принял свой первоначальный Закон ЕС об ИИ — закон, который обяжет такие системы, как ChatGPT, раскрывать весь контент, созданный ИИ, наряду с другими мерами.
Законопроект все еще нуждается в деталях для дальнейшего обсуждения в парламенте до его реализации. Тем не менее, законопроект вызвал возмущение разработчиков ИИ по поводу его способности остановить инновации.
В мае генеральный директор OpenAI Сэм Альтман отправился в Брюссель, чтобы поговорить о правилах ЕС в отношении потенциальных негативных последствий чрезмерного регулирования.
Законодатели в Соединенных Штатах также представили «Закон о национальной комиссии по искусственному интеллекту», чтобы создать комиссию, которая будет принимать решения о подходе страны к искусственному интеллекту. Регуляторы в США также открыто заявили о своем желании регулировать эту технологию.
30 июня сенатор Майкл Беннет написал письмо крупным технологическим компаниям, в том числе OpenAI, в котором призвал маркировать контент, созданный ИИ.
