OpenAI предлагает грант для создания проекта демократического управления ИИ

OpenAI, материнская компания чат-бота с искусственным интеллектом ChatGPT, запустила инициативу по внесению более демократичного вклада в разработку ИИ.

В официальном заявлении от 25 мая компания заявила, что готовится предоставить 10 грантов по 100 000 долларов каждый на эксперименты по созданию «доказательства концепции», демократического процесса определения правил, которым должны следовать системы ИИ.

Согласно OpenAI, правила должны быть «в рамках, определенных законом» и должны приносить пользу человечеству.

«Этот грант представляет собой шаг к установлению демократических процессов для надзора за ОИИ и, в конечном итоге, за сверхразумом».

Компания заявила, что эксперименты станут основой для более «глобального» и «амбициозного» проекта в будущем. Он также отметил, что выводы экспериментов не будут иметь обязательной силы, но будут использоваться для изучения важных вопросов, связанных с управлением ИИ.

Грант предоставляется некоммерческим подразделением OpenAI. По его словам, результаты проекта будут бесплатными и общедоступными.

Связанный: OpenAI запускает официальное приложение ChatGPT для iOS, Android появится «скоро»

Это связано с тем, что правительства во всем мире стремятся внедрить правила в отношении генеративного ИИ общего назначения. Генеральный директор OpenAI Сэм Альтман недавно встретился с регулирующими органами Европы, чтобы подчеркнуть важность неограничительных правил и не препятствовать инновациям.

За неделю до этого Альтман выступил перед Конгрессом США с аналогичным посланием.

В объявлении о новой программе грантов OpenAI повторяет мнение о том, что законы должны быть адаптированы к технологии и что ИИ нужны «более сложные и адаптивные правила для его поведения».

В нем были приведены примеры вопросов, например: «Как спорные взгляды должны быть представлены в результатах ИИ?»После чего было сказано, что ни один человек, компания или страна не должны диктовать такие решения.

OpenAI ранее предупреждал, что если ИИ не будет развиваться осторожно, в течение десятилетия может появиться сверхчеловеческая форма ИИ. Поэтому разработчики «должны сделать все правильно».