OpenAI призывает государственные органы к активному участию в регулировании ИИ

Мира Мурати, главный технический директор OpenAI, считает, что государственные регулирующие органы должны «активно участвовать» в разработке стандартов безопасности для развертывания передовых моделей искусственного интеллекта, таких как ChatGPT.

Она также считает, что предложенная шестимесячная пауза в разработке — неправильный способ создания более безопасных систем, и что отрасль в настоящее время не близка к достижению искусственного общего интеллекта (AGI) — гипотетического интеллектуального порога, когда искусственный агент способенвыполнение любой задачи, требующей интеллекта, включая познание на человеческом уровне. Ее комментарии взяты из интервью Associated Press, опубликованного 24 апреля.

По теме: Илон Маск запустит платформу искусственного интеллекта для поиска истины TruthGPT

Отвечая на вопрос о мерах предосторожности, принятых OpenAI перед запуском GPT-4, Мурати объяснил, что компания использовала медленный подход к обучению, чтобы не только подавить склонность машины к нежелательному поведению, но и выявить любые последующие проблемы, связанные с такими изменениями:

«Вы должны быть очень осторожны, потому что вы можете создать какой-то другой дисбаланс. Вы должны постоянно одитировать […] Итак, вы должны снова настроить его и быть очень осторожным каждый раз, когда вы делаете вмешательство, видя, что еще нарушается».

После запуска GPT-4 эксперты, опасающиеся неизвестности, связанной с будущим ИИ, призвали к вмешательству, начиная от усиления государственного регулирования и заканчивая шестимесячной паузой в глобальном развитии ИИ.

Последнее предложение привлекло внимание и поддержку со стороны светил в области ИИ, таких как Илон Маск, Гэри Маркус и Элиезер Юдковски, в то время как многие известные деятели, включая Билла Гейтса, Янна Лекуна и Эндрю Нг, выступили против.

https://twitter.com/GaryMarcus/status/1640884040835428357?ref_src=twsrc%5Etfw

Со своей стороны, Мурати поддержала идею расширения участия правительства, заявив, что «эти системы должны регулироваться»., по крайней мере, на уровне компании, согласовать некоторый уровень стандартов».

Но что касается паузы в развитии, то тон Мурати был более критическим:

«Некоторые утверждения в письме о разработке ГПТ-4 или ГПТ-5 просто не соответствовали действительности. Мы не обучаем GPT-5. У нас нет никаких планов сделать это в ближайшие шесть месяцев. И мы не торопились с ГПТ-4. На самом деле нам потребовалось шесть месяцев, чтобы полностью сосредоточиться на безопасной разработке и развертывании GPT-4».

В ответ на вопрос, существует ли в настоящее время «связь между такими продуктами, как GPT-4 и AGI», Мурати сказал Associated Press, что «мы далеки от того, чтобы иметь безопасную, надежную, согласованную систему AGI».

Это может быть плохой новостью для тех, кто считает, что GPT-4 граничит с AGI. Текущее внимание компании к безопасности и тот факт, что, по словам Мурати, она еще даже не обучает GPT-5, являются убедительными индикаторами того, что желанное открытие общего интеллекта пока остается недоступным.

Повышенное внимание компании к регулированию происходит на фоне растущей тенденции к контролю со стороны правительства. Недавно OpenAI запретила свои продукты GPT в Италии, и 30 апреля у нее есть крайний срок для соблюдения местных правил и правил ЕС в Ирландии — один из экспертов говорит, что ему будет трудно соблюсти.

Такие запреты могут оказать серьезное влияние на европейскую криптосцену, поскольку все больше внимания уделяется внедрению продвинутых ботов для торговли криптовалютой, созданных на основе приложений, использующих GPT API. Если OpenAI и компании, создающие аналогичные продукты, окажутся не в состоянии легально работать в Европе, трейдеры, использующие эту технологию, могут быть вынуждены уйти в другое место.