Губернатор Калифорнии наложил вето на горячо оспариваемый законопроект о безопасности искусственного интеллекта

Губернатор Калифорнии Гэвин Ньюсом наложил вето на горячо обсуждаемый законопроект об искусственном интеллекте (ИИ), утверждая, что он будет препятствовать инновациям и не сможет защитить общественность от «реальных» угроз, создаваемых этой технологией.

Ньюсом наложил вето на закон SB 1047, известный как Закон о безопасных и надежных инновациях для передовых моделей искусственного интеллекта, 30 сентября, что вызвало значительный отпор со стороны Кремниевой долины.

Он предложил обязательное тестирование моделей искусственного интеллекта и других защитных мер на безопасность, при этом технологические компании опасались, что это задушит инновации.

В заявлении от 29 сентября Ньюсом заявил, что законопроект слишком сосредоточен на регулировании существующих ведущих компаний в области ИИ, не защищая общественность от «реальных» угроз, исходящих от новой технологии.

«Вместо этого законопроект применяет строгие стандарты даже к самым базовым функциям — при условии, что они используются в большой системе. Я не считаю, что это лучший подход к защите населения от реальных угроз, исходящих от технологии».

Законопроект SB 1047, написанный сенатором-демократом Сан-Франциско Скоттом Винером, также потребует от разработчиков в Калифорнии, в том числе таких громких имен, как производитель ChatGPT OpenAI, Meta и Google, внедрить «аварийный выключатель» для своих моделей искусственного интеллекта и опубликовать планы по снижению экстремальных рисков..

Если бы законопроект был реализован, генеральный прокурор штата также должен был бы предъявить иск разработчикам ИИ в случае постоянной угрозы со стороны таких моделей, как захват сети ИИ.

Ньюсом сказал, что он попросил ведущих мировых экспертов по безопасности в области искусственного интеллекта помочь Калифорнии «разработать работоспособные ограждения», направленные на создание «научно-обоснованного анализа траектории». Он добавил, что поручил госорганам расширить оценку рисков потенциальных катастрофических событий, связанных с развитием ИИ.

По теме: Переход OpenAI к коммерческой деятельности: действительно ли это «незаконно»?

Несмотря на то, что Ньюсом наложил вето на SB 1047, он сказал, что должны быть приняты адекватные протоколы безопасности для ИИ, добавив, что регулирующие органы не могут позволить себе «дожидаться крупной катастрофы, прежде чем предпринимать действия по защите населения».

Ньюсом добавил, что его администрация за последние 30 дней подписала более 18 законопроектов, касающихся регулирования ИИ.

Политики и крупные технологические компании выступают против законопроекта о безопасности ИИ

В преддверии решения Ньюсома законопроект был непопулярен среди законодателей, советников и крупных технологических компаний.

Спикер Палаты представителей Нэнси Пелоси и такие компании, как OpenAI, заявили, что это существенно задержит рост искусственного интеллекта.

Глава отдела политики искусственного интеллекта в Институте изобилия Нил Чилсон предупредил, что, хотя законопроект в первую очередь нацелен на модели определенной стоимости и размера (модели стоимостью более 100 миллионов долларов), его сфера действия может быть легко расширена и для подавления более мелких разработчиков.

Но некоторые готовы принять законопроект. Миллиардер Илон Маск, который разрабатывает свою собственную модель искусственного интеллекта, получившую название «Грок», входит в число избранных технологических лидеров, которые поддерживают законопроект и более широкое введение правил в области искусственного интеллекта.

В сообщении X от 26 августа Маск сказал, что «Калифорнии, вероятно, следует принять закон о безопасности SB 1047 для искусственного интеллекта», но признал, что поддержать этот законопроект было «трудным испытанием».