Anthropic вступает в перетягивание каната из-за законопроекта об искусственном интеллекте в Калифорнии

Законодатели по всей территории США работают над внедрением правил, регулирующих разработку и внедрение моделей искусственного интеллекта высокого уровня.

Разработчик искусственного интеллекта Anthropic присоединился к перетягиванию каната вокруг законопроекта, предложенного сенатором от Калифорнии Скоттом Винером, заявив, что его «выгоды, вероятно, перевешивают затраты».

СБ 1047 разработки

В письме губернатору Калифорнии Гэвину Ньюсону, генеральному директору Anthropic, Дарио Амодей от 21 августа Дарио Амодей сообщил, что рассматриваемый законопроект, сенатский законопроект (SB) 1047, был «существенно улучшен», хотя некоторые аспекты все еще кажутся «существенно улучшенными». касательно или двусмысленно».

«Наши первоначальные опасения по поводу того, что законопроект потенциально может препятствовать инновациям из-за быстро развивающегося характера этой области, в измененной версии значительно уменьшились».

SB 1047 был представлен Винером еще в феврале 2024 года и направлен на то, чтобы обязать и стандартизировать тестирование безопасности для самых передовых моделей искусственного интеллекта, разработка которых либо стоит более 100 миллионов долларов, либо требует определенного объема вычислительной мощности.

Согласно законопроекту Винера, разработчики программного обеспечения для искусственного интеллекта в штате Калифорния должны будут предоставить схему методов, с помощью которых модели можно будет отключить в случае чрезвычайной ситуации. Это часто называют «выключателем».

Связанный: OpenAI предлагает тонкую настройку GPT-4o для компаний, работающих в сфере искусственного интеллекта

Разработчикам программного обеспечения искусственного интеллекта, работающего в штате, необходимо будет наметить методы отключения моделей искусственного интеллекта, если они пойдут не так, как надо, что фактически является аварийным выключателем. Кроме того, законопроект предоставит генеральному прокурору штата возможность подавать в суд на застройщиков, если будет установлено, что они не соблюдают закон.

Технологические компании присоединяются

Законопроект был недавно пересмотрен Винером, который включал влияние Anthropic, среди других технологических компаний, чтобы успокоить некоторые жалобы со стороны крупных технологических компаний. Одна из поправок включала отмену создания возглавляемого правительством комитета по надзору за ИИ.

Однако Винер также открыто высказывался о несогласии отрасли с его законопроектом.22 августа сенатор ответил на письмо OpenAI губернатору Ньюсому, в котором он выступал против SB 1047.

Винер назвал опасения OpenAI «необоснованными», «усталыми» и «беспочвенными». Он сказал, что законопроект необходим для обеспечения общественной и национальной безопасности, и выразил недоумение по поводу текущей позиции OpenAI из-за ее предыдущего обязательства проводить такие оценки безопасности.

Наряду с OpenAI, Google и Meta, входящие в состав Alphabet, также направили Винеру письма с обеспокоенностью. Мета утверждает, что законопроект грозит сделать Калифорнию менее гостеприимной для разработки и внедрения ИИ.