Законодатели Калифорнии продвигают спорный законопроект об искусственном интеллекте, против которого выступает OpenAI

Законодатели штата Калифорния выдвинули законопроект о безопасности искусственного интеллекта (ИИ), который стал предметом споров в технологической отрасли и встретил сопротивление со стороны ключевых игроков и выборных должностных лиц.

28 августа сенатский законопроект (SB) 1047 был принят Ассамблеей штата и теперь ожидает окончательного слова губернатора штата Гэвина Ньюсома. Ньюсому придется до 30 сентября решить, подписывать ли этот закон или наложить вето.

Принятие закона об искусственном интеллекте

SB 1047 был написан Скоттом Винером, сенатором-демократом от Сан-Франциско. Винер утверждает, что необходимо принять законодательство, прежде чем любые дальнейшие достижения в области ИИ станут неконтролируемыми.

Законопроект делает обязательным тестирование безопасности для большинства самых передовых моделей ИИ;либо те, стоимость разработки которых превышает 100 миллионов долларов, либо те, которые превышают определенную вычислительную мощность для работы.

Разработчикам в штате Калифорния, в число которых войдут такие известные компании, как производитель ChatGPT OpenAI, Meta и Google, потребуется разработать схемы «аварийного выключателя» для таких моделей, если они станут неуправляемыми и в обеспечении безопасности будут участвовать сторонние аудиторы. аудит моделей.

Разработчики также смогут подать в суд на генерального прокурора штата в случае постоянной угрозы со стороны таких моделей, как захват сети ИИ.

SB 1047 отодвинуть назад

Хотя Винер утверждает, что законопроект необходим для предотвращения необратимого социального ущерба в результате сбоя в работе систем искусственного интеллекта, не все поддерживают SB 1047.

По теме: Регуляторы заблуждаются в попытках ограничить ИИ с открытым исходным кодом

Законопроект вызвал серьезную критику со стороны ключевых игроков технологической индустрии и государственных политиков, заявивших, что он будет мешать инноваторам штата.

Примечательно, что почетный спикер Нэнси Пелоси прокомментировала законопроект, заявив, что он «скорее вреден, чем полезен» в стремлении к тому, чтобы Калифорния лидировала в разработке искусственного интеллекта.

Глава политики в области ИИ в Институте изобилия Нил Чилсон предупредил, что, хотя законопроект в первую очередь нацелен на модели определенной стоимости и уровня, он «работает путем попытки» создать стандарт «разумной заботы» для обучения ИИ.

Он сказал, что это может привести к перенапряжению и повлиять также на более мелкие компании и модели.

Технологическим компаниям отрасли особенно не понравился законопроект, а OpenAI выступила против него, заявив, что он будет препятствовать росту. Однако Винер оспорил эти утверждения.

Google и Meta Platforms также сообщили о своих опасениях губернатору Калифорнии Ньюсому в письме.

Однако в перетягивании каната мнений по законопроекту компания Anthropic от Amazon проявила поддержку, заявив, что выгоды «вероятно, перевесят затраты», хотя в нем все еще есть некоторые неоднозначные элементы.

Бывший профессор компьютерных наук в Карнеги-Меллоне и выпускник администрации Обамы Эрик Даймлер сказал, что он «глубоко обеспокоен» безопасностью ИИ, и призвал Вашингтон рассмотреть SB 1047 в качестве примера. Он также сказал, что верит, что существует «более эффективный путь вперед».

SB 1047 — не единственный обсуждаемый в настоящее время законопроект об искусственном интеллекте в Калифорнии. Закон SB 1220, запрещающий использование искусственного интеллекта в колл-центрах, предоставляющих социальные и медицинские услуги, такие как SNAP и Medicaid, также вызвал вопросы в отрасли.

Однако калифорнийский законопроект AB 3211, который требует наличия водяных знаков на контенте, созданном искусственным интеллектом, получил поддержку таких технологических компаний, как OpenAI и Microsoft.

Миллиардер Илон Маск, разрабатывающий свою модель Grok, высказался за введение более строгих правил безопасности в области искусственного интеллекта.

Cointelegraph обратился к калифорнийским юристам и разработчикам искусственного интеллекта, чтобы лучше понять атмосферу вокруг законопроектов.

AI Eye: план «адского пейзажа» дронов с искусственным интеллектом для Тайваня, магистратуры слишком глупы, чтобы уничтожить человечество