Губернатор Калифорнии Гэвин Ньюсом объявил, что штат США установит нормативные гарантии для платформ социальных сетей и чат-ботов-компаньонов с искусственным интеллектом, чтобы защитить детей.
В уведомлении в понедельник офис губернатора сообщил, что Ньюсом подписал несколько законопроектов, которые потребуют от платформ добавить функции проверки возраста, протоколы по борьбе с самоубийствами и членовредительством, а также предупреждения для сопутствующих чат-ботов. Законопроект об искусственном интеллекте, SB 243, был внесен на рассмотрение сенаторами штата Стивом Падилья и Джошем Беккером в январе.
Падилья привел примеры того, как дети общались с ботами-компаньонами с искусственным интеллектом, что предположительно приводило к некоторым случаям поощрения самоубийства. По словам Падиллы, законопроект требует, чтобы платформы сообщали несовершеннолетним, что чат-боты созданы искусственным интеллектом и могут не подходить для детей.
«Эта технология может стать мощным образовательным и исследовательским инструментом, но, если предоставить ее самой себе, индустрия высоких технологий будет заинтересована в том, чтобы привлечь внимание молодых людей и удерживать его за счет их отношений в реальном мире», — сказал Падилья в сентябре.
Закон, скорее всего, повлияет на компании социальных сетей и веб-сайты, предлагающие услуги жителям Калифорнии с использованием инструментов искусственного интеллекта, потенциально включая децентрализованные социальные сети и игровые платформы. В дополнение к гарантиям чат-ботов, законопроекты направлены на сужение требований о том, что технология «действует автономно», чтобы компании могли избежать ответственности.
Ожидается, что SB 243 вступит в силу в январе 2026 года.
Связанный: Слой DeFAI Эдвин сочетает кошельки и чат-бот с искусственным интеллектом с запуском терминала
Поступали сообщения о том, что чат-боты с искусственным интеллектом якобы выплевывают ответы, побуждающие несовершеннолетних совершать членовредительства или потенциально создавая риск для психического здоровья пользователей. Губернатор Юты Спенсер Кокс подписал в 2024 году законопроекты, аналогичные законам Калифорнии, которые вступили в силу в мае и требуют, чтобы чат-боты с искусственным интеллектом сообщали пользователям, что они разговаривают не с человеком.
Действия федерального правительства по мере расширения ИИ
В июне сенатор от штата Вайоминг Синтия Ламмис представила Закон об ответственных инновациях и безопасной экспертизе (RISE), создающий «иммунитет от гражданской ответственности» для разработчиков ИИ, которые потенциально могут столкнуться с судебными исками со стороны лидеров отрасли в «здравоохранении, юриспруденции, финансах и других секторах, имеющих решающее значение для экономики».
Законопроект вызвал неоднозначную реакцию и был передан в комитет Палаты представителей по образованию и трудовым ресурсам.
