Городской прокурор Сан-Франциско подал в суд на сайты, которые «раздевают» женщин с помощью ИИ

Городской прокурор Сан-Франциско подал иск против владельцев 16 веб-сайтов, которые позволяли пользователям «обнажать» женщин и молодых девушек с помощью ИИ.

В офисе городского прокурора Сан-Франциско Дэвида Чиу 15 августа заявили, что он подал в суд на владельцев 16 «самых посещаемых веб-сайтов», которые позволяют пользователям «раздевать» людей на фотографиях, чтобы делать «без согласия обнаженных женщин и девушек». ».

В отредактированной версии иска, поданного в Верховный суд города, утверждается, что владельцами сайта являются отдельные лица и компании из Лос-Анджелеса, Нью-Мексико, Великобритании и Эстонии, которые нарушили законы Калифорнии и США о дипфейковом порно, порномести и сексуальном насилии над детьми. материал.

Веб-сайты также далеко не неизвестны. В жалобе утверждается, что всего за первое полугодие их посетило 200 миллионов человек.

Один веб-сайт хвастался, что он позволяет своим пользователям «видеть кого угодно обнаженным». Другой говорит: «Представьте, что вы тратите время на свидания с ней, тогда как вы можете просто использовать [сайт], чтобы снять ее обнаженную», — говорится в жалобе.

В офисе Чиу сообщили, что модели искусственного интеллекта, используемые на сайтах, обучены на изображениях порнографии и материалах о сексуальном насилии над детьми.

По сути, кто-то может загрузить фотографию своей цели, чтобы создать ее реалистичную порнографическую версию. Некоторые сайты ограничивают свои поколения только взрослыми, но другие даже позволяют создавать изображения детей.

В офисе Чиу заявили, что изображения «практически неотличимы» от реальных и использовались для «вымогательства, запугивания, угроз и унижения женщин и девочек», многие из которых не имеют возможности контролировать поддельные изображения после их создания..

По теме: Калифорнийский законопроект об искусственном интеллекте, направленный на предотвращение стихийных бедствий, вызывает гнев Кремниевой долины

В феврале учащиеся средней школы Калифорнии поделились сгенерированными искусственным интеллектом изображениями обнаженной натуры 16 восьмиклассников, которым обычно от 13 до 14 лет.

В июне канал ABC News сообщил, что полиция штата Виктория арестовала подростка по обвинению в распространении 50 изображений учащихся 9–12 классов, посещавших школу за пределами Мельбурна, Австралия.

«Это расследование привело нас в самые темные уголки Интернета, и я в ужасе от женщин и девочек, которым пришлось терпеть эту эксплуатацию», — сказала Чиу.

«Мы все должны внести свой вклад в борьбу с злоумышленниками, использующими ИИ для эксплуатации и жестокого обращения с реальными людьми, включая детей», — добавил он.

Чиу сказал, что ИИ имеет «огромные перспективы», но есть преступники, которые используют эту технологию, добавив: «Мы должны четко понимать, что это не инновация, а сексуальное насилие».

AI Eye: пузырь ИИ еще не закончился, несмотря на «корыто разочарования»