Міський прокурор Сан-Франциско подав позов проти власників 16 веб-сайтів, які дозволяли користувачам «оголяти» жінок і дівчат за допомогою ШІ.
Офіс міського прокурора Сан-Франциско Девіда Чіу 15 серпня заявив, що він подав до суду на власників 16 «найбільш відвідуваних веб-сайтів», які дозволяють користувачам «роздягати» людей на фотографіях, щоб зробити «незгодні зображення оголених жінок і дівчат»..”
Відредагована версія позову, поданого до Верховного суду міста, стверджує, що серед власників сайту є особи та компанії з Лос-Анджелеса, Нью-Мексико, Сполученого Королівства та Естонії, які порушили закони Каліфорнії та США про глибоке фейкове порно, порно з помстою та сексуальне насильство над дітьми. матеріал.
Веб-сайти теж далеко невідомі. У скарзі стверджується, що лише за перше півріччя вони набрали 200 мільйонів відвідувань.
Один веб-сайт хвалився, що дозволяє своїм користувачам «бачити будь-кого голим». Інший каже: «Уявіть, що ви витрачаєте час на те, щоб брати її на побачення, тоді як ви можете просто скористатися [веб-сайтом], щоб отримати її оголене тіло», — йдеться у скарзі.
Як повідомили в офісі Чіу, моделі ШІ, які використовуються на сайтах, навчаються на зображеннях порнографії та матеріалів сексуального насильства над дітьми.
По суті, хтось може завантажити зображення своєї цілі, щоб створити її реалістичну порнографічну версію. Деякі сайти обмежують покоління лише дорослими, але інші навіть дозволяють створювати зображення дітей.
В офісі Чіу заявили, що зображення «практично не відрізняються» від справжніх і використовувалися для «вимагання, залякування, погроз і приниження жінок і дівчат», багато з яких не мають можливості контролювати підроблені зображення після їх створення..
За темою: Каліфорнійський законопроект про штучний інтелект, спрямований на запобігання катастрофам, викликав гнів у Кремнієвій долині
У лютому створені за допомогою штучного інтелекту зображення оголених 16 учнів восьмого класу, яким зазвичай від 13 до 14 років, поширювали учні середньої школи Каліфорнії.
У червні ABC News повідомила, що поліція Вікторії заарештувала підлітка за нібито розповсюдження 50 зображень учнів 9-12 класів, які відвідували школу за межами Мельбурна, Австралія.
«Це розслідування завело нас у найтемніші куточки Інтернету, і я в жаху за жінок і дівчат, яким довелося витерпіти таку експлуатацію», — сказав Чіу.
«Ми всі маємо зробити свій внесок у боротьбу з поганими акторами, які використовують штучний інтелект для експлуатації та жорстокого поводження з реальними людьми, включаючи дітей», — додав він.
Чіу сказав, що штучний інтелект має «великі перспективи», але є злочинці, які використовують цю технологію, додавши: «Ми повинні чітко усвідомлювати, що це не інновація — це сексуальне насильство».
AI Eye: бульбашка штучного інтелекту ще не закінчилася, незважаючи на входження в «жолоб розчарування»
