ШІ-сервіси deepfake оголених стрімко зростають у популярності: дослідження

Аналітична компанія соціальних медіа Graphika заявила, що використання «ШІ роздягання» зростає.

Ця практика передбачає використання інструментів генеративного штучного інтелекту (ШІ), точно налаштованих для усунення одягу із зображень, наданих користувачами.

Згідно зі своїм звітом, Graphika виміряла кількість коментарів і публікацій на Reddit і X, які містять реферальні посилання на 34 веб-сайти та 52 канали Telegram, що надають синтетичні послуги NCII, і вона склала 1280 у 2022 році порівняно з понад 32 100 на даний момент цього року, що відповідає 2408.% зростання обсягу в річному обчисленні.

Синтетичні послуги NCII стосуються використання інструментів штучного інтелекту для створення неконсенсуальних інтимних зображень (NCII), що часто передбачає створення відвертого вмісту без згоди зображених осіб.

Graphika стверджує, що ці інструменти штучного інтелекту роблять генерацію реалістичного явного контенту в масштабі простішим і економічно ефективним для багатьох провайдерів.

Без цих постачальників клієнти зіткнулися б із тягарем самостійного керування власними моделями розповсюдження зображень, що займає багато часу та потенційно дорого.

Graphika попереджає, що все більш широке використання інструментів роздягання штучного інтелекту може призвести до створення підробленого відвертого контенту та сприяти таким проблемам, як цілеспрямоване переслідування, сексуальне здирство та виробництво матеріалів сексуального насильства над дітьми (CSAM).

Хоча штучний інтелект роздягання зазвичай зосереджується на зображеннях, штучний інтелект також використовувався для створення глибоких фейків відео з використанням подоби знаменитостей, зокрема персонажа YouTube Містера Звіра та голлівудського актора Тома Генкса.

За темою: Microsoft зіткнулася з антимонопольним розслідуванням Великобританії щодо структури угоди OpenAI

В окремому звіті в жовтні британська компанія Internet Watch Foundation (IWF) зазначила, що лише за місяць виявила понад 20 254 зображення жорстокого поводження з дітьми на одному форумі темної мережі. IWF попередила, що створена ШІ дитяча порнографія може «заполонити» Інтернет.

У зв’язку з прогресом у створенні генеративних зображень штучного інтелекту IWF попереджає, що відрізнити підроблену порнографію від автентичних зображень стало складніше.

У звіті від 12 червня Організація Об’єднаних Націй назвала медіа, створені штучним інтелектом, «серйозною та невідкладною» загрозою цілісності інформації, особливо в соціальних мережах. У п’ятницю, 8 грудня, учасники переговорів Європейського парламенту та Ради погодили правила використання ШІ в Європейському Союзі.