Комісія ЄС пропонує криміналізувати жорстоке поводження з дітьми за допомогою ШІ

Європейська комісія оголосила, що розглядає можливість криміналізації зображень, створених штучним інтелектом, і дипфейків, що зображують сексуальне насильство над дітьми (CSA), щоб оновити закони у відповідь на технологічний прогрес.

Пропозиція передбачає введення нової кримінальної відповідальності за сексуальне насильство над дітьми в прямому ефірі. Він також прагне криміналізувати володіння та обмін «посібниками педофілів». У пропозиції також йдеться про боротьбу з чат-ботами зі штучним інтелектом (ШІ), які використовуються для жорстокого поводження з дітьми.

Європейська комісія має на меті оновити правила з 2011 року за допомогою пропозиції, що передбачає зміни щодо обов’язкового повідомлення про правопорушення. Ці заходи є частиною ширшого пакету, спрямованого на запобігання сексуальному насильству над дітьми, підвищення обізнаності про ризики в Інтернеті, сприяння жертвам повідомлень про злочини та надання підтримки, включаючи право на фінансову компенсацію.

https://twitter.com/EU_Commission/status/1754877307414520031?ref_src=twsrc%5Etfw

Оцінка впливу Комісії, проведена до пропозиції, підкреслила збільшення присутності в Інтернеті та «останні технологічні розробки» як фактори, що створюють нові можливості для сексуального насильства над дітьми. Щоб усунути ризики безпеки дітей в Інтернеті, пропозиція заохочує країни-члени інвестувати в «підвищення обізнаності».

Є занепокоєння, що цю технологію зловживають для створення матеріалів про сексуальне насильство над дітьми (CSAM), і зросли занепокоєння, що цей штучний вміст може ускладнити ідентифікацію справжніх жертв для правоохоронних органів. Широке зростання генеративного штучного інтелекту дало законодавцям чітку мотивацію переглянути правила.

За темою: країни-члени ЄС «схвалили політичну угоду» щодо просування Закону про штучний інтелект

Однак остаточну форму пропозицій вирішать співзаконодавці Європейського Союзу (ЄС) у Парламенті та Раді. За даними Комісії, після досягнення домовленості про внесення змін до чинної директиви щодо боротьби з CSA вона набуде чинності через 20 днів після публікації в Офіційному журналі ЄС.

Відповідно до звичайної законодавчої процедури, коли Європейська комісія подає пропозицію, Європейський парламент (ЄП) і Рада міністрів можуть схвалити або змінити її. Якщо розбіжності залишаються, обидва можуть запропонувати поправки. Далі йдуть переговори, і після завершення обидві установи можуть голосувати за або проти остаточної версії.

У травні 2022 року Комісія запропонувала додаткове законодавство, яке зосереджує увагу на зобов’язанні цифрових служб використовувати автоматизовані технології для виявлення сексуального насильства над дітьми та повідомлення про них, а також виявлення грумінгу, націленого на дітей. За словами Комісії, поточна пропозиція доповнює пропозицію щодо регулювання 2022 року.

Проте менш ніж за два роки після появи пропозиції щодо сканування приватних повідомлень спостерігалося значне зростання обізнаності про небезпеку дипфейків і зображень, створених ШІ.