Комиссия ЕС предлагает ввести уголовную ответственность за жестокое обращение с детьми с помощью искусственного интеллекта

Европейская комиссия объявила, что рассматривает возможность введения уголовной ответственности за изображения и дипфейки, созданные искусственным интеллектом, изображающие сексуальное насилие над детьми (CSA), чтобы обновить законы в ответ на технологические достижения.

Предложение включает в себя введение нового уголовного преступления за трансляцию сексуального насилия над детьми в прямом эфире. Он также стремится криминализировать хранение и обмен «руководствами для педофилов». В предложении также говорится о борьбе с чат-ботами искусственного интеллекта (ИИ), используемыми для жестокого обращения с детьми.

Европейская комиссия намерена обновить правила 2011 года, предложив внести изменения в обязательное информирование о правонарушениях. Эти меры являются частью более широкого пакета, направленного на предотвращение сексуального насилия над детьми, повышение осведомленности о рисках в Интернете, облегчение информирования жертв о преступлениях и предоставление поддержки, включая право на финансовую компенсацию.

https://twitter.com/EU_Commission/status/1754877307414520031?ref_src=twsrc%5Etfw

Оценка воздействия, проведенная Комиссией до принятия предложения, выявила рост присутствия в Интернете и «новейшие технологические разработки» как факторы, создающие новые возможности для сексуального насилия над детьми. Чтобы устранить риски онлайн-безопасности для детей, предложение призывает государства-члены инвестировать в «повышение осведомленности».

Существуют опасения, что эта технология используется не по назначению для создания материалов о сексуальном насилии над детьми (CSAM), и возросли опасения, что этот искусственный контент может затруднить идентификацию реальных жертв для правоохранительных органов. Широкое распространение генеративного искусственного интеллекта дало законодателям четкую мотивацию пересмотреть правила.

По теме: Государства-члены ЕС «одобряют политическое соглашение» о продвижении Закона об искусственном интеллекте

Однако окончательная форма предложений будет определена законодателями Европейского Союза (ЕС) в Парламенте и Совете. По данным Комиссии, после достижения соглашения о внесении изменений в действующую директиву по борьбе с CSA, она вступит в силу через 20 дней после публикации в Официальном журнале ЕС.

Согласно обычной законодательной процедуре, когда Европейская комиссия представляет предложение, Европейский парламент (ЕП) и Совет министров могут одобрить или изменить его. Если разногласия сохраняются, оба могут предложить поправки. Далее следуют переговоры, и по их завершении оба учреждения могут проголосовать за или против окончательной версии.

В мае 2022 года Комиссия предложила дополнительный закон, касающийся обязанности цифровых услуг использовать автоматизированные технологии для обнаружения и сообщения о CSAM, а также выявления деятельности по уходу, направленной на детей. По мнению Комиссии, нынешнее предложение дополняет предложение по регулированию 2022 года.

Однако менее чем за два года с момента появления предложения по сканированию личных сообщений произошел значительный рост осведомленности об опасностях дипфейков и изображений, созданных искусственным интеллектом.