Европейская комиссия объявила, что рассматривает возможность введения уголовной ответственности за изображения и дипфейки, созданные искусственным интеллектом, изображающие сексуальное насилие над детьми (CSA), чтобы обновить законы в ответ на технологические достижения.
Предложение включает в себя введение нового уголовного преступления за трансляцию сексуального насилия над детьми в прямом эфире. Он также стремится криминализировать хранение и обмен «руководствами для педофилов». В предложении также говорится о борьбе с чат-ботами искусственного интеллекта (ИИ), используемыми для жестокого обращения с детьми.
Европейская комиссия намерена обновить правила 2011 года, предложив внести изменения в обязательное информирование о правонарушениях. Эти меры являются частью более широкого пакета, направленного на предотвращение сексуального насилия над детьми, повышение осведомленности о рисках в Интернете, облегчение информирования жертв о преступлениях и предоставление поддержки, включая право на финансовую компенсацию.
Child sexual abuse is a heinous crime which has evolved significantly over the past years.
Today, we are adopting a proposal to update the criminal law rules on child sexual abuse and sexual exploitation.
Learn more → https://t.co/mtz68GuEJJ#SecurityEU pic.twitter.com/QF7TsFX7cy
— European Commission (@EU_Commission) February 6, 2024
Оценка воздействия, проведенная Комиссией до принятия предложения, выявила рост присутствия в Интернете и «новейшие технологические разработки» как факторы, создающие новые возможности для сексуального насилия над детьми. Чтобы устранить риски онлайн-безопасности для детей, предложение призывает государства-члены инвестировать в «повышение осведомленности».
Существуют опасения, что эта технология используется не по назначению для создания материалов о сексуальном насилии над детьми (CSAM), и возросли опасения, что этот искусственный контент может затруднить идентификацию реальных жертв для правоохранительных органов. Широкое распространение генеративного искусственного интеллекта дало законодателям четкую мотивацию пересмотреть правила.
По теме: Государства-члены ЕС «одобряют политическое соглашение» о продвижении Закона об искусственном интеллекте
Однако окончательная форма предложений будет определена законодателями Европейского Союза (ЕС) в Парламенте и Совете. По данным Комиссии, после достижения соглашения о внесении изменений в действующую директиву по борьбе с CSA, она вступит в силу через 20 дней после публикации в Официальном журнале ЕС.
Согласно обычной законодательной процедуре, когда Европейская комиссия представляет предложение, Европейский парламент (ЕП) и Совет министров могут одобрить или изменить его. Если разногласия сохраняются, оба могут предложить поправки. Далее следуют переговоры, и по их завершении оба учреждения могут проголосовать за или против окончательной версии.
В мае 2022 года Комиссия предложила дополнительный закон, касающийся обязанности цифровых услуг использовать автоматизированные технологии для обнаружения и сообщения о CSAM, а также выявления деятельности по уходу, направленной на детей. По мнению Комиссии, нынешнее предложение дополняет предложение по регулированию 2022 года.
Однако менее чем за два года с момента появления предложения по сканированию личных сообщений произошел значительный рост осведомленности об опасностях дипфейков и изображений, созданных искусственным интеллектом.
