TikTok, Snapchat, OnlyFans и другие для борьбы с контентом о жестоком обращении с детьми, создаваемым ИИ

Коалиция крупнейших платформ социальных сетей, разработчиков искусственного интеллекта, правительств и неправительственных организаций (НПО) опубликовала совместное заявление, в котором обязалась бороться с оскорбительным контентом, создаваемым искусственным интеллектом (ИИ).

30 октября Великобритания опубликовала политическое заявление, которое подписали 27 стран, в том числе правительства США, Австралии, Кореи, Германии и Италии, а также платформы социальных сетей SnapChat, TikTok и OnlyFans.

Его также подписали платформы искусственного интеллекта Stability AI и Ontocord. AI, а также ряд неправительственных организаций, занимающихся, среди прочего, безопасностью в Интернете и правами детей.

В заявлении говорится, что хотя ИИ предлагает «огромные возможности» в борьбе с угрозами сексуального насилия над детьми в Интернете, он также может быть использован злоумышленниками для создания подобных материалов.

По данным Internet Watch Foundation, в течение месяца из 11 108 изображений, созданных искусственным интеллектом и размещенных на форуме даркнета, 2 978 изображали контент, связанный с сексуальным насилием над детьми.

По теме: Президент США Джо Байден призывает технологические компании устранить риски, связанные с ИИ

Правительство Великобритании заявило, что это заявление представляет собой обязательство «стремиться понять и, при необходимости, принять меры по рискам, возникающим из-за ИИ, для борьбы с сексуальным насилием над детьми через существующие форумы».

«Все участники должны сыграть свою роль в обеспечении безопасности детей от рисков передового ИИ».

Он призвал к прозрачности планов по измерению, мониторингу и управлению способами использования ИИ детьми, совершившими сексуальные преступления, а также на уровне страны для разработки политики по этой теме.

Кроме того, его целью является поддержание диалога по вопросам борьбы с сексуальным насилием над детьми в эпоху искусственного интеллекта. Это заявление было опубликовано в преддверии проведения на этой неделе в Великобритании глобального саммита по безопасности ИИ.

Обеспокоенность по поводу безопасности детей в связи с ИИ стала основной темой дискуссий в условиях быстрого распространения этой технологии.

26 октября 34 штата США подали иск против Meta, материнской компании Facebook и Instagram, из-за проблем с безопасностью детей.