Европейская комиссия хочет получить информацию о руководящих принципах ИИ по дезинформации на выборах

Европейская комиссия потребует от таких технологических платформ, как TikTok, X и Facebook, обнаруживать контент, созданный искусственным интеллектом (ИИ), чтобы защитить предстоящие европейские выборы от дезинформации.

Комиссия инициировала общественные консультации по предлагаемым руководящим принципам безопасности выборов для очень крупных онлайн-платформ (VLOP) и очень крупных онлайн-поисковых систем (VLOSE). Рекомендации направлены на снижение демократических угроз, исходящих от генеративного искусственного интеллекта и дипфейков.

В проекте руководящих принципов предлагаются примеры возможных мер по устранению рисков, связанных с выборами, включая конкретные действия, связанные с генеративным контентом ИИ, планированием снижения рисков до или после избирательного мероприятия, а также предоставление четких указаний для выборов в Европейский парламент.

Генеративный ИИ может вводить избирателей в заблуждение или манипулировать избирательными процессами, создавая и распространяя недостоверный, вводящий в заблуждение синтетический контент о политических субъектах, ложном изображении событий, избирательных опросах, контекстах или повествованиях.

Ensuring election integrity means protecting public discourse – much of which occurs online.

We are seeking views on our draft Digital Services Act guidelines to address the emerging online risks to electoral processes while safeguarding the building blocks of our democracies ↓

— European Commission (@EU_Commission) February 8, 2024

Проект руководящих указаний по безопасности выборов, открытый для публичных консультаций в Европейском Союзе до 7 марта, рекомендует предупреждать пользователей соответствующих платформ о потенциальных неточностях в контенте, создаваемом генеративным ИИ.

Согласно проекту, руководящие принципы также предлагают направлять пользователей к авторитетным источникам информации и заявляют, что технологические гиганты должны внедрять меры безопасности для предотвращения создания вводящего в заблуждение контента со значительным потенциалом воздействия на поведение пользователей.

Что касается текста, сгенерированного ИИ, текущая рекомендация для VLOP/VLOSE «указывать, где это возможно, в генерируемых выходных данных конкретные источники информации, используемой в качестве входных данных, чтобы пользователи могли проверить надежность и дополнительно контекстуализировать информацию».

Предлагаемые в проекте руководства «лучшие практики» по снижению рисков черпают вдохновение из недавно одобренного законодательного предложения ЕС — Закона об искусственном интеллекте и его необязывающего аналога — Пакта об искусственном интеллекте.

Связанный: Объяснение Закона ЕС об искусственном интеллекте

Беспокойство по поводу передовых систем искусственного интеллекта, таких как большие языковые модели, появилось после вирусного всплеска генеративного искусственного интеллекта в 2023 году, что сделало такие инструменты, как ChatGPT OpenAI, широко известными.

Комиссия не уточнила, когда именно компании будут вынуждены маркировать манипулируемый контент в соответствии с законом ЕС о модерации контента — Законом о цифровых услугах.

Однако в своем блоге компания Meta объявила о планах представить в ближайшие месяцы новые рекомендации относительно контента, создаваемого искусственным интеллектом, в Facebook, Instagram и Threads. Любой контент, распознанный как созданный искусственным интеллектом, будь то с помощью метаданных или намеренных водяных знаков, получит видимую метку.