Соединенные Штаты являются одной из многих стран мира, которые готовятся к крупному избирательному циклу в 2024 году. С появлением общедоступных инструментов искусственного интеллекта (ИИ) возросло количество политических дипфейков, которые требуют от избирателейприобрести новые навыки, чтобы отличать то, что реально.
27 февраля председатель разведки сената Марк Уорнер (демократ от штата Вирджиния) заявил, что Америка «менее подготовлена» к фальсификации выборов на предстоящих выборах 2024 года, чем на предыдущих выборах в 2020 году.
Во многом это связано с ростом количества дипфейков, созданных искусственным интеллектом, в США за последний год. По данным SumSub, службы проверки личности, в Северной Америке количество дипфейков увеличилось на 1740%, а количество дипфейков, обнаруженных во всем мире, увеличилось в десять раз в 2023 году.
В период с 20 по 21 января граждане Нью-Гэмпшира сообщили, что получили звонки от роботов с голосом президента США Джо Байдена, который просил их не голосовать на праймериз 23 января.
Неделю спустя этот инцидент побудил регулирующие органы США запретить использование голосов, генерируемых искусственным интеллектом, в автоматизированных телефонных мошенничествах, что сделало их незаконными в соответствии с законами США о телемаркетинге.
Однако, как и в случае мошенничества всех видов, при наличии желания есть способ, несмотря на любые действующие законы. В то время как США готовятся к Супервторнику 5 марта, когда в наибольшем количестве штатов США пройдут первичные выборы и кокусы, растет обеспокоенность по поводу ложной информации и фейков, генерируемых искусственным интеллектом.
Cointelegraph поговорил с Павлом Голдманом Калайдиным, главой отдела искусственного интеллекта и машинного обучения в SumSub, чтобы лучше понять, как избиратели могут лучше подготовиться к обнаружению дипфейков и реагированию на ситуации мошенничества с глубокими фейками.
Как распознать дипфейк
Калайдин сказал, что, несмотря на то, что количество дипфейков во всем мире уже выросло в 10 раз, он ожидает, что оно вырастет еще больше по мере приближения сезона выборов.
Он подчеркнул, что следует знать о двух типах дипфейков: один исходит от «технически подкованных команд», использующих передовые технологии и аппаратное обеспечение, такое как высокопроизводительные графические процессоры и генеративные модели искусственного интеллекта, которые часто труднее обнаружить, и «низкие»«мошенники уровня», которые используют общедоступные инструменты на потребительских компьютерах.
«Важно, чтобы избиратели бдительно проверяли контент своей ленты и сохраняли осторожность в отношении видео- и аудиоконтента», — сказал он. Добавление:
«Люди должны уделять первоочередное внимание проверке источника информации, отличая проверенные, надежные средства массовой информации и контент от неизвестных пользователей».
По словам специалиста по искусственному интеллекту, в дипфейках следует учитывать ряд характерных признаков.
«Если обнаружена какая-либо из следующих особенностей — неестественное движение рук или губ, искусственный фон, неравномерное движение, изменения в освещении, различия в оттенках кожи, необычная манера моргания, плохая синхронизация движений губ с речью или цифровые артефакты — контентвероятно, создано».
Однако Калайдин предупредил, что технология продолжит «быстро развиваться», и заявил, что вскоре «человеческий глаз будет невозможен обнаруживать дипфейки без специальных технологий обнаружения».
Создание, распространение и решение дипфейков
Калайдин отметил, что настоящая проблема кроется в создании дипфейков и их последующем распространении. Хотя доступность ИИ открыла двери возможностей для многих, именно доступность является причиной увеличения количества фейкового контента. Добавил он:
«Демократизация технологии искусственного интеллекта предоставила широкий доступ к приложениям для замены лиц и возможность манипулировать контентом для создания ложных повествований».
Затем следует распространение этого глубоко фейкового контента, при этом отсутствие четких правовых норм и политик облегчает распространение такой дезинформации в Интернете.
«Это, в свою очередь, оставляет избирателей плохо информированными, повышая риск принятия плохо обоснованных решений», — предупредил Калайдин.
Он призвал потенциальными решениями стать обязательные проверки искусственного интеллекта или фейкового контента на платформах социальных сетей для информирования пользователей.
«Платформам необходимо использовать технологии дипфейков и визуального обнаружения, чтобы гарантировать подлинность контента и защищать пользователей от дезинформации и дипфейков».
Другой потенциальный подход, который он предложил, будет включать использование проверки пользователей на платформах, на которых «проверенные пользователи будут нести ответственность за подлинность визуального контента, в то время как непроверенные пользователи будут четко обозначены, призывая других проявлять осторожность при доверии к контенту».
Этот непростой климат заставил правительства стран начать обдумывать достаточные меры. Индия выпустила рекомендацию для местных технологических компаний, в которой говорится, что необходимо получить одобрение, прежде чем выпускать новые «ненадежные» инструменты искусственного интеллекта для публичного использования в преддверии собственных выборов 2024 года.
В Европе Европейская комиссия разработала рекомендации по дезинформации ИИ для платформ, работающих в этом регионе, с учетом многочисленных избирательных циклов в странах региона. Вскоре после этого Meta, материнская компания Facebook и Instagram, опубликовала для ЕС собственную стратегию по борьбе со злоупотреблением генеративным искусственным интеллектом в контенте на своих платформах.
