TikTok будет автоматически маркировать контент, созданный искусственным интеллектом

TikTok, популярная социальная платформа для создания и обмена короткими видеороликами, заявила, что теперь начнет автоматически маркировать контент, созданный искусственным интеллектом (AI), когда он загружается на платформу.

9 мая гигант социальных сетей заявил, что сотрудничает с Коалицией за происхождение и подлинность контента (C2PA) и станет первой платформой для обмена медиа, которая внедрит свою технологию Content Credentials.

TikTok уже более года требует от создателей контента маркировать реалистичный AIGC, а также все, что создано с использованием собственных эффектов TikTok AI.

Однако недавняя разработка реализует автоматическую маркировку контента, сгенерированного искусственным интеллектом, созданного с использованием других платформ. В компании заявили, что это будет сделано с помощью технологии Content Credentials, которая прикрепляет к контенту метаданные, которые платформа может использовать для мгновенного распознавания и маркировки AIGC.

В заявлении говорится, что увеличение количества автоматически маркируемых AIGC на TikTok будет «поначалу постепенным», как только Content Credential будет реализован на других платформах для метаданных, он сможет маркировать больше контента.

На данный момент эта функция будет доступна только для изображений и видео, в ближайшем будущем планируется перенести ее и на аудиоконтент.

Платформа социальных сетей также присоединилась к Инициативе по обеспечению подлинности контента (CAI), возглавляемой Adobe. Дана Роа, главный юрисконсульт и директор по доверительному управлению Adobe, сказала:

«В то время, когда любой цифровой контент может быть изменен, важно предоставить общественности возможность понять, что является правдой».

Связанный: Команда внутренней безопасности Байдена привлекает техническую элиту для совета по защите ИИ

В дополнение к маркировке ИИ, TikTok заявил, что также будет распространять ресурсы по медиаграмотности, которые были разработаны совместно с MediaWise и WITNESS.

Платформа социальных сетей намерена выпускать 12 видеороликов в течение года, в которых будут освещаться универсальные навыки медиаграмотности и объясняться, как инструменты TikTok, такие как метки AIGC, могут дополнительно контекстуализировать контент.

Это происходит по мере того, как ИИ продолжает развиваться и обладает способностью создавать более реалистичный контент, что приводит к росту количества дипфейков, создаваемых ИИ.

8 мая власти Гонконга обнаружили нелицензионную мошенническую биржу криптовалют, которая имитировала связь с Илоном Маском, размещая на своем веб-сайте и в социальных сетях созданные искусственным интеллектом видеоролики и изображения Маска.

Несколькими днями ранее соучредитель Berkshire Hathaway Уоррен Баффет заявил, что воздействие искусственного интеллекта на незаконную финансовую деятельность сравнимо с появлением атомной бомбы и ядерного оружия.

Это произошло после того, как он увидел его дипфейк, который смог реалистично имитировать то, как он одевался, двигался и говорил.