Согласно сообщению в блоге компании от 6 января, Meta в ближайшие месяцы внедрит новые стандарты в отношении контента, созданного искусственным интеллектом, в Facebook, Instagram и тредах.
Контенту, который был определен как созданный искусственным интеллектом из-за метаданных или других преднамеренных водяных знаков, будет присвоен видимый ярлык. Пользователи мета-платформ также получат возможность отмечать немаркированный контент, предположительно созданный искусственным интеллектом.
Краудсорсинг
Если что-то из этого звучит знакомо, так это потому, что оно отражает ранние методы модерации контента Meta. До наступления эры контента, генерируемого искусственным интеллектом, компания (тогда Facebook) разработала систему, ориентированную на пользователей, для сообщения о контенте, нарушающем условия обслуживания платформы.
Перенесемся в 2024 год, когда Meta снабдит пользователей своих социальных сетей инструментами для повторной пометки контента, используя, возможно, крупнейшую в мире силу потребительского краудсорсинга.
Это также означает, что создателям на платформах компании придется помечать свою работу как созданную искусственным интеллектом, когда это применимо, иначе могут быть последствия.
Согласно сообщению в блоге:
«Мы будем требовать от людей использовать этот инструмент раскрытия информации и маркировки, когда они публикуют органический контент с фотореалистичным видео или реалистично звучащим аудио, созданным или измененным в цифровом формате, и мы можем применить штрафы, если они этого не сделают».
Обнаружение контента, созданного искусственным интеллектом
Meta заявляет, что всякий раз, когда ее встроенные инструменты используются для создания контента, созданного искусственным интеллектом, этот контент получает водяной знак и метку, четко указывающую его происхождение. Однако не во все генеративные системы искусственного интеллекта встроены эти ограждения.
Компания заявляет, что работает с другими компаниями через партнерские отношения в консорциуме, в том числе с Google, OpenAI, Microsoft, Adobe, Midjourney и Shutterstock, и продолжит разработку методов обнаружения невидимых водяных знаков в больших масштабах.
К сожалению, эти методы применимы только к изображениям, созданным ИИ. «Хотя компании начинают включать сигналы в свои генераторы изображений, — говорится в сообщении в блоге, — они еще не начали включать их в инструменты искусственного интеллекта, которые генерируют аудио и видео в одном масштабе».
Согласно сообщению, это означает, что Meta в настоящее время не может обнаруживать аудио и видео, созданные искусственным интеллектом, в больших масштабах, включая технологию deepfake.
Связанный: Meta представляет чип Artemis для усиления искусственного интеллекта и разрыва связей с Nvidia — отчет
