Meta будет бороться с фейковыми новостями, созданными ИИ, с помощью «невидимых водяных знаков»

Гигант социальных сетей Meta (ранее Facebook) будет включать невидимый водяной знак во все изображения, которые он создает с помощью искусственного интеллекта (ИИ), поскольку он усиливает меры по предотвращению неправильного использования этой технологии.

В отчете от 6 декабря с подробным описанием обновлений Meta AI — виртуального помощника Meta — компания сообщила, что вскоре добавит невидимые водяные знаки ко всем изображениям, сгенерированным AI, созданным с помощью «представьте с опытом Meta AI». Как и многие другие чат-боты с искусственным интеллектом, Meta AI генерирует изображения и контент на основе запросов пользователя. Тем не менее, Meta стремится не допустить, чтобы злоумышленники рассматривали сервис как еще один инструмент для обмана общественности.

Как и многие другие генераторы изображений ИИ, Meta AI генерирует изображения и контент на основе запросов пользователя. Последняя функция водяных знаков усложнит удаление водяного знака создателю.

«В ближайшие недели мы добавим к изображению невидимые водяные знаки с помощью Meta AI для повышения прозрачности и отслеживаемости».

Meta заявляет, что будет использовать модель глубокого обучения для нанесения водяных знаков на изображения, созданные с помощью инструмента искусственного интеллекта, которые будут невидимы для человеческого глаза. Однако невидимые водяные знаки можно обнаружить с помощью соответствующей модели.

В отличие от традиционных водяных знаков, Meta утверждает, что ее водяные знаки с искусственным интеллектом, получившие название Imagine с Meta AI, «устойчивы к обычным манипуляциям с изображениями, таким как обрезка, изменение цвета (яркость, контрастность и т. д.), снимки экрана и многое другое». Хотя сервисы водяных знаков первоначально будут развернуты для изображений, созданных с помощью Meta AI, компания планирует внедрить эту функцию в другие мета-сервисы, которые используют изображения, сгенерированные AI.

В своем последнем обновлении Meta AI также представила функцию «переосмысления» для Facebook Messenger и Instagram. Обновление позволяет пользователям отправлять и получать друг другу изображения, созданные искусственным интеллектом. В результате обе службы обмена сообщениями также получат функцию невидимых водяных знаков.

По теме: Том Хэнкс, MrBeast и другие знаменитости предупреждают о мошенничестве с искусственным интеллектом

Такие сервисы искусственного интеллекта, как Dall-E и Midjourney, уже предоставляют возможность добавлять традиционные водяные знаки к создаваемому ими контенту. Однако такие водяные знаки можно удалить, просто обрезав край изображения. Более того, некоторые инструменты искусственного интеллекта имеют возможность автоматически удалять водяные знаки с изображений, что, по утверждению Meta AI, будет невозможно сделать с их выводом.

С тех пор, как инструменты генеративного искусственного интеллекта стали популяризироваться, многие предприниматели и знаменитости начали критиковать мошеннические кампании с использованием искусственного интеллекта. Мошенники используют легкодоступные инструменты для создания фейковых видео, аудио и изображений популярных личностей и распространения их в Интернете.

В мае созданное искусственным интеллектом изображение взрыва возле Пентагона — штаб-квартиры Министерства обороны США — вызвало кратковременное падение фондового рынка.

https://twitter.com/ArlingtonVaFD/status/1660653619954294786?ref_src=twsrc%5Etfw

В том же месяце правозащитная группа Amnesty International попалась на созданное искусственным интеллектом изображение, изображающее жестокость полиции, и использовала его для проведения кампаний против властей.

«Мы удалили изображения из публикаций в социальных сетях, так как не хотим, чтобы критика использования изображений, сгенерированных искусственным интеллектом, отвлекала от основного послания в поддержку жертв и их призывов к справедливости в Колумбии», — заявила Эрика Гевара. Росас, директор Amnesty по Америке.