Гигант социальных сетей Meta (ранее Facebook) будет включать невидимый водяной знак во все изображения, которые он создает с помощью искусственного интеллекта (ИИ), поскольку он усиливает меры по предотвращению неправильного использования этой технологии.
В отчете от 6 декабря с подробным описанием обновлений Meta AI — виртуального помощника Meta — компания сообщила, что вскоре добавит невидимые водяные знаки ко всем изображениям, сгенерированным AI, созданным с помощью «представьте с опытом Meta AI». Как и многие другие чат-боты с искусственным интеллектом, Meta AI генерирует изображения и контент на основе запросов пользователя. Тем не менее, Meta стремится не допустить, чтобы злоумышленники рассматривали сервис как еще один инструмент для обмана общественности.
Как и многие другие генераторы изображений ИИ, Meta AI генерирует изображения и контент на основе запросов пользователя. Последняя функция водяных знаков усложнит удаление водяного знака создателю.
«В ближайшие недели мы добавим к изображению невидимые водяные знаки с помощью Meta AI для повышения прозрачности и отслеживаемости».
Meta заявляет, что будет использовать модель глубокого обучения для нанесения водяных знаков на изображения, созданные с помощью инструмента искусственного интеллекта, которые будут невидимы для человеческого глаза. Однако невидимые водяные знаки можно обнаружить с помощью соответствующей модели.
В отличие от традиционных водяных знаков, Meta утверждает, что ее водяные знаки с искусственным интеллектом, получившие название Imagine с Meta AI, «устойчивы к обычным манипуляциям с изображениями, таким как обрезка, изменение цвета (яркость, контрастность и т. д.), снимки экрана и многое другое». Хотя сервисы водяных знаков первоначально будут развернуты для изображений, созданных с помощью Meta AI, компания планирует внедрить эту функцию в другие мета-сервисы, которые используют изображения, сгенерированные AI.
В своем последнем обновлении Meta AI также представила функцию «переосмысления» для Facebook Messenger и Instagram. Обновление позволяет пользователям отправлять и получать друг другу изображения, созданные искусственным интеллектом. В результате обе службы обмена сообщениями также получат функцию невидимых водяных знаков.
По теме: Том Хэнкс, MrBeast и другие знаменитости предупреждают о мошенничестве с искусственным интеллектом
Такие сервисы искусственного интеллекта, как Dall-E и Midjourney, уже предоставляют возможность добавлять традиционные водяные знаки к создаваемому ими контенту. Однако такие водяные знаки можно удалить, просто обрезав край изображения. Более того, некоторые инструменты искусственного интеллекта имеют возможность автоматически удалять водяные знаки с изображений, что, по утверждению Meta AI, будет невозможно сделать с их выводом.
С тех пор, как инструменты генеративного искусственного интеллекта стали популяризироваться, многие предприниматели и знаменитости начали критиковать мошеннические кампании с использованием искусственного интеллекта. Мошенники используют легкодоступные инструменты для создания фейковых видео, аудио и изображений популярных личностей и распространения их в Интернете.
В мае созданное искусственным интеллектом изображение взрыва возле Пентагона — штаб-квартиры Министерства обороны США — вызвало кратковременное падение фондового рынка.
Prime example of the dangers in the pay-to-verify system: This account, which tweeted a (very likely AI-generated) photo of a (fake) story about an explosion at the Pentagon, looks at first glance like a legit Bloomberg news feed. pic.twitter.com/SThErCln0p
— Andy Campbell (@AndyBCampbell) May 22, 2023
Фальшивое изображение, как показано выше, позже было подхвачено и распространено другими средствами массовой информации, что привело к эффекту снежного кома. Однако местные власти, в том числе Агентство по охране сил Пентагона, отвечающее за безопасность здания, заявили, что им известно о распространяемом сообщении, и подтвердили, что «никакого взрыва или инцидента» не произошло.
@PFPAOfficial and the ACFD are aware of a social media report circulating online about an explosion near the Pentagon. There is NO explosion or incident taking place at or near the Pentagon reservation, and there is no immediate danger or hazards to the public. pic.twitter.com/uznY0s7deL
— Arlington Fire & EMS (@ArlingtonVaFD) May 22, 2023
В том же месяце правозащитная группа Amnesty International попалась на созданное искусственным интеллектом изображение, изображающее жестокость полиции, и использовала его для проведения кампаний против властей.
«Мы удалили изображения из публикаций в социальных сетях, так как не хотим, чтобы критика использования изображений, сгенерированных искусственным интеллектом, отвлекала от основного послания в поддержку жертв и их призывов к справедливости в Колумбии», — заявила Эрика Гевара. Росас, директор Amnesty по Америке.
