Meta для боротьби з фейковими новинами, створеними ШІ, з «невидимими водяними знаками»

Гігант соціальних медіа Meta (раніше Facebook) додаватиме невидимий водяний знак на всі зображення, які він створює за допомогою штучного інтелекту (ШІ), оскільки він посилює заходи для запобігання неправильному використанню технології.

У звіті від 6 грудня, де детально описано оновлення для Meta AI — віртуального помічника Meta — компанія показала, що незабаром додасть невидимі водяні знаки до всіх зображень, згенерованих штучним інтелектом, створених за допомогою «уявіть собі досвід Meta AI». Як і багато інших чат-ботів зі штучним інтелектом, Meta AI створює зображення та вміст на основі підказок користувача. Однак Meta прагне запобігти тому, щоб зловмисники розглядали сервіс як ще один інструмент для обману громадськості.

Як і багато інших генераторів зображень штучного інтелекту, Meta AI створює зображення та вміст на основі підказок користувача. Остання функція водяного знака ускладнить видалення водяного знака творцю.

«Найближчими тижнями ми додамо до зображення невидимі водяні знаки за допомогою технології Meta AI для підвищення прозорості та відстеження».

Meta каже, що використовуватиме модель глибокого навчання для застосування водяних знаків до зображень, створених за допомогою її інструменту AI, які будуть невидимі для людського ока. Однак невидимі водяні знаки можна виявити за допомогою відповідної моделі.

На відміну від традиційних водяних знаків, Meta стверджує, що її водяні знаки штучного інтелекту — під назвою imagine with Meta AI — «стійкі до звичайних маніпуляцій із зображеннями, таких як кадрування, зміна кольору (яскравість, контрастність тощо), знімки екрана тощо». Хоча послуги водяних знаків спочатку будуть розгорнуті для зображень, створених за допомогою Meta AI, компанія планує перенести цю функцію в інші служби Meta, які використовують зображення, створені за допомогою AI.

У своєму останньому оновленні Meta AI також представив функцію «переосмислення» для Facebook Messenger та Instagram. Оновлення дозволяє користувачам надсилати та отримувати зображення, створені ШІ, один одному. У результаті обидві служби обміну повідомленнями також отримають функцію невидимого водяного знака.

За темою: Том Генкс, MrBeast та інші знаменитості попереджають про глибоке фальшиве шахрайство зі штучним інтелектом

Сервіси AI, такі як Dall-E та Midjourney, уже надають можливість додавати традиційні водяні знаки до вмісту, який він створює. Однак такі водяні знаки можна видалити, просто обрізавши край зображення. Крім того, певні інструменти штучного інтелекту мають можливість автоматично видаляти водяні знаки із зображень, що, як стверджує Meta AI, неможливо буде зробити з його виходом.

З моменту впровадження генеративних інструментів штучного інтелекту численні підприємці та знаменитості закликали до шахрайських кампаній на основі штучного інтелекту. Шахраї використовують доступні інструменти, щоб створювати підроблені відео, аудіо та зображення популярних діячів і поширювати їх в Інтернеті.

У травні створене штучним інтелектом зображення, на якому показано вибух біля Пентагону — штаб-квартири Міністерства оборони Сполучених Штатів — спричинило ненадовге падіння фондового ринку.

https://twitter.com/ArlingtonVaFD/status/1660653619954294786?ref_src=twsrc%5Etfw

Того ж місяця правозахисна група Amnesty International полюбилася створеному ШІ зображенню жорстокості поліції та використала його для проведення кампаній проти влади.

«Ми видалили зображення з публікацій у соціальних мережах, оскільки ми не хочемо, щоб критика використання зображень, створених штучним інтелектом, відволікала від основного повідомлення на підтримку жертв та їхніх закликів до справедливості в Колумбії», — заявила Еріка Гевара. Розас, директор по Америці Amnesty.