Гігант соціальних медіа Meta (раніше Facebook) додаватиме невидимий водяний знак на всі зображення, які він створює за допомогою штучного інтелекту (ШІ), оскільки він посилює заходи для запобігання неправильному використанню технології.
У звіті від 6 грудня, де детально описано оновлення для Meta AI — віртуального помічника Meta — компанія показала, що незабаром додасть невидимі водяні знаки до всіх зображень, згенерованих штучним інтелектом, створених за допомогою «уявіть собі досвід Meta AI». Як і багато інших чат-ботів зі штучним інтелектом, Meta AI створює зображення та вміст на основі підказок користувача. Однак Meta прагне запобігти тому, щоб зловмисники розглядали сервіс як ще один інструмент для обману громадськості.
Як і багато інших генераторів зображень штучного інтелекту, Meta AI створює зображення та вміст на основі підказок користувача. Остання функція водяного знака ускладнить видалення водяного знака творцю.
«Найближчими тижнями ми додамо до зображення невидимі водяні знаки за допомогою технології Meta AI для підвищення прозорості та відстеження».
Meta каже, що використовуватиме модель глибокого навчання для застосування водяних знаків до зображень, створених за допомогою її інструменту AI, які будуть невидимі для людського ока. Однак невидимі водяні знаки можна виявити за допомогою відповідної моделі.
На відміну від традиційних водяних знаків, Meta стверджує, що її водяні знаки штучного інтелекту — під назвою imagine with Meta AI — «стійкі до звичайних маніпуляцій із зображеннями, таких як кадрування, зміна кольору (яскравість, контрастність тощо), знімки екрана тощо». Хоча послуги водяних знаків спочатку будуть розгорнуті для зображень, створених за допомогою Meta AI, компанія планує перенести цю функцію в інші служби Meta, які використовують зображення, створені за допомогою AI.
У своєму останньому оновленні Meta AI також представив функцію «переосмислення» для Facebook Messenger та Instagram. Оновлення дозволяє користувачам надсилати та отримувати зображення, створені ШІ, один одному. У результаті обидві служби обміну повідомленнями також отримають функцію невидимого водяного знака.
За темою: Том Генкс, MrBeast та інші знаменитості попереджають про глибоке фальшиве шахрайство зі штучним інтелектом
Сервіси AI, такі як Dall-E та Midjourney, уже надають можливість додавати традиційні водяні знаки до вмісту, який він створює. Однак такі водяні знаки можна видалити, просто обрізавши край зображення. Крім того, певні інструменти штучного інтелекту мають можливість автоматично видаляти водяні знаки із зображень, що, як стверджує Meta AI, неможливо буде зробити з його виходом.
З моменту впровадження генеративних інструментів штучного інтелекту численні підприємці та знаменитості закликали до шахрайських кампаній на основі штучного інтелекту. Шахраї використовують доступні інструменти, щоб створювати підроблені відео, аудіо та зображення популярних діячів і поширювати їх в Інтернеті.
У травні створене штучним інтелектом зображення, на якому показано вибух біля Пентагону — штаб-квартири Міністерства оборони Сполучених Штатів — спричинило ненадовге падіння фондового ринку.
Prime example of the dangers in the pay-to-verify system: This account, which tweeted a (very likely AI-generated) photo of a (fake) story about an explosion at the Pentagon, looks at first glance like a legit Bloomberg news feed. pic.twitter.com/SThErCln0p
— Andy Campbell (@AndyBCampbell) May 22, 2023
Підроблене зображення, як показано вище, пізніше було підхоплено та поширено іншими ЗМІ, що призвело до ефекту снігової кулі. Однак місцева влада, включаючи Агентство захисту сил Пентагону, яке відповідає за безпеку будівлі, заявили, що їм відомо про поширене повідомлення, і підтвердили, що «жодного вибуху чи інциденту» не було.
@PFPAOfficial and the ACFD are aware of a social media report circulating online about an explosion near the Pentagon. There is NO explosion or incident taking place at or near the Pentagon reservation, and there is no immediate danger or hazards to the public. pic.twitter.com/uznY0s7deL
— Arlington Fire & EMS (@ArlingtonVaFD) May 22, 2023
Того ж місяця правозахисна група Amnesty International полюбилася створеному ШІ зображенню жорстокості поліції та використала його для проведення кампаній проти влади.
«Ми видалили зображення з публікацій у соціальних мережах, оскільки ми не хочемо, щоб критика використання зображень, створених штучним інтелектом, відволікала від основного повідомлення на підтримку жертв та їхніх закликів до справедливості в Колумбії», — заявила Еріка Гевара. Розас, директор по Америці Amnesty.
