Meta може застосовувати «штрафи» до користувачів, які не повідомляють про використання генеративного ШІ для зображень

Відповідно до публікації в блозі компанії 6 січня, Meta запровадить нові стандарти щодо контенту, створеного штучним інтелектом, у Facebook, Instagram і потоках у найближчі місяці.

Контент, який визначено як створений штучним інтелектом через метадані чи інші навмисні водяні знаки, буде позначено видимою міткою. Користувачі мета-платформ також отримають можливість позначати немаркований контент, підозрюваний у створенні ШІ.

Краудсорсинг

Якщо щось із цього звучить знайомо, це тому, що воно відображає ранню практику модерації вмісту Meta. До настання ери контенту, створеного штучним інтелектом, компанія (тоді ще Facebook) розробила систему для повідомлення про вміст, який порушує умови обслуговування платформи.

Повертаємося до 2024 року, коли Meta знову надає користувачам у своїх соціальних мережах інструменти для позначення вмісту, залучаючи, можливо, найбільшу у світі силу споживчого краудсорсингу.

Це також означає, що творці на платформах компанії повинні будуть позначати свої власні роботи як створені штучним інтелектом, коли це можливо, інакше це може мати наслідки.

Відповідно до публікації в блозі:

«Ми вимагатимемо, щоб люди використовували цей інструмент для розголошення та позначення, коли вони публікують органічний вміст із фотореалістичним відео чи аудіо з реалістичним звучанням, створеним або зміненим цифровим способом, і ми можемо застосувати штрафи, якщо вони цього не зроблять».

Виявлення контенту, створеного ШІ

Meta каже, що щоразу, коли її вбудовані інструменти використовуються для створення контенту, створеного штучним інтелектом, цей вміст отримує водяний знак і мітку, що чітко вказує на його походження. Однак не всі генеративні системи штучного інтелекту мають вбудовані огорожі.

Компанія заявляє, що співпрацює з іншими компаніями через консорціум, до якого входять Google, OpenAI, Microsoft, Adobe, Midjourney і Shutterstock, і продовжить розробляти методи виявлення невидимих ​​водяних знаків у масштабі.

На жаль, ці методи можуть застосовуватися лише до зображень, створених ШІ. «Хоча компанії починають включати сигнали у свої генератори зображень, — йдеться в дописі в блозі, — вони ще не почали включати їх у інструменти ШІ, які генерують аудіо та відео в однаковому масштабі».

Згідно з дописом, це означає, що Meta наразі не може виявляти аудіо та відео, створені штучним інтелектом у великих масштабах, включаючи технологію deepfake.

За темою: Meta представляє чіп Artemis для покращення штучного інтелекту, розірвання зв’язків з Nvidia — звіт