Meta стикається з юридичним контролем, оскільки прогрес ШІ викликає занепокоєння щодо безпеки дітей

Група з 34 американських штатів подає позов проти власника Facebook і Instagram Meta, звинувачуючи компанію в неналежному маніпулюванні неповнолітніми, які використовують платформи. Ця розробка відбувається на тлі стрімкого розвитку штучного інтелекту (ШІ), що включає як текстовий, так і генеративний ШІ.

Юридичні представники з різних штатів, зокрема Каліфорнії, Нью-Йорка, Огайо, Південної Дакоти, Вірджинії та Луїзіани, стверджують, що Meta використовує свої алгоритми для сприяння звикання та негативного впливу на психічне благополуччя дітей за допомогою таких функцій, як кнопка «Подобається»..

Згідно з нещодавнім звітом, головний науковець зі штучного інтелекту Meta висловився, нібито сказавши, що хвилювання щодо екзистенційних ризиків технології все ще «передчасні». Meta вже використала AI для вирішення проблем довіри та безпеки на своїх платформах. Тим не менш, урядові сторони подають позов до суду.

Адвокати штатів вимагають різні суми відшкодування збитків, реституції та компенсації для кожного штату, згаданого в документі, із цифрами від 5000 до 25 000 доларів США за ймовірний випадок. Cointelegraph звернувся до Meta для отримання додаткової інформації, але ще не отримав відгуків на момент публікації.

Тим часом британська організація Internet Watch Foundation (IWF) висловила занепокоєння з приводу тривожного поширення матеріалів про сексуальне насильство над дітьми, створених штучним інтелектом (CSAM). У нещодавньому звіті IWF виявив понад 20 254 зображень CSAM, згенерованих штучним інтелектом, на одному темному веб-форумі лише за місяць, попередивши, що цей сплеск тривожного вмісту може затопити Інтернет.

Британська організація закликала до глобального співробітництва для боротьби з проблемою сексуального насильства над дітьми, пропонуючи багатогранну стратегію. Це передбачає внесення змін до існуючих законів, покращення освіти правоохоронних органів та впровадження регуляторного нагляду за моделями ШІ.

Дослідники з Китаю розробили механізм корекції галюцинацій для моделей ШІ

У контексті розробників штучного інтелекту IWF рекомендує заборонити їхній штучний інтелект створювати контент про жорстоке поводження з дітьми, виключити пов’язані моделі та зосередитися на видаленні такого матеріалу зі своїх моделей.

Розвиток генеративних генераторів зображень ШІ значно покращив створення реалістичних копій людей. Такі платформи, як Midjourney, Runway, Stable Diffusion і Dall-E від OpenAI, є прикладами інструментів, здатних генерувати реалістичні зображення.