Мете грозит юридическая проверка, поскольку достижения ИИ вызывают обеспокоенность по поводу безопасности детей

Группа из 34 американских штатов подала иск против владельца Facebook и Instagram компании Meta, обвиняя компанию в неправомерном манипулировании несовершеннолетними, использующими платформы. Это развитие происходит на фоне быстрого развития искусственного интеллекта (ИИ), включающего как текстовый, так и генеративный ИИ.

Законные представители различных штатов, включая Калифорнию, Нью-Йорк, Огайо, Южную Дакоту, Вирджинию и Луизиану, утверждают, что Meta использует свои алгоритмы для стимулирования аддиктивного поведения и негативного воздействия на психическое благополучие детей с помощью таких функций, как кнопка «Мне нравится»..

Согласно недавнему отчету, главный ученый по искусственному интеллекту в Meta высказался, заявив, что опасения по поводу экзистенциальных рисков технологии все еще «преждевременны». Meta уже использовала ИИ для решения проблем доверия и безопасности на своих платформах. Тем не менее, правительственные истцы продолжают судебные иски.

Адвокаты штатов требуют различных сумм ущерба, реституции и компенсации для каждого штата, упомянутого в документе, причем суммы варьируются от 5000 до 25 000 долларов за предполагаемый случай. Cointelegraph обратился к Meta за дополнительной информацией, но на момент публикации еще не получил отзывов.

Тем временем базирующийся в Великобритании Фонд наблюдения за Интернетом (IWF) выразил обеспокоенность по поводу тревожного распространения материалов о сексуальном насилии над детьми (CSAM), созданных с помощью искусственного интеллекта. В недавнем отчете IWF сообщила об обнаружении более 20 254 изображений CSAM, созданных искусственным интеллектом, на одном форуме даркнета всего за месяц, предупредив, что этот всплеск тревожного контента может заполонить Интернет.

Британская организация призвала к глобальному сотрудничеству в борьбе с проблемой CSAM, предложив многогранную стратегию. Это влечет за собой корректировку существующих законов, улучшение образования правоохранительных органов и внедрение регулирующего надзора за моделями ИИ.

По теме: Исследователи в Китае разработали механизм коррекции галлюцинаций для моделей искусственного интеллекта

Что касается разработчиков ИИ, IWF советует запретить их ИИ создавать контент о насилии над детьми, исключить связанные модели и сосредоточиться на удалении таких материалов из своих моделей.

Развитие генеративных генераторов изображений искусственного интеллекта значительно улучшило создание реалистичных человеческих копий. Такие платформы, как Midjourney, Runway, Stable Diffusion и Dall-E от OpenAI, являются примерами инструментов, способных генерировать реалистичные изображения.