Британская служба по надзору за данными предупредила Snapchat о рисках чат-ботов с искусственным интеллектом

Согласно обновлению, опубликованному регулятором, платформа социальных сетей Snapchat получила предупреждение от службы по надзору за данными Соединенного Королевства в отношении своего нового чат-бота с искусственным интеллектом (ИИ), известного как «Мой AI».

6 октября Управление комиссара по информации Великобритании направило предварительное уведомление Snap Inc. и Snap Group Limited, материнским компаниям Snapchat, о потенциальной неспособности «должным образом оценить риски конфиденциальности», создаваемые чат-ботом.

We have issued Snap, Inc and Snap Group Limited with a preliminary enforcement notice over a potential failure to properly assess the privacy risks posed by its generative AI chatbot ‘My AI’.

Read more about the case: https://t.co/MAuHAH0h8B pic.twitter.com/BawISttPJN

— ICO – Information Commissioner's Office (@ICOnews) October 6, 2023

Уведомление основано на предварительном расследовании компании, проведенном наблюдателем, в котором говорится, что риски для нескольких миллионов пользователей My AI, включая детей в возрасте 13–17 лет, не были должным образом выявлены до его запуска.

Джон Эдвардс, комиссар по информации Великобритании, прокомментировал это уведомление следующим образом:

«Нам было ясно, что организации должны учитывать риски, связанные с ИИ, наряду с преимуществами. Сегодняшнее предварительное уведомление о принудительном исполнении показывает, что мы примем меры для защиты прав потребителей Великобритании на неприкосновенность частной жизни».

Согласно уведомлению, если будет выпущено окончательное уведомление о принудительном исполнении, Snap может быть вынуждена прекратить обработку данных в отношении «My AI», которая не будет предлагать услугу пользователям из Великобритании без «адекватной» оценки рисков.

На данный момент в аппарате комиссара заявили, что выводы на нынешнем этапе расследования делать не следует.

Связанный: Friend​.tech предлагает решения для удаления логина после отчетов о замене SIM-карты

Чат-бот Snapchat с искусственным интеллектом был представлен пользователям Snapchat+ в Великобритании в феврале 2023 года, а более широкая доступность начнется с апреля 2023 года.

«Мой ИИ» основан на технологии OpenAI GPT-4 и, по данным наблюдателя за данными, стал «первым примером генеративного ИИ, встроенного в крупную платформу обмена сообщениями в Великобритании».

На протяжении всего года основные платформы социальных сетей интегрировали функции искусственного интеллекта в свою деятельность.4 октября принадлежащая Microsoft бизнес-платформа социальных сетей LinkedIn объявила о дополнительных инструментах искусственного интеллекта, доступных рекрутерам, и помощнике искусственного интеллекта в своем учебном центре.

Крупнейшие технологические гиганты Meta, материнская компания Facebook и Instagram, а также Google также продемонстрировали интеграцию собственных чат-ботов с искусственным интеллектом в свои сервисные предложения.