Эксперт IBM по блокчейну и искусственному интеллекту говорит, что ChatGPT представляет несколько «ключевых рисков» для корпоративного использования

Вице-президент IBM и главный технический директор IBM Automation Джерри Куомо (Jerry Cuomo) недавно опубликовал сообщение в блоге, в котором изложил, как он утверждает, несколько рисков, связанных с использованием ChatGPT для предприятий.

Согласно сообщению в блоге, существует несколько ключевых областей риска, которые предприятия должны учитывать, прежде чем использовать ChatGPT. Однако в конечном итоге Куомо приходит к выводу, что с ChatGPT безопасны только неконфиденциальные данные:

«После того как ваши данные попадают в ChatGPT, — пишет Куомо, — вы не можете контролировать или знать, как они используются».

Согласно сообщению, этот тип непреднамеренной утечки данных также может поставить предприятия на крючок с юридической точки зрения, если данные партнеров, клиентов или клиентов становятся доступными для широкой публики после утечки в обучающие данные ChatGPT.

Куомо также ссылается на риски для интеллектуальной собственности и возможность того, что утечка может привести к нарушению компаниями соглашений об открытом исходном коде.

Согласно сообщению в блоге IBM:

«Если конфиденциальная информация третьих лиц или внутренняя информация компании вводится в ChatGPT, она становится частью модели данных чат-бота и может быть передана другим лицам, которые задают соответствующие вопросы».

Коинтелеграф обратился к OpenAI за комментариями относительно приведенного выше заявления. Мы получили следующий ответ от посредника по связям с общественностью по электронной почте: «данные не будут переданы другим лицам, которые задают соответствующие вопросы».

Представитель также сослался на существующую документацию по функциям конфиденциальности ChatGPT, включая сообщение в блоге, в котором подробно описывается возможность веб-пользователей отключать историю чатов.

По данным OpenAI, в API ChatGPT обмен данными отключен по умолчанию.

The API policy is perfectly clear – what's confusing is the policy about conversations we have using the ChatGPT web interface and iOS/Android apps

— Simon Willison (@simonw) August 15, 2023

Однако критики отмечают, что разговоры в веб-версии сохраняются по умолчанию. Пользователи также должны отказаться как от сохранения своих разговоров (удобная функция для продолжения с того места, где они остановились), так и от использования их данных для обучения модели. На данный момент нет возможности сохранять разговоры без согласия на обмен данными.

Связанный: Разработчик IBM Watson собирает 60 миллионов долларов для стартапа AI Elemental Cognition