Вице-президент IBM и главный технический директор IBM Automation Джерри Куомо (Jerry Cuomo) недавно опубликовал сообщение в блоге, в котором изложил, как он утверждает, несколько рисков, связанных с использованием ChatGPT для предприятий.
Согласно сообщению в блоге, существует несколько ключевых областей риска, которые предприятия должны учитывать, прежде чем использовать ChatGPT. Однако в конечном итоге Куомо приходит к выводу, что с ChatGPT безопасны только неконфиденциальные данные:
«После того как ваши данные попадают в ChatGPT, — пишет Куомо, — вы не можете контролировать или знать, как они используются».
Согласно сообщению, этот тип непреднамеренной утечки данных также может поставить предприятия на крючок с юридической точки зрения, если данные партнеров, клиентов или клиентов становятся доступными для широкой публики после утечки в обучающие данные ChatGPT.
Куомо также ссылается на риски для интеллектуальной собственности и возможность того, что утечка может привести к нарушению компаниями соглашений об открытом исходном коде.
Согласно сообщению в блоге IBM:
«Если конфиденциальная информация третьих лиц или внутренняя информация компании вводится в ChatGPT, она становится частью модели данных чат-бота и может быть передана другим лицам, которые задают соответствующие вопросы».
Коинтелеграф обратился к OpenAI за комментариями относительно приведенного выше заявления. Мы получили следующий ответ от посредника по связям с общественностью по электронной почте: «данные не будут переданы другим лицам, которые задают соответствующие вопросы».
Представитель также сослался на существующую документацию по функциям конфиденциальности ChatGPT, включая сообщение в блоге, в котором подробно описывается возможность веб-пользователей отключать историю чатов.
По данным OpenAI, в API ChatGPT обмен данными отключен по умолчанию.
The API policy is perfectly clear – what's confusing is the policy about conversations we have using the ChatGPT web interface and iOS/Android apps
— Simon Willison (@simonw) August 15, 2023
Однако критики отмечают, что разговоры в веб-версии сохраняются по умолчанию. Пользователи также должны отказаться как от сохранения своих разговоров (удобная функция для продолжения с того места, где они остановились), так и от использования их данных для обучения модели. На данный момент нет возможности сохранять разговоры без согласия на обмен данными.
Связанный: Разработчик IBM Watson собирает 60 миллионов долларов для стартапа AI Elemental Cognition
