Експерт IBM із блокчейну та штучного інтелекту каже, що ChatGPT створює кілька «ключових ризиків» для корпоративного використання

Джеррі Куомо, віце-президент IBM і головний технічний директор IBM Automation, нещодавно опублікував допис у блозі, в якому описує, як він стверджує, кілька ризиків, пов’язаних із використанням ChatGPT для підприємств.

Згідно з публікацією в блозі, є кілька ключових сфер ризику, які компанії повинні розглянути, перш ніж використовувати ChatGPT. Зрештою, однак, Куомо робить висновок, що лише неконфіденційні дані безпечні з ChatGPT:

«Як тільки ваші дані надходять у ChatGPT, — пише Куомо, — ви не маєте жодного контролю та не знаєте, як вони використовуються».

Відповідно до допису, цей тип ненавмисного витоку даних також може поставити бізнес на гачок, якщо говорити юридично, якщо дані партнера, клієнта чи клієнта стають доступними для широкої громадськості після витоку в навчальні дані ChatGPT.

Крім того, Куомо вказує на ризики для інтелектуальної власності та ймовірність того, що витік інформації може призвести до порушення бізнесом угод з відкритим кодом.

Відповідно до публікації в блозі IBM:

«Якщо конфіденційна стороння або внутрішня інформація компанії вводиться в ChatGPT, вона стає частиною моделі даних чат-бота і може бути передана іншим, хто ставить відповідні запитання».

Cointelegraph звернувся до OpenAI за коментарем щодо вищезазначеної заяви. Ми отримали таку відповідь від посередника зі зв’язків з громадськістю електронною поштою: «дані не будуть передані іншим особам, які ставлять відповідні запитання».

Представник також навів нас до існуючої документації щодо функцій конфіденційності ChatGPT, включаючи публікацію в блозі, де детально описується можливість для веб-користувачів вимикати свою історію чатів.

Відповідно до OpenAI, обмін даними ChatGPT API вимкнено за замовчуванням.

The API policy is perfectly clear – what's confusing is the policy about conversations we have using the ChatGPT web interface and iOS/Android apps

— Simon Willison (@simonw) August 15, 2023

Критики, однак, зазначили, що розмови у веб-версії зберігаються за замовчуванням. Користувачі також повинні відмовитися від збереження своїх розмов — зручної функції для продовження з того місця, де вони зупинилися — і від використання їхніх даних для навчання моделі. Наразі немає можливості зберегти розмови без згоди на обмін даними.

За темою: розробник IBM Watson залучає 60 мільйонів доларів для запуску штучного інтелекту Elemental Cognition