Популярна система штучного інтелекту (ШІ) ChatGPT від OpenAI зазнала невеликої публічної кризи між 20 і 21 лютого, що призвело до того, що вона заплутала та збила користувачів з пантелику, викидаючи тарабарщину та інші дивини, включно з псевдо-Шекспіром без підказок.
Станом на 8:14 за тихоокеанським стандартним часом 21 лютого проблема, очевидно, вирішена. Останнє оновлення на сторінці стану OpenAI вказує, що «ChatGPT працює нормально». Це вказує на те, що проблема була вирішена через 18 годин після першого повідомлення OpenAI.
chatgpt is apparently going off the rails right now and no one can explain why pic.twitter.com/0XSSsTfLzP
— sean mcguire (@seanw_m) February 21, 2024
Something in my data file sent ChatGPT into a spiral that ended with it… speaking like Shakespeare? To its credit, it worked…. #surcease pic.twitter.com/4wHxVzF0Pw
— NCAAB Market Picks (@cbbmarketpicks) February 21, 2024
Наразі незрозуміло, що саме спричинило проблему, і OpenAI ще не відповів на наш запит про коментар.
Грунтуючись на поверхневому аналізі повідомлених результатів, може здатися, що ChatGPT зазнав певної плутанини в токенізації. Через природу чорної скриньки великих мовних моделей, побудованих на технології GPT, вчені з OpenAI можуть не мати змоги точно діагностувати, що пішло не так. Якщо це так, то, швидше за все, команда зосередиться на запобіжних заходах, таких як впровадження додаткових огорож проти довгих рядків очевидної тарабарщини.
Настрої в соціальних мережах, здається, вказують на те, що будь-яка шкода, заподіяна чат-ботом, загалом обмежилася марнуванням часу користувачів, які очікували розумних відповідей на запити.
За темою: ChatGPT може писати розумні контракти;просто не використовуйте його як аудитор безпеки
Однак цей випадок ілюструє потенціал генеративних систем ШІ надсилати несподівані, галюциновані або суперечливі повідомлення в будь-який час. Такі небажані відповіді можуть мати негативні наслідки.
Наприклад, Air Canada нещодавно з’ясувала, що не може звинувачувати алгоритм, коли суд зобов’язав його виплатити часткове відшкодування клієнту, який отримав недостовірну інформацію про правила бронювання від чат-бота служби підтримки клієнтів.
У світі криптовалют інвестори все частіше використовують автоматизовані системи, побудовані на основі LLM і технології GPT, для створення портфелів і здійснення угод. Як показує недавній збій ChatGPT, навіть найнадійніша модель може зазнати несподіваного збою в будь-якому масштабі.
