Популярная система искусственного интеллекта (ИИ) ChatGPT от OpenAI в период с 20 по 21 февраля пережила небольшой публичный кризис, из-за которого она сбивала с толку и сбивала с толку пользователей, извергая тарабарщину и другие странности, включая неожиданный псевдо-Шекспир.
По состоянию на 8:14 по тихоокеанскому стандартному времени 21 февраля проблема, по-видимому, решена. Последнее обновление на странице состояния OpenAI указывает, что «ChatGPT работает нормально». Это указывает на то, что проблема была решена через 18 часов после того, как OpenAI впервые сообщила о ней.
chatgpt is apparently going off the rails right now and no one can explain why pic.twitter.com/0XSSsTfLzP
— sean mcguire (@seanw_m) February 21, 2024
Something in my data file sent ChatGPT into a spiral that ended with it… speaking like Shakespeare? To its credit, it worked…. #surcease pic.twitter.com/4wHxVzF0Pw
— NCAAB Market Picks (@cbbmarketpicks) February 21, 2024
На данный момент неясно, что именно стало причиной проблемы, и OpenAI еще не ответила на наш запрос о комментариях.
Судя по беглому изучению полученных результатов, может показаться, что в ChatGPT возникла некоторая путаница с токенизацией. Из-за того, что большие языковые модели, построенные на технологии GPT, представляют собой «черный ящик», ученые OpenAI не смогут точно диагностировать, что пошло не так. Если это так, то, скорее всего, команда сосредоточится на превентивных мерах, таких как введение дополнительных ограждений от длинных цепочек явной тарабарщины.
Настроения в социальных сетях, похоже, указывают на то, что любой ущерб, причиненный чат-ботом, в целом сводился к потере времени пользователей, ожидающих разумных ответов на запросы.
Связано: ChatGPT может писать смарт-контракты;просто не используйте его в качестве аудитора безопасности
Однако этот пример иллюстрирует потенциал генеративных систем искусственного интеллекта в любое время отправлять неожиданные, галлюцинаторные или противоречивые сообщения. Подобные нежелательные реакции могут иметь негативные последствия.
Air Canada, например, недавно обнаружила, что не может винить алгоритм, когда суд обязал его выплатить частичное возмещение клиенту, который получил неверную информацию о правилах бронирования от чат-бота службы поддержки клиентов.
В мире криптовалют инвесторы все чаще используют автоматизированные системы, построенные на технологии LLM и GPT, для создания портфелей и совершения сделок. Как показывает недавний сбой ChatGPT, даже самые надежные модели могут столкнуться с неожиданным сбоем в любом масштабе.
