Чат-бот Microsoft Bing AI предоставляет вводящую в заблуждение информацию о выборах и данные

Исследование двух европейских некоммерческих организаций показало, что чат-бот Microsoft с искусственным интеллектом (ИИ) Bing, теперь переименованный в Copilot, выдает вводящие в заблуждение результаты по информации о выборах и неверно цитирует ее источники.

Исследование, опубликованное AI Forensics и AlgorithmWatch 15 декабря, показало, что чат-бот Bing с искусственным интеллектом давал неправильные ответы в 30% случаев на основные вопросы, касающиеся политических выборов в Германии и Швейцарии. Неточные ответы касались информации о кандидатах, опросов, скандалов и голосования.

Также были даны неточные ответы на вопросы о президентских выборах 2024 года в США.

В исследовании использовался ИИ-чат-бот Bing, поскольку он был одним из первых ИИ-чат-ботов, который включил источники в свои ответы, и заявил, что неточности не ограничиваются только Bing. Сообщается, что они провели предварительные тесты Chat-GPT4 и также обнаружили несоответствия.

В некоммерческих организациях пояснили, что ложная информация не повлияла ни на один исход выборов, хотя может способствовать замешательству общественности и дезинформации.

«Поскольку генеративный искусственный интеллект становится все более распространенным, это может повлиять на один из краеугольных камней демократии: доступ к надежной и прозрачной общественной информации».

Кроме того, исследование показало, что средства защиты, встроенные в чат-бота с искусственным интеллектом, были распределены «неравномерно», из-за чего он давал уклончивые ответы в 40% случаев.

По теме: Даже Папе Римскому есть что сказать об искусственном интеллекте

Согласно отчету Wall Street Journal по этой теме, Microsoft отреагировала на выводы и заявила, что планирует исправить проблемы до выборов в США в 2024 году. Представитель Microsoft призвал пользователей всегда проверять точность информации, полученной от чат-ботов с искусственным интеллектом.

Ранее в октябре этого года сенаторы США предложили законопроект, который будет объявлять выговор создателям несанкционированных ИИ-копий реальных людей — живых или мертвых.

В ноябре Meta — материнская компания Facebook и Instagram — представила распоряжение, запрещающее использование инструментов создания генеративной рекламы с использованием ИИ для политических рекламодателей в качестве меры предосторожности перед предстоящими выборами.