Исследование двух европейских некоммерческих организаций показало, что чат-бот Microsoft с искусственным интеллектом (ИИ) Bing, теперь переименованный в Copilot, выдает вводящие в заблуждение результаты по информации о выборах и неверно цитирует ее источники.
Исследование, опубликованное AI Forensics и AlgorithmWatch 15 декабря, показало, что чат-бот Bing с искусственным интеллектом давал неправильные ответы в 30% случаев на основные вопросы, касающиеся политических выборов в Германии и Швейцарии. Неточные ответы касались информации о кандидатах, опросов, скандалов и голосования.
Также были даны неточные ответы на вопросы о президентских выборах 2024 года в США.
В исследовании использовался ИИ-чат-бот Bing, поскольку он был одним из первых ИИ-чат-ботов, который включил источники в свои ответы, и заявил, что неточности не ограничиваются только Bing. Сообщается, что они провели предварительные тесты Chat-GPT4 и также обнаружили несоответствия.
В некоммерческих организациях пояснили, что ложная информация не повлияла ни на один исход выборов, хотя может способствовать замешательству общественности и дезинформации.
«Поскольку генеративный искусственный интеллект становится все более распространенным, это может повлиять на один из краеугольных камней демократии: доступ к надежной и прозрачной общественной информации».
Кроме того, исследование показало, что средства защиты, встроенные в чат-бота с искусственным интеллектом, были распределены «неравномерно», из-за чего он давал уклончивые ответы в 40% случаев.
По теме: Даже Папе Римскому есть что сказать об искусственном интеллекте
Согласно отчету Wall Street Journal по этой теме, Microsoft отреагировала на выводы и заявила, что планирует исправить проблемы до выборов в США в 2024 году. Представитель Microsoft призвал пользователей всегда проверять точность информации, полученной от чат-ботов с искусственным интеллектом.
Ранее в октябре этого года сенаторы США предложили законопроект, который будет объявлять выговор создателям несанкционированных ИИ-копий реальных людей — живых или мертвых.
В ноябре Meta — материнская компания Facebook и Instagram — представила распоряжение, запрещающее использование инструментов создания генеративной рекламы с использованием ИИ для политических рекламодателей в качестве меры предосторожности перед предстоящими выборами.
