Згідно з новим дослідженням, ChatGPT, головному чат-боту на основі великої мовної моделі (LLM), нібито бракує об’єктивності, коли йдеться про політичні питання.
Дослідники інформатики та інформатики з Великобританії та Бразилії стверджують, що знайшли «вагомі докази» того, що ChatGPT представляє значне політичне упередження до лівої сторони політичного спектру. Аналітики — Фабіо Мотокі, Вальдемар Піньо та Віктор Родрігес — надали свою думку в дослідженні, опублікованому журналом Public Choice 17 серпня.
Дослідники стверджували, що тексти, створені LLMs, такими як ChatGPT, можуть містити фактичні помилки та упередження, які вводять читачів в оману, і можуть поширювати існуючі проблеми політичних упереджень, що виникають у традиційних ЗМІ. Таким чином, результати мають важливі наслідки для політиків і зацікавлених сторін у ЗМІ, політиці та наукових колах, відзначили автори дослідження, додавши:
«Наявність політичної упередженості у відповідях може мати такі ж негативні політичні та виборчі наслідки, як упередженість у традиційних і соціальних мережах».
Дослідження базується на емпіричному підході та вивченні серії анкет, наданих ChatGPT. Емпірична стратегія починається з прохання ChatGPT відповісти на запитання політичного компаса, які фіксують політичну орієнтацію респондента. Підхід також базується на тестах, у яких ChatGPT імітує середнього демократа чи республіканця.
Результати тестів показують, що алгоритм ChatGPT за замовчуванням упереджений до відповідей від демократичного спектру в Сполучених Штатах. Дослідники також стверджували, що політична упередженість ChatGPT не є явищем, обмеженим контекстом США. Вони написали:
«Алгоритм упереджений до демократів у Сполучених Штатах, Лули в Бразилії та Лейбористської партії у Сполученому Королівстві. У поєднанні наші основні тести та тести на надійність переконливо вказують на те, що це явище справді є певним упередженням, а не механічним результатом».
Аналітики підкреслили, що точне джерело політичної упередженості ChatGPT визначити важко. Дослідники навіть намагалися змусити ChatGPT перейти в якийсь режим розробника, щоб спробувати отримати доступ до будь-яких відомостей про упереджені дані, але LLM був «категоричним у підтвердженні», що ChatGPT і OpenAI є неупередженими.
OpenAI не відразу відповів на запит Cointelegraph про коментар.
За темою: OpenAI каже, що ChatGPT-4 скорочує час модерації вмісту з місяців до годин
Автори дослідження припустили, що може бути принаймні два потенційних джерела зміщення, включаючи дані навчання, а також сам алгоритм.
«Найвірогіднішим сценарієм є те, що обидва джерела упередженості певною мірою впливають на результат ChatGPT, і розмежування цих двох компонентів (навчальні дані проти алгоритму), хоча й не є тривіальним, безумовно, є актуальною темою для майбутніх досліджень», — підсумували дослідники.
Політичні упередження — це не єдина проблема, пов’язана з такими інструментами штучного інтелекту, як ChatGPT чи іншими. На тлі тривалого масового впровадження ChatGPT люди в усьому світі відзначили багато пов’язаних із цим ризиків, зокрема проблеми з конфіденційністю та складну освіту. Деякі інструменти штучного інтелекту, як-от генератори контенту штучного інтелекту, навіть викликають занепокоєння щодо процесу перевірки особи на біржах криптовалют.
AI Eye: Apple розробляє кишеньковий штучний інтелект, глибоко фейкову музичну угоду, гіпнотизуючий GPT-4
