Члени Конгресу США вимагають відповіді від Google щодо «Огляду ШІ»

Група законодавців Сполучених Штатів на чолі з представником Адамом Шиффом дала генеральному директору Alphabet/Google Сундару Пічаї термін до 1 серпня, щоб задовольнити запит на інформацію, пов’язану з функцією компанії «Огляд штучного інтелекту» для пошуку.

Огляд штучного інтелекту – це підсумкове вікно, яке відображається у верхній частині сторінок пошуку Google, коли користувач робить запит. Зазвичай він містить коротку текстову відповідь, зображення, якщо це доречно, і допоміжні посилання.

За даними офісу Шиффа з посиланням на численні звіти, AI Overview має тенденцію виводити невірну та/або потенційно небезпечну інформацію.

Скарга, опублікована офісом Шиффа та підписана чотирма іншими членами Конгресу, вимагає відповідей на одинадцять запитань про функцію, пов’язану зі зусиллями компанії забезпечити більшу точність і безпеку.

Огляд ШІ

Деякі проблеми з AI Overview пов’язані з його очевидною нездатністю визначити, чи є дане джерело сатирою чи ні. «Функція Google AI Overviews сказала користувачам їсти принаймні один камінь на день для отримання вітамінів і мінералів», — написали Шифф та інші члени Конгресу, додавши, що AI посилався на сайт сатиричних новин «The Onion».

В інших випадках, наприклад, коли користувачі почали повідомляти, що огляд ШІ стверджував, що Барак Обама був першим мусульманським президентом США, система ШІ прямо цитувала розвінчані теорії змови.

У листі Шифф визнав постійні зусилля Google по боротьбі з дезінформацією, але зазначив, що потрібно зробити більше:

«Ми цінуємо зусилля Google щодо усунення цих помилок шляхом вдосконалення функції шляхом постійного тестування, видалення відповідей, які порушують політику компанії щодо вмісту, і позначення відповідей, згенерованих штучним інтелектом, як експериментальних. Однак потрібно зробити більше, щоб належним чином гарантувати, що Google може залишатися надійним джерелом інформації для американців».

AI міркування

На даний момент немає наукового консенсусу щодо того, що такі проблеми можна вирішити. Суть проблеми полягає в тому, що штучний інтелект не «мислить» і не «міркує», незважаючи на те, що обидва терміни широко використовуються в маркетингу продуктів ШІ.

Генеративні системи штучного інтелекту імітують людську мову, але не мають здатності розуміти контекст або застосовувати отриманий досвід до ситуації.

Ці проблеми вже давно не вирішені в цій галузі, і їх було помічено в ранніх великих мовних моделях, таких як GPT-2 від OpenAI і вже неіснуюча система «Galactica» від Meta, яку було знято лише через три дні через реакцію, викликану її запуском.

вимоги США

Щоб краще зрозуміти зусилля Google, Шифф і його колеги-законодавці вимагали від Пічаї та Google відповісти до 1 серпня, надавши відповіді на список з 11 питань. До них належать запити щодо процедур рейтингу компанії, автоматизованої перевірки фактів, точності, пошуку джерел, прозорості та того, як компанія співпрацює з органами влади для забезпечення безпеки.

За темою: блокування даних Microsoft Windows призвело до збоїв у великих фінансових компаніях і спричинило хаос у подорожах