Группа законодателей США во главе с представителем Адамом Шиффом дала генеральному директору Alphabet/Google Сундару Пичаи срок до 1 августа, чтобы согласиться на запрос на информацию, связанную с функцией компании «Обзор искусственного интеллекта» для поиска.
Обзор AI — это сводное окно, которое отображается в верхней части страниц поиска Google, когда пользователь делает запрос. Обычно он содержит короткий текстовый ответ, изображение, если оно уместно, и вспомогательные ссылки.
По данным офиса Шиффа со ссылкой на многочисленные отчеты, AI Review имеет тенденцию выдавать неверную и/или потенциально опасную информацию.
Жалоба, опубликованная офисом Шиффа и подписанная четырьмя другими членами конгресса, требует ответов на одиннадцать вопросов об этой функции, связанной с усилиями компании по обеспечению большей точности и безопасности.
Некоторые проблемы с AI Review связаны с его очевидной неспособностью определить, является ли данный источник сатирой или нет. «Функция «Обзоры ИИ» Google советовала пользователям съедать хотя бы один камень в день, чтобы получить витамины и минералы», — написали Шифф и другие члены конгресса, добавив, что ИИ цитировал сатирический новостной сайт «The Onion».
В других случаях, например, когда пользователи начали сообщать, что обзор ИИ утверждал, что Барак Обама был первым президентом США-мусульманином, система ИИ напрямую цитировала опровергнутые теории заговора.
В письме Шиффа были признаны продолжающиеся усилия Google по борьбе с дезинформацией, но указано, что необходимо сделать больше:
«Мы ценим усилия Google по исправлению этих ошибок путем улучшения функции посредством постоянного тестирования, удаления ответов, нарушающих политику компании в отношении контента, и маркировки ответов, сгенерированных ИИ, как экспериментальных. Однако необходимо сделать больше, чтобы гарантировать, что Google может оставаться заслуживающим доверия и надежным источником информации для американцев».
На данный момент нет научного консенсуса относительно того, что такого рода проблемы действительно могут быть решены. Суть проблемы в том, что ИИ не «думает» и не «рассуждает», несмотря на то, что оба термина широко используются в маркетинге продуктов ИИ.
Генеративные системы искусственного интеллекта имитируют человеческую речь, но не способны понимать контекст или применять накопленный опыт к ситуации.
Эти проблемы уже давно не решены в этой области и были замечены в ранних больших языковых моделях, таких как GPT-2 от OpenAI и ныне несуществующей системе «Галактика» от Meta, которая была снята всего через три дня из-за негативной реакции, вызванной ее запуском.
Чтобы лучше понять усилия Google, Шифф и его коллеги-законодатели потребовали, чтобы Пичаи и Google ответили до 1 августа и дали ответы на список из 11 вопросов. К ним относятся вопросы о процедурах ранжирования компании, автоматической проверке фактов, точности, источниках информации, прозрачности и о том, как она работает с властями для обеспечения безопасности.
Связанный: Отключение данных Microsoft Windows приводит к остановке крупных финансовых компаний и вызывает хаос в поездках
Юристы Комиссии по ценным бумагам и биржам США (SEC) обратились к суду с просьбой разрешить…
Dogecoin может готовиться к очередному значительному росту цен, поскольку график монеты-мема показывает формирование основной модели.…
На рынке криптовалют наблюдаются бычьи настроения, которые продолжают волновать поклонников и инвесторов. В последнее время…
Второе по величине финансовое учреждение Германии, DZ Bank, заключило партнерское соглашение с Boerse Stuttgart Digital,…
Пользователи бота для торговли криптовалютой Banana Gun на базе Telegram лишились цифровых активов на сумму…
Puma, мировой спортивный бренд-гигант, продолжает свой путь в блокчейне благодаря своему последнему партнерству в области…