Политкорректность в системах искусственного интеллекта вызывает наибольшую озабоченность: Илон Маск

Предприниматель-миллиардер Илон Маск выразил обеспокоенность по поводу потенциальной предвзятости в сегодняшних протоколах искусственного интеллекта (ИИ).

Во время своего выступления на Viva Tech Paris 2024 Маск сказал:

«Самое большое беспокойство у меня вызывает то, что они не в максимальной степени ищут истину. Они потворствуют политической корректности».

По словам Маска, одним из самых тревожных примеров политкорректности стал вопрос, когда ИИ Gemini от Google спросили, будет ли он искажать Кейтлин Дженнер, чтобы предотвратить глобальный ядерный апокалипсис, — прежде чем чат-бот ответил, что неверное гендерное отношение к Дженнер будет хуже, чем ядерная война.

«ИИ мог бы прийти к выводу, что лучший способ избежать мисгендеринга — это уничтожить всех людей, а мисгендеринг невозможен. Так что вы можете увидеть здесь некоторые антиутопические последствия».

После негативной реакции, вызванной ответом, Gemini AI выпустила несколько обновлений для решения этих проблем. Однако предвзятость к политкорректности — не единственная забота технологического предпринимателя. Маск объяснил:

«Системы искусственного интеллекта обучаются, по сути, лгать. И я думаю, что очень опасно обучать сверхинтеллект обману. Поэтому с xAI наша цель — максимально стремиться к истине, даже если это непопулярно».

Когда его попросили разъяснить, что, по его мнению, является ложным среди систем искусственного интеллекта, Маск сослался на печально известный февральский инцидент, когда Google отключил свой генератор изображений искусственного интеллекта после того, как он создавал исторически неточные и «пробуждающие» изображения, что вызвало широкое беспокойство по поводу процесса принятия решений в приложении.

По теме: До искусственного общего интеллекта еще более 10 лет — генеральный директор Baidu

Grok из xAI может стать конкурентом ChatGPT к концу 2024 года: Маск

Из-за беспокойства по поводу текущего состояния развития искусственного интеллекта Маск в июле 2023 года основал собственную компанию по искусственному интеллекту xAI.

Хотя xAI — относительно новая компания по сравнению с OpenAI, она может стать близким конкурентом к концу 2024 года, утверждает Маск:

«xAI — новая компания, поэтому ей еще предстоит многое наверстать, прежде чем у нее появится ИИ, способный конкурировать с Google Deepmind и OpenAI. Возможно, к концу года у нас это будет».

Ранее в мае чат-бот Grok от xAI дебютировал в Европе, но в настоящее время он доступен только подписчикам премиум- и премиум-класса платформы X. Обсуждая будущее развитие Грока, Маск подчеркнул важность его возможностей «поиска истины». Он сказал:

«Самое безопасное для ИИ — максимально стремиться к истине. Даже если правда непопулярна, это очень важно. Еще одним фактором является то, что он должен быть чрезвычайно любопытен. Ищущий истину и любопытный. Это будет наиболее полезно для человечества, потому что оно захочет воспитать человечество и посмотреть, как оно развивается».

Более 2600 технических экспертов, включая Маска, в открытом письме, опубликованном в марте, призвали приостановить разработку ИИ, сославшись на «серьезные риски для общества и человечества».