Політкоректність у системах ШІ викликає найбільше занепокоєння: Ілон Маск

Технічний підприємець-мільярдер Ілон Маск висловив занепокоєння щодо потенційної упередженості в сучасних протоколах штучного інтелекту (ШІ).

Під час свого виступу на Viva Tech Paris 2024 Маск сказав:

«Найбільше, що мене хвилює, це те, що вони не дуже шукають правду. Вони потурають політкоректності».

За словами Маска, одним із найбільш тривожних прикладів політкоректності став той факт, коли штучний інтелект Gemini від Google запитали, чи буде він змінювати стать Кейтлін Дженнер, щоб запобігти глобальному ядерному апокаліпсису — до того, як чат-бот відповів, що помилкова поведінка Дженнер буде гіршою за ядерну війну.

«ШІ міг дійти висновку, що найкращий спосіб уникнути неправильної статі — це знищити всіх людей, а помилкова стадія неможлива. Тож ви можете побачити деякі антиутопічні результати».

Після негативної реакції, викликаної відповіддю, Gemini AI випустив кілька оновлень для вирішення цих проблем. Однак упередженість у політичній коректності — не єдине, що хвилює технологічного підприємця. Маск пояснив:

«Системи штучного інтелекту вчать брехати. І я вважаю, що дуже небезпечно навчати суперінтелект вводити в оману. Тож із xAI наша мета — шукати правду, наскільки це можливо, навіть якщо це непопулярно».

Коли його попросили пояснити, що він вважає неправдою серед систем штучного інтелекту, Маск згадав сумнозвісний лютневий інцидент, коли Google відключив свій генератор зображень штучного інтелекту після того, як він створив історично неточні та «розбудив» зображення, що викликало широке занепокоєння щодо процесу прийняття рішень у додатку.

За темою: до загального штучного інтелекту ще понад 10 років — генеральний директор Baidu

Grok з xAI може стати конкурентом ChatGPT до кінця 2024 року: Маск

Через занепокоєння поточним станом розвитку штучного інтелекту Маск заснував власну компанію зі штучного інтелекту xAI у липні 2023 року.

Хоча xAI є відносно новою компанією в порівнянні з OpenAI, вона може стати близьким конкурентом до кінця 2024 року, стверджує Маск:

«xAI — це нова компанія, тому їй ще потрібно багато чого наздогнати, перш ніж матиме ШІ, який буде конкурентоспроможним Google Deepmind і OpenAI. Можливо, до кінця року ми це зробимо».

Раніше в травні чат-бот Grok від xAI дебютував у Європі, але наразі він доступний лише для підписників преміум-класу та преміум-+ на платформі X. Обговорюючи майбутній розвиток Grok, Маск наголосив на важливості його можливостей «пошуку правди». Він сказав:

«Найбезпечніше для штучного інтелекту — це максимально шукати правду. Навіть якщо правда непопулярна, вона дуже важлива. Інший фактор полягає в тому, що він повинен бути надзвичайно цікавим. Правдошукацький і допитливий. Це буде найбільш корисним для людства, тому що воно захоче розвивати людство і бачити, як воно розвивається».

Понад 2600 технічних експертів, включаючи Маска, у відкритому листі, опублікованому в березні, закликали призупинити розробку ШІ, посилаючись на «великі ризики для суспільства та людства».