OpenAI розкриває уроки, отримані в рамках грантової програми в розмірі $1 млн

OpenAI висвітлив п’ять важливих уроків, отриманих із своєї грантової програми вартістю 1 мільйон доларів США, щоб залучити громадськість до прийняття рішень про те, як ШІ повинен поводитися, щоб краще узгодити свої моделі з цінностями людства.

У травні 2023 року компанія заявила, що готується надати 10 грантів вартістю по 100 000 доларів кожен на експерименти зі створення «підтвердженого» демократичного процесу для визначення правил, яких повинні дотримуватися системи ШІ.

У дописі в блозі від 16 січня компанія зі штучного інтелекту описала, як 10 команд-одержувачів грантів впроваджували інновації в демократичних технологіях, основні висновки, отримані в рамках грантової програми, і плани впровадження OpenAI для нової демократичної технології.

Відповідно до допису, команди фіксували погляди учасників різними способами та виявили, що погляди громадськості часто змінювалися, потенційно впливаючи на те, як часто мають відбуватися процеси введення. OpenAI дізнався, що колективний процес повинен ефективно фіксувати фундаментальні цінності та бути достатньо чутливим, щоб виявляти значні зміни у поглядах з часом.

Крім того, деякі команди виявили, що подолати цифровий розрив все ще складно, що може спотворити результати. Набір учасників через цифровий розрив був складним через обмеження платформи та проблеми з розумінням місцевої мови чи контексту.

Пов’язане: Керування ключем до швидкого розвитку переваг ШІ: панель WEF

Однак деяким командам було складно дійти згоди в полярних групах, особливо коли невелика підгрупа дотримувалася твердої думки з певного питання. Команда колективних діалогів виявила, що невелика група рішуче виступає проти обмеження помічників штучного інтелекту відповідати на конкретні запитання під час кожної сесії, що призвело до розбіжностей із результатами голосування більшості.

Відповідно до OpenAI, досягти рівноваги між консенсусом і представленням різноманітних думок складно для єдиного результату. Команда Inclusive. AI дослідила механізми голосування, виявивши, що методи, які відображають сильні почуття людей і забезпечують рівну участь, вважаються більш демократичними та справедливими.

Що стосується побоювань щодо майбутнього ШІ в управлінні, у звіті зазначено, що деякі учасники нервували щодо ШІ при написанні політики, бажаючи прозорості в його використанні. Однак після обговорення команди відзначили збільшення надії на здатність громадськості керувати ШІ.

OpenAI заявляє, що хоче втілити ідеї громадських учасників, і з цією метою стартап AI формує нову колективну групу дослідників та інженерів Collective Alignment для створення системи для збору та «кодування» громадського внеску щодо поведінки своїх моделей уПродукти та послуги OpenAI.