OpenAI отримує теплу реакцію на індивідуальні пропозиції ШІ

OpenAI представив опцію тонкого налаштування для GPT-3.5 Turbo, що дозволяє розробникам штучного інтелекту (ШІ) підвищувати продуктивність у конкретних завданнях за допомогою виділених даних. Однак розробники висловили критику, а також хвилювання щодо розробки.

OpenAI уточнив, що за допомогою процесу тонкого налаштування розробники можуть налаштувати можливості GPT-3.5 Turbo відповідно до своїх вимог. Наприклад, розробник може налаштувати GPT-3.5 Turbo для створення налаштованого коду або вмілого узагальнення юридичних документів німецькою мовою, використовуючи набір даних, отриманий з бізнес-операцій клієнта.

You can now fine-tune GPT-3.5-Turbo!

Seems like inference is significantly more expensive (8x more) though.

My guess is that anyone with the ability to deploy their own models won’t be swayed by this. https://t.co/p2LbSq4D2H

— Mark Tenenholtz (@marktenenholtz) August 22, 2023

Недавнє оголошення викликало обережну реакцію розробників. У коментарі, приписуваному користувачеві X на ім’я Джошуа Сегерен, говориться, що хоча впровадження тонкого налаштування GPT-3.5 Turbo є інтригуючим, це не всеосяжне виправлення. Виходячи з його спостережень, покращення підказок, використання векторних баз даних для семантичного пошуку або перехід на GPT-4 часто дають кращі результати, ніж спеціальне навчання. Крім того, слід враховувати такі фактори, як витрати на налаштування та поточне обслуговування.

Базові моделі GPT-3.5 Turbo починаються зі ставки $0,0004 за 1000 токенів (фундаментальні одиниці, що обробляються розширеними мовними моделями). Однак уточнені версії через тонке налаштування мають вищу вартість 0,012 доларів США за 1000 вхідних токенів і 0,016 доларів США за 1000 вихідних токенів. Крім того, стягується плата за початкове навчання, пов’язана з обсягом даних.

Ця функція має важливе значення для підприємств і розробників, які прагнуть побудувати персоналізовану взаємодію з користувачем. Наприклад, організації можуть точно налаштувати модель, щоб вона гармоніювала з голосом свого бренду, гарантуючи, що чат-бот демонструватиме постійну індивідуальність і тон, який доповнює ідентичність бренду.

За темою: провідні університети Великої Британії співпрацюють із стартапом зі штучним інтелектом для аналізу ринку криптовалют

Забезпечуючи відповідальне використання засобів тонкого налаштування, навчальні дані, які використовуються для точного налаштування, проходять перевірку через їх API модерації та систему модерації GPT-4. Це робиться для підтримки атрибутів безпеки моделі за замовчуванням протягом процедури тонкого налаштування.

Система прагне виявляти й усувати потенційно небезпечні навчальні дані, забезпечуючи тим самим відповідність уточнених результатів встановленим нормам безпеки OpenAI. Це також означає, що OpenAI має певний рівень контролю над даними, які користувачі вводять у його моделі.