OpenAI представила возможность тонкой настройки GPT-3.5 Turbo, позволяющую разработчикам искусственного интеллекта (ИИ) повысить производительность при выполнении конкретных задач, используя выделенные данные. Однако разработчики выразили как критику, так и энтузиазм по поводу разработки.
В OpenAI уточнили, что в процессе тонкой настройки разработчики смогут настроить возможности GPT-3.5 Turbo в соответствии со своими требованиями. Например, разработчик может настроить GPT-3.5 Turbo для создания индивидуального кода или профессионального обобщения юридических документов на немецком языке, используя набор данных, полученный в результате бизнес-операций клиента.
You can now fine-tune GPT-3.5-Turbo!
Seems like inference is significantly more expensive (8x more) though.
My guess is that anyone with the ability to deploy their own models won’t be swayed by this. https://t.co/p2LbSq4D2H
— Mark Tenenholtz (@marktenenholtz) August 22, 2023
Недавнее объявление вызвало осторожную реакцию разработчиков. В комментарии, приписываемом пользователю X по имени Джошуа Сегерен, говорится, что, хотя введение тонкой настройки GPT-3.5 Turbo интригует, это не комплексное решение. По его наблюдениям, улучшение подсказок, использование векторных баз данных для семантического поиска или переход на GPT-4 часто дают лучшие результаты, чем индивидуальное обучение. Кроме того, следует учитывать такие факторы, как затраты на установку и текущее обслуживание.
Базовые модели GPT-3.5 Turbo начинаются по ставке 0,0004 доллара США за 1000 токенов (основные единицы, обрабатываемые расширенными языковыми моделями). Однако усовершенствованные версии за счет тонкой настройки имеют более высокую стоимость: 0,012 доллара США за 1000 входных токенов и 0,016 долларов США за 1000 выходных токенов. Кроме того, взимается первоначальная плата за обучение, связанная с объемом данных.
Эта функция имеет важное значение для предприятий и разработчиков, стремящихся обеспечить персонализированное взаимодействие с пользователем. Например, организации могут точно настроить модель так, чтобы она гармонировала с голосом своего бренда, гарантируя, что чат-бот будет обладать последовательной индивидуальностью и тоном, дополняющим идентичность бренда.
Связанный: Ведущие британские университеты сотрудничают со стартапом ИИ для анализа рынка криптовалют
Чтобы обеспечить ответственное использование средства тонкой настройки, данные обучения, используемые для тонкой настройки, подвергаются тщательной проверке через API модерации и систему модерации на основе GPT-4. Это делается для сохранения атрибутов безопасности модели по умолчанию на протяжении всей процедуры тонкой настройки.
Система стремится обнаруживать и устранять потенциально небезопасные данные обучения, тем самым гарантируя соответствие уточненных результатов установленным нормам безопасности OpenAI. Это также означает, что OpenAI имеет определенный уровень контроля над данными, которые пользователи вводят в свои модели.
