В GPT-3 сделали возможно обучения на собственных данных

Теперь разработчики могут настраивать GPT-3 на своих данных, создавая индивидуальную версию, адаптированную к их приложению. Настройка делает GPT-3 надежным решением для более широкого круга сценариев использования и удешевляет и ускоряет использование модели.

Вы можете использовать существующий набор данных практически любой формы и размера и постепенно добавлять данные пользователей. Благодаря тонкой настройке один из клиентов смог увеличить правильные результаты с 83% до 95%. Добавляя новые данные из своего продукта каждую неделю, другой снизил количество ошибок на 50%.

Совсем недавно OpenAI открыла доступ к GPT-3 через API для всех. Имея всего несколько примеров, GPT-3 может выполнять широкий спектр задач на естественном языке, концепция называется обучением за несколько шагов (few-shot learning) или проектированием на основе подсказок (prompt design). Донастройка GPT-3 может дать даже лучшие результаты, потому что вы можете предоставить гораздо больше собственных данных.

Чтобы увидеть преимущества точной настройки GPT-3, требуется менее 100 примеров, а производительность продолжает улучшаться по мере добавления дополнительных данных. В исследовании, опубликованном в июне прошлого года, компания показала, как точная настройка менее чем на 100 примерах может улучшить производительность GPT-3 при выполнении определенных задач. Каждое удвоение количества примеров имеет тенденцию линейно улучшать качество.