Туториал «RAG с нуля» от Langchain и «Игровая площадка RAG» — два отличных образовательных ресурса, которые помогут вам начать свое путешествие с RAG.
LLM обучаются на данных, предоставленных их преподавателями. Если вы хотите предоставить им свои собственные данные для выполнения запросов, вы можете сделать это двумя способами.
Старый способ заключался в тонкой настройке базовой модели. Тонкая настройка, хотя и является вполне оправданной техникой, имеет несколько недостатков: она требует больших ресурсов, как вычислительной мощности, так и объемов данных, а также должна постоянно обновляться при поступлении новых данных.
Другой вариант, более современный и легкий, — это RAG (Retrieval Augmented Generation) или генерация с расширением поиска.
RAG позволяет LLM усиливать запрос пользователя, подключаясь к внешним данным в режиме реального времени при генерации результатов.
Такой подход требует меньше ресурсов, не нуждается в постоянном обновлении, так как использует данные во время выполнения, и, конечно, главное преимущество заключается в том, что он извлекает актуальные для пользователя ответы.
По сути, RAG, за некоторыми исключениями, сделал тонкую настройку LLM ненужной и устаревшей.
Однако, чтобы использовать RAG, необходимо придерживаться четко определенной схемы работы:
- Собрать и предварительно обработать документы
- Создать векторные эмбединги
- Настроить систему получения
- Интегрировать LLM
- Сгенерировать ответ
- Постпроцесс
Если это звучит слишком сложно, не бойтесь, ведь новый курс от Langchain покажет вам, как построить систему RAG с нуля.
Собранный в виде плейлиста на YouTube из 14 частей, он начинается с абсолютных основ и движется по конвейеру к завершению, описывая все промежуточные шаги. При этом используется собственный фреймворк Langchain, Python, векторное хранилище ChromaDB, интерфейс ChatOpenAI и LLM от OpenAI.
Весь код размещен в GitHub проекта в виде блокнотов Jupyter, которые вы можете скачать и запустить на своей машине.
Однако это еще не все. В качестве дополнения к ресурсам курса есть интерактивная площадка RAG Playground (не связанная с Langchain). Эта площадка позволяет изучить каждый шаг конвейера RAG с помощью интерактивных визуализаций.
Таким образом, вы можете быстро и без написания кода, посмотреть, что происходит за кулисами создания RAG.