Термины

Генерация с расширением поиска (RAG)

Генерация с расширением поиска — это метод, который извлекает релевантную информацию из источников, не входящих в обучающие данные модели, чтобы предоставить дополнительный контекст для генерации. Связанные материалы демонстрируют его использование в семантическом поиске, базах знаний, приложениях с агентами, а также при поиске по документам и кодовым базам.

Генерация с расширением поиска (RAG) — это метод, который извлекает релевантную информацию из источников, не входящих в обучающие данные модели, а затем предоставляет её в качестве дополнительного контекста для процесса генерации.

Как это используется?

  • Семантический поиск и извлечение информации из документов.
  • Поддержка баз знаний, основанных на поиске и генерации.
  • Предоставление контекста агентам искусственного интеллекта перед генерацией или рассуждением.
  • Поиск по кодовым базам, файлам и мультимедийному контенту.

Важность качества поиска

Качество приложения RAG зависит не только от итогового текста. Ошибка может быть вызвана выбором неподходящей базы данных, извлечением нерелевантных документов или применением некорректного фильтра области. Поэтому материалы рекомендуют отслеживать поисковые операции, извлечённые данные, повторное ранжирование и вызванные инструменты, а затем оценивать весь процесс — от поиска до генерации.

Фильтрация и область поиска

Фильтры метаданных можно применять до поиска по сходству, чтобы ограничить результаты определённым арендатором, категорией, статусом или диапазоном. AWS отмечает, что такой подход предназначен для таких приложений, как RAG и поиск по документам, особенно когда нужная совокупность представляет собой небольшую часть индекса.

RAG в рамках более широкого рабочего процесса

RAG может интегрироваться с другими инструментами в той же системе. Согласно материалу, опубликованному на GitHub, агент может использовать MCP для доступа к инструментам и данным, следовать Skills для применения инструкций, специфичных для проекта, и обращаться к RAG для получения дополнительного контекста. Материалы не подтверждают, что какой-либо из этих компонентов устраняет необходимость в остальных.

Оценка и эксплуатация

  • Оценка полного процесса: тестирование поиска и генерации, а также проверка результатов, а не только вызова модели.
  • Трассировка компонентов: связывание версии с индексом, моделью эмбеддингов, настройками поиска, промптами и параметрами эксплуатации.
  • Разнообразие тестов: включение обычных вопросов, прошлых сбоев, неоднозначных случаев и ситуаций, в которых отсутствуют доказательства.
  • Сочетание метрик: использование детерминированных проверок при наличии чётких правил, а также экспертной проверки или семантической оценки, когда решение трудно свести к правилу.

Ограничения выводов

Ограниченных результатов или оценок языковой модели недостаточно, чтобы доказать качество приложения RAG во всех случаях. Кроме того, пригодность любой модели поиска или индекса зависит от типа данных, требуемой точности поиска, ограничений оборудования и результатов независимых тестов. Представленные материалы не содержат общего рейтинга решений RAG или исчерпывающего сравнения между ними.