Termos

Geração aumentada por recuperação (RAG)

A geração aumentada por recuperação é uma técnica que obtém informações relevantes de fontes externas aos dados de treinamento do modelo para fornecer contexto de apoio à geração. Os materiais relacionados mostram seu uso em pesquisa semântica, bases de conhecimento, aplicações de agentes e pesquisa em documentos e bases de código.

Geração aumentada por recuperação (RAG) é uma técnica que obtém informações relevantes de fontes externas aos dados de treinamento do modelo e, em seguida, as fornece como contexto de apoio ao processo de geração.

Como é utilizada?

  • Pesquisa semântica e recuperação de informações em documentos.
  • Suporte a bases de conhecimento baseadas em recuperação e geração.
  • Fornecimento de contexto a agentes de inteligência artificial antes da geração ou do raciocínio.
  • Pesquisa em bases de código, arquivos e conteúdo multimídia.

A importância da qualidade da recuperação

A qualidade de uma aplicação RAG não depende apenas do texto final. O erro pode resultar da seleção de uma base de dados incorreta, da recuperação de documentos inadequados ou da aplicação de um filtro de escopo inadequado. Por isso, os materiais recomendam rastrear as operações de pesquisa, os dados recuperados, a reordenação e as ferramentas chamadas, e depois avaliar o fluxo completo, da recuperação à geração.

Filtragem e escopo

Filtros de metadados podem ser aplicados antes da pesquisa por similaridade para limitar os resultados a um locatário, categoria, status ou escopo específico. A AWS afirma que essa abordagem se destina a aplicações como RAG e pesquisa em documentos, especialmente quando o conjunto desejado representa uma pequena parte do índice.

RAG em um fluxo de trabalho mais amplo

O RAG pode ser integrado a outras ferramentas no mesmo sistema. De acordo com o material publicado no GitHub, o agente pode usar o MCP para acessar ferramentas e dados, seguir Skills para aplicar instruções específicas do projeto e recorrer ao RAG para obter contexto de apoio. Os materiais não fornecem evidências de que algum desses componentes elimine os demais.

Avaliação e operação

  • Avaliação do fluxo completo: testar a recuperação e a geração e verificar as saídas, não apenas a chamada do modelo.
  • Rastreamento dos componentes: associar a versão ao índice, ao modelo de embeddings, às configurações de recuperação, aos prompts e às configurações de operação.
  • Diversificação dos testes: incluir perguntas comuns, falhas anteriores, casos ambíguos e casos sem evidências.
  • Combinação de métricas: usar verificações determinísticas quando houver regras claras, juntamente com revisão humana ou avaliação semântica quando for difícil reduzir o julgamento a uma regra.

Limites do que pode ser inferido

Resultados limitados ou avaliações feitas exclusivamente por um modelo de linguagem não são suficientes para comprovar a qualidade de uma aplicação RAG em todos os casos. Além disso, a adequação de qualquer modelo de recuperação ou índice depende do tipo de dados, da precisão de recuperação necessária, das limitações de hardware e dos resultados de testes independentes. Os materiais fornecidos não incluem uma classificação geral das soluções RAG nem uma comparação abrangente entre elas.