AI测试入门:基于 RAG 的 LLM 应用程序的测试方法「详细介绍」
1. RAG 架构
一个典型的 RAG 架构包括一个检索器(对知识库进行矢量搜索检索上下文的组件)和一个生成器(从检索器中获取检索上下文以构建提示并生成自定义 LLM 响应作为最终输出的组件)。在大多数情况下, “知识库” 由存储在向量数据库(如 ChromaDB)中的向量嵌入组成。
RAG 架构的示意图说明如下:
1.用户输入提问内容;
2.检索器处理给定的输入,生成输入的嵌入表示;
3.在向量空间中搜索,以找到与输入嵌入表示最相关的前 K 个文档;
4.根据相关性(或与输入嵌入表示的相似度)对检索到的文档进行排名;
5.将排名靠前的