AI测试入门:基于 RAG 的 LLM 应用程序的测试方法「详细介绍」

1. RAG 架构

一个典型的 RAG 架构包括一个检索器(对知识库进行矢量搜索检索上下文的组件)和一个生成器(从检索器中获取检索上下文以构建提示并生成自定义 LLM 响应作为最终输出的组件)。在大多数情况下, “知识库” 由存储在向量数据库(如 ChromaDB)中的向量嵌入组成。
在这里插入图片描述

RAG 架构的示意图说明如下

1.用户输入提问内容;
2.检索器处理给定的输入,生成输入的嵌入表示
3.在向量空间中搜索,以找到与输入嵌入表示最相关的前 K 个文档
4.根据相关性(或与输入嵌入表示的相似度)对检索到的文档进行排名
5.将排名靠前的

猜你喜欢

转载自blog.csdn.net/weixin_48321392/article/details/142880544