前言
本文主要讲解如何使用LlamaIndex
和Chromadb
向量数据库实现RAG应用,并使用Chainlit
快速搭建一个前端对话网页,实现RAG聊天问答增强的应用。文章中还讲解了LlamaIndex
的CallbackManager
回调,实现案例是使用TokenCountingHandle
r,实现tokens
使用计算回调应用。方便知道自己的tokens
使用量。
LlamaIndex 回调
LlamaIndex 提供回调来帮助调试、跟踪和追溯库的内部工作。使用回调管理器,可以根据需要添加尽可能多的回调。
除了记录与事件相关的数据之外,您还可以跟踪每个事件的持续时间和发生的次数。
此外,还会记录事件的跟踪图,回调可以随意使用这些数据。例如,LlamaDebugHandler默认情况下,大多数操作后都会打印事件的跟踪。
回调事件类型 虽然每个回调可能不会利用每种事件类型,但可以跟踪以下事件:
- CHUNKING-> 文本分割前后的日志。
- NODE_PARSING-> 文档及其解析成的节点的日志。
- EMBEDDING-> 记录嵌入的文本数量。