大模型时代的到来使得 AI 应用开发变得更加轻松、省时，尤其是在 CVP Stack 的范式下，开发者甚至可以用一个周末的时间做出一个完整的应用程序。
本文将应用理论于实践，给大家演示如何利用 Milvus、Xinference、Llama 2-70B 开源模型和 LangChain，构筑出一个全功能的问答系统。Xinference 使得本地部署 Llama 2 模型变得简洁高效，而 Milvus 则提供了高效的向量存储和检索能力。
摆脱对 OpenAI 的依赖，借助开源生态系统构建出全流程的 AI 应用，现在开始！
01.
项目介绍
-
Milvus
Milvus（https://milvus.io/docs/overview.md） 是一个向量数据库，其主要功能是存储、索引和管理大规模的嵌入向量，这些向量由深度神经网络和其他机器学习模型生成。与传统的关系数据库不同，Milvus 专门处理输入向量的查询，并能够索引规模达到万亿级别的向量。
Milvus 的设计从底层开始，特别考虑了处理来自非结构化数据的嵌入向量。随着互联网的发展，非结构化数据如电子邮件、论文、传感器数据、照片等变得越来越普遍。为了让计算机能够理解和处理这些