打造自己的RAG解析大模型：(可商用)智能文档服务上线部署

企业开发 2024-11-01 15:04
0 阅读

本篇将深入探讨如何发布智能文档解析服务，以及如何构建API集成。我们以通用版面分析服务为例，介绍从模型发布到API集成的完整流程。这个过程不仅展示了文档服务的部署方法，还体现了飞桨平台在简化AI应用开发方面的便捷性，为开发人员提供了快速创建商用级文档解析服务的途径。

通用版面分析介绍

版面解析是一种将文档图像转化为机器可读数据格式的技术，广泛应用于文档管理和信息提取等领域。通过结合OCR、图像处理和机器学习，版面解析能够识别文档中的文本块、图片、表格等版面元素，最终生成结构化数据，大大提高了数据处理的效率和准确性。典型的通用版面解析流程包括表格识别、版面区域分析、文本检测、公式识别等模块，帮助实现从简单文本到复杂文档的全面信息提取。这种技术为企业和数据密集型行业带来了显著的效益，提升了自动化文档处理的能力。

服务化部署

服务化部署是生产环境中高效、灵活的部署方式，通过将推理模型打包为独立服务，客户端可以通过网络请求访问，获取实时推理结果。这种方式不仅减少了部署难度，还使得模型的扩展和更新更加便捷，适合需求多变的业务场景。PaddleX 支持低成本地实现产线级服务化部署，用户可快速集成模型推理服务，从而满足多种应用需求。这种方式特别适合需要高可用性和可扩展性的场景，如智能客服、图像分析等。

服务化部署示例图：

用户可以灵活选择要发布的模型模块，这些模型会通过 HTTP 协议作为接口发布，实现服务化部署，便于应用端直接调用，完成文档识别和解析。这样不仅简化了模型集成的流程，还提升了系统的可扩展性。无论是文本识别、表格解析，还是版面分析等功能，都能以标准化的服务形式供前端调用，为业务系统提供更稳定、高效的文档处理能力。

服务发布具体步骤

1、安装服务化部署插件

执行如下指令，安装服务化部署插件：

paddlex --install serving

2、启动服务

通过 PaddleX CLI 启动服务，指令格式为：

paddlex --serve --pipeline {
    
    产线名称或产线配置文件路径} [{
    
    其他命令行选项}]

以通用版面解析产线为例：

paddlex --serve --pipeline layout_parsing

服务启动成功后，可以看到类似如下展示的信息：

INFO:     Started server process [63108]``INFO:     Waiting for application startup.``INFO:     Application startup complete.``INFO:     Uvicorn running on http://0.0.0.0:8080 (Press CTRL+C to quit)

–pipeline可指定为官方产线名称或本地产线配置文件路径。PaddleX 以此构建产线并部署为服务。 与服务化部署相关的命令行选项如下：

名称 说明
--pipeline 产线名称或产线配置文件路径。
--device 产线部署设备。默认为 cpu（如 GPU 不可用）或 gpu（如 GPU 可用）。
--host 服务器绑定的主机名或 IP 地址。默认为0.0.0.0。
--port 服务器监听的端口号。默认为8080。
--use_hpip 如果指定，则启用高性能推理插件。
--serial_number 高性能推理插件使用的序列号。只在启用高性能推理插件时生效。请注意，并非所有产线、模型都支持使用高性能推理插件，详细的支持情况请参考PaddleX 高性能推理指南。
--update_license 如果指定，则进行联网激活。只在启用高性能推理插件时生效。

至此通用版面解析的服务发布成功，发布URL如下：

http://localhost:8080/layout-parsing

应用集成

在成功发布模型服务后，接下来的关键任务是构建自定义的解析应用层。这个层级可以根据具体的业务需求，进一步处理模型返回的解析结果。通过应用级别的操作，我们可以更灵活地对文字和表格数据进行拆分、聚合等操作，特别是针对 RAG（检索增强生成）场景的需求，将数据转化为向量化存储格式。这种设计不仅提升了文档解析的精度和效率，还为业务场景提供了可扩展的、个性化的数据处理能力。

以下是Python语言实现的应用基础代码示例：

import base64``import requests``   ``API_URL = "http://localhost:8080/layout-parsing" # 服务URL``   ``# 对本地图像进行Base64编码``with open(image_path, "rb") as file:`    `image_bytes = file.read()`    `image_data = base64.b64encode(image_bytes).decode("ascii")``   ``payload = {
    
    `    `"file": image_data, # Base64编码的文件内容或者文件URL`    `"fileType": 1,`    `"useImgOrientationCls": True,`    `"useImgUnwrapping": True,`    `"useSealTextDet": True,``}``   ``# 调用API``response = requests.post(API_URL, json=payload)``   ``# 处理接口返回数据``assert response.status_code == 200``result = response.json()["result"]``print("\nDetected layout elements:")``for res in result["layoutParsingResults"]:`    `for ele in res["layoutElements"]:`        `print("===============================")`        `print("bbox:", ele["bbox"])`        `print("label:", ele["label"])`        `print("text:", repr(ele["text"]))

这是一个简单的模型服务调用示例，而在实际的 RAG 系统中，我们会进一步优化这种服务调用方式。通常会设计一个独立的类来处理模型调用和结果解析，以实现解耦和模块化。这种封装方式不仅使代码更具可读性和可维护性，也更便于扩展多样化的业务场景。通过这样的架构设计，应用端可以灵活调用服务，适应更复杂的文档解析需求，并在业务逻辑上实现更高的自定义和优化。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

第一阶段（10天）：初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么？
  • 大模型是怎样获得「智能」的？
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例：向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范
  • …

第二阶段（30天）：高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示（Embeddings）
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署
  • …

第三阶段（30天）：模型训练

恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。

到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2：手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建
  • …

第四阶段（20天）：商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身：基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例：如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案
  • …

学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。

如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

在这里插入图片描述

猜你喜欢

目录

热门文章