DeepSeek本地化部署实战指南:从零搭建AI助手

最近,DeepSeek在全网爆火,各行各业也都开始部署自己本地化的环境,第一批使用DeepSeek“搞钱”的人也出现了。那么,DeepSeek到底是什么?本地环境又如何部署呢?本文将带领大家搭建部署属于自己的DeepSeek模型。

一、DeepSeek到底是什么?

DeepSeek是由杭州深度求索人工智能基础技术研究有限公司(简称“深度求索”)开发的一款先进AI应用。它集自然语言处理(NLP)、计算机视觉(CV)、语音识别等多个领域的先进技术于一体,为用户提供了高效、便捷的AI模型训练、部署和应用服务。DeepSeek不仅是一个平台,更是一个生态系统,涵盖了从数据准备、模型训练到部署应用的全流程,为用户提供了全方位的支持。主要代表产品:DeepSeek R1、DeepSeek V3等。

img

  • DeepSeek R1:在科研、技术开发、教育等领域得到了广泛的应用。例如,在生成逻辑严谨的技术文档或学术论文、提升智能客服复杂任务解决效率以及帮助内容创作者生成高质量技术文章等方面,都发挥了重要作用。
  • DeepSeek V3:在智能客服、代码生成、长文本处理等场景中得到了广泛的应用。其卓越的性能为用户带来了高效、优质的服务体验。

DeepSeek作为一款功能强大的AI工具,其R1和V3系列模型在各自领域都展现出了出色的性能和广泛的应用前景。无论是对于科研工作者、技术开发人员还是广大AI爱好者来说,DeepSeek都是一个值得关注和探索的AI平台。

二、本地环境又如何部署呢?

对于DeepSeek本地化部署,本文将按照以下内容进行DeepSeek模型的部署。

1、 安装Ollama

(1)官网下载:https://ollama.com/

img

(2)选择版本

img

(3)下载完成后双击进行安装,安装完成之后桌面右下角会显示ollama图标

img

2、安装docker

(1)官网下载:https://www.docker.com/

img

(2)下载完成后双击进行安装。安装完成之后页面如下

img

3、安装模型

(1)进入到ollama官网的首页,点击搜索框,可以看到许多模型,这里我们下载deepseek-r1。
img

(2)选择不同的版本,我们这里选择的是7b。选择版本可根据自己电脑的配置进行选择,

img
(3)安装 deepseek-r1:7b 模型

ollama run deepseek-r1:7b

img

(4)安装完成后,进行测试。

img

4、安装dify

下载地址:

https://link.zhihu.com/?target=https%3A//github.com/langgenius/dify

安装dify环境

(1)根目录找到docker文件夹,将 .env.example 文件重命名.env。

(2)右键打开命令行运行下面命令

docker compose up -d

(3)运行结束后,docker桌面客户端可看到dify所需要的环境都已想、成功安装。

img

(4)在浏览器地址栏输入查看

http://127.0.0.1/install

需要设置管理员账号。

img

然后进行登录

img

进去页面如下:

img

5、将本地大模型与dify关联

(1)配置docker下的env文件,代码如下:

# 启用自定义模型
CUSTOM_MODEL_ENABLED=true
# 指定 Ollama 的 API 地址(根据部署环境调整 IP)
OLLAMA_API_BASE_URL=host.docker.internal:11434

# 或者IP为x.x.x.x,x.x.x.x为IP地址
OLLAMA_API_BASE_URL=http://x.x.x.x:11434

img

(2)配置大模型

点击右上角账号信息,进入设置选项。

img

然后点击模型供应商,选择Ollama,添加模型。

img

填写对应的模型名称,基础URL信息。

img

保存之后如下所示

img

6、创建应用

(1)创建空白应用

img

(2)选择应用类型并起名,这里选择聊天助手,起名测试聊天,然后点击创建。

img

(3)进去之后在右上角配置模型

img

(4)模型配置完成之后进行测试

img

搭建完成,收工!!!

最后,希望看到的朋友们能够积极行动起来,做出自己的AI应用!

别怕脚步沉重,山巅的日出永远值得攀爬——你比自己想象的更强大,每一步都藏着改变命运的密码。