硬核教程！手把手教你在本地跑 DeepSeek-R1，零门槛上手！

业界资讯 2025-04-11 19:37:40 阅读次数: 0

前言

在 AI 发展浪潮中，逻辑推理能力正成为衡量智能水平的重要标准。而DeepSeek-R1 作为一款由中国 AI 公司 DeepSeek 开发的开源推理模型，正引领这一领域的新变革。它不仅能解决复杂的数学问题，还能执行实时决策，为 AI 在实际应用中的落地提供了更多可能性。

在本教程中，我将手把手带你完成 DeepSeek-R1 在本地的运行流程，并详细讲解如何使用 Ollama 进行环境配置。

此外，我们还将探索如何结合 R1 模型、LangChain 和 Gradio，从零搭建一个轻量级的 RAG 应用，让你的笔记本电脑秒变智能问答助手！无论你是刚接触 RAG 还是想要在本地体验最新的大模型技术，这篇教程都将为你提供清晰易懂的实践指南。

在本地运行 DeepSeek-R1 带来了诸多优势，尤其是对于希望享有更多控制权的用户。以下是一些显著的好处：

隐私和安全：所有数据都保留在您的系统内，无需担心数据外泄。
不间断访问：避免了因速率限制、停机或服务中断而带来的使用困扰。
性能：通过本地推理，您可以获得更快的响应速度，避免了 API 延迟带来的影响。
自定义：您可以根据需求修改参数、微调提示，甚至将模型整合到本地应用中，提升灵活性。
成本效益：在本地运行模型无需支付 API 费用，节省了开销。
离线可用性：一旦下载模型，即可在没有互联网连接的情况下继续工作，确保随时随地可用。

Ollama 是一个开源平台，旨在简化和加速本地 AI 模型的部署和管理。它提供了一个简单的界面，使开发者能够轻松地在本地运行和配置多个 AI 模型，尤其适用于大语言模型（LLMs）。

Ollama 支持快速启动模型，并优化推理性能，允许用户在不依赖外部服务器的情况下进行高效的 AI 操作。它为开发者提供了灵活的环境，可以方便地进行模型集成、定制和性能调优。

下载完成后，您可以像安装任何其他应用程序一样，安装 Ollama 应用程序。安装成功后，接下来我们需要测试环境设置并下载模型。请按照以下步骤操作：

ollama run deepseek-r1

此命令将启动 DeepSeek-R1 模型的下载过程，并在本地环境中运行它。完成后，您就可以开始与模型进行交互，测试其性能和功能。

Ollama 提供一系列 DeepSeek R1 模型，从 1.5B 参数到完整的 671B 参数模型。671B 模型是原始的 DeepSeek-R1，而较小的模型是基于 Qwen 和 Llama 架构的提炼版本。

如果您的硬件不支持 671B 型号，您可以使用以下命令并将下面的 X 替换为您想要的参数大小（1.5b、7b、8b、14b、32b、70b、671b），轻松运行较小的版本：

ollama run deepseek-r1:Xb

为了让 DeepSeek-R1 持续运行并通过 API 提供服务，您需要启动 Ollama 服务器。在终端中执行以下命令：

ollama serve

该命令将启动 Ollama 服务器，使 DeepSeek-R1 在后台持续运行，并通过 API 提供访问。完成后，您就可以通过 API 调用与模型进行交互了。

下载并安装 DeepSeek-R1 模型后，您可以直接在终端中与模型进行交互。只需启动终端，并运行以下命令：

ollama chat DeepSeek-R1

这将启动一个交互式会话，您可以直接向 DeepSeek-R1 提出问题或请求，模型会实时返回答案或响应。您无需依赖外部服务，完全在本地进行交互，享受更快的响应速度和更高的控制性。

在这里插入图片描述

要将 DeepSeek-R1 集成到您的应用程序中，您可以使用 curl 通过 Ollama API 与模型进行交互。以下是如何使用 curl 调用 Ollama API 并与 DeepSeek-R1 进行集成的示例：

curl http://localhost:11434/api/chat -d '{
    
    
  "model": "deepseek-r1",
  "messages": [{
    
     "role": "user", "content": "Solve: 25 * 25" }],
  "stream": false
}'

在这个命令中：

localhost:11434 是本地 Ollama 服务器的默认地址和端口。
"model": "DeepSeek-R1" 指定了您希望使用的模型。
"question": "Your question here" 是您希望模型回答的问题，您可以根据需求替换为实际的问题内容。

通过这种方式，您可以将 DeepSeek-R1 集成到任何支持 HTTP 请求的应用程序中。

curl 是 Linux 原生的命令行工具，但也适用于 macOS。它允许用户直接从终端发出 HTTP 请求，使其成为与 API 交互的绝佳工具。

在这里插入图片描述

我们可以在选择的任何集成开发环境（IDE）中运行 Ollama。您可以使用以下代码安装 Ollama Python 包：

!pip install ollama

安装 Ollama 后，使用以下脚本与模型交互：

import ollama
response = ollama.chat(
    model="deepseek-r1",
    messages=[
        {
    
    "role": "user", "content": "Explain Newton's second law of motion"},
    ],
)
print(response["message"]["content"])