在启用 CUDA 的 WSL2 中运行 AI 模型,在 Windows 中为 LLM 和稳定扩散模型设置支持 CUDA 的 WSL2,而无需牺牲性能

有时您需要在 Linux 环境中运行模型。然而,你最强大的 GPU 正在运行 Windows,你不想用 Linux 替换整个系统,以及那些哦,那些游戏。

WSL2 是一个很好的选择,平衡了 Windows 和 Linux 之间的差距。然而,当我撰写这些文章时,很少有关于如何使 CUDA 和 PyTorch 在 WSL2 中运行 LLM 和稳定扩散的文章或讨论。经过一番努力和测试,我找到了一种在启用 CUDA 和 PyTorch 的情况下在 WSL2 中运行所有大型 AI 模型的方法。最重要的部分:

以下是我在启用 CUDA 的情况下设置 WSL2 的步骤。

先决条件

您必须已经在 Windows 中安装了所有 CUDA 驱动程序,并且可以在安装了所有必要组件的情况下使用 CUDA 顺利运行 AI 模型。

此先决条件背后的原因是 WSL2 将使用 Windows 的 CUDA 驱动程序。

步骤 1. 启用适用于 Linux 的 Windows 子系统

在 Windows 终端中

dism.exe /online /enable-feature /featurename:Microsoft-Windows-Subsystem-Linux /all /norestart

或者

转至控制面板 -> 程序 -> 打开或关闭 Windows 功能。然后检查“Linux 的 Windows 子系统”

在这里插入图片描述

步骤 2. 安装 WSL2

在终端中&#x

猜你喜欢

转载自blog.csdn.net/iCloudEnd/article/details/131729220