有时您需要在 Linux 环境中运行模型。然而,你最强大的 GPU 正在运行 Windows,你不想用 Linux 替换整个系统,以及那些哦,那些游戏。
WSL2 是一个很好的选择,平衡了 Windows 和 Linux 之间的差距。然而,当我撰写这些文章时,很少有关于如何使 CUDA 和 PyTorch 在 WSL2 中运行 LLM 和稳定扩散的文章或讨论。经过一番努力和测试,我找到了一种在启用 CUDA 和 PyTorch 的情况下在 WSL2 中运行所有大型 AI 模型的方法。最重要的部分:
以下是我在启用 CUDA 的情况下设置 WSL2 的步骤。
先决条件
您必须已经在 Windows 中安装了所有 CUDA 驱动程序,并且可以在安装了所有必要组件的情况下使用 CUDA 顺利运行 AI 模型。
此先决条件背后的原因是 WSL2 将使用 Windows 的 CUDA 驱动程序。
步骤 1. 启用适用于 Linux 的 Windows 子系统
在 Windows 终端中
dism.exe /online /enable-feature /featurename:Microsoft-Windows-Subsystem-Linux /all /norestart
或者
转至控制面板 -> 程序 -> 打开或关闭 Windows 功能。然后检查“Linux 的 Windows 子系统”
步骤 2. 安装 WSL2
在终端中&#x