背景
AI服务器在内网，除了预先安装的python及docker等基本软件包外，别的一概没有。从零基于Llama-Factory搭建大模型微调环境。
在VMWare上搭一个同样服务器版本（例如centos）的虚拟机，用于联网下载依赖包；后续再拷贝过去。
docker
在运维同事打好docker镜像后，开发编写docker-compose单独起一个docker环境。在这里建议是以自己的名字命名文件夹下起docker，这样的话，docker-compose挂载的volume就比较干净，直接在自己名字的目录下。
docker-compose如下：
文件夹结构如下，这是我自己名字下的包文件：
虚拟环境venv
进入docker，基于python3默认的venv模块，单独起一个python虚拟环境，隔离包的依赖。
如下：
python -m venv apienv
激活环境：
source ENV_DIR/bin/activate