一、前言
在上一篇教程中,我们教了大家如何使用Nginx的反向代理为SillyTavern套上了域名。使得我们在外网中访问SillyTavern服务变得轻松了许多。SillyTavern因为其简单的配置以及优秀的角色扮演特性深受开源爱好者以及二次元人群的喜爱,那么本次教程,就来教大家如何安装和配置SillyTavern以及如何进行角色扮演。如果你准备好了,就让我们开始吧!
二、谁适合本次教程
本次教程是面向纯小白了,所以不管你有没有编程或者是运维基础,都可以阅读本次教程并且完成相关操作。下文中提到的操作都是一些非常简单且常规的操作,可能引发的问题我也会在文章中提到。如果你遇到了无法解决的问题,可以在私信或者评论区中向我提问。本次教程会提供Windows和Linux两种操作系统的安装教程,大家根据自己的情况进行选择。顺带一提,本次教程中可能会用到一些国际联网的环境,所以还请大家确保自己的网络环境没有问题。准备好以上以后,就让我们开始吧!
三、SillyTavern的安装
1.SillyTavern项目代码下载
这里在开始安装之前,我们先前往SillyTavern的开源主页下载SillyTavern的开源代码。这里我们可以直接在浏览器中搜索SillyTavern:
这里我搜索到的第一个就是SillyTavern的开源主页了:
当然,你也可以点击下方的链接前往:
SillyTavern开源主页:GitHub - SillyTavern/SillyTavern: LLM Frontend for Power Users.
这里因为是GitHub,有的小伙伴可能会打不开,可以尝试更换别的网络或者是使用一些正向代理手段。当然,后面涉及到从GitHub下载资料的部分我也会放在网盘中。
打开SillyTavern的开源主页,我们就能看到如下的界面了:
我们这里点击“code”下载源代码:
随后点击“Dowsload ZIP”表示下载代码的压缩文件:
点击以后,过一会儿浏览器就会自动弹出下载了,大家将其下载到自己能找到的地方即可:
下载以后,就得到了以下文件:
至此,我们的SillyTavern源码压缩包就下载完成了,不管是在windows中还是在Linux中部署SillyTavern都需要这个源码压缩包,所以,进行后面步骤的前提就是下载好SillyTavern的源码压缩包。如果有小伙伴打不开GitHub也可以从下方我的网盘进行下载:
SillyTavern下载:https://pan.baidu.com/s/19Da-nBEPhVrnYuIIXZfizQ?pwd=clxm 提取码: clxm
1.windows下安装SillyTavern
这里我们首先将压缩包解压,得到以下文件夹:
这里我们先不着急打开这个文件夹,因为SillyTavern依赖于Nodejs运行,所以我们这里需要先在windows中安装Nodejs。我们这里可以直接在浏览器中搜索Nodejs:
这里搜索到的第一个就是Nodejs的官网了:
当然,可以通过下方的链接前往:
Nodejs官网:Node.js — 在任何地方运行 JavaScript
进入官网以后,就能看到下面的页面了:
因为在SillyTavern的开源页面中,建议我们使用最新的LTS版的Nodejs:
所以,我们直接在Nodejs的官网中,点击“下载Node.js(LTS)”按钮,下载的Nodejs就是最新版的Nodejs:
点击了下载按钮以后,过一会儿浏览器就会弹出下载:
这里大家同样将其下载到自己能找到的地方即可:
下面我们双击这个.msi的文件打开安装引导程序:
启动以后,就能看到安装引导界面了:
这里我们首先点击“Next”:
随后点击勾选同意许可,再点击“Next”:
随后选择安装的位置,再点击“Next”:
随后下面还是点击“Next”:
下面同样是,什么也不动,点击“Next”:
随后点击“Install”就开始安装了:
这里大家等待进度条走完即可:
当出现这个界面时,表示我们的Nodejs就已经安装完成了,大家将窗口关闭即可:
下面我们回到我们一开始解压了的文件夹中,我们可以看到如下文件:
这里我们往下滑,找到“Start.bat”并双击启动:
在启动以后,会弹出一个黑窗口,这里会下载和安装一些东西,大家耐心等待即可:
当全部加载完以后,就会开始加载项目代码,窗口中会弹出访问的地址,软件会自动打开浏览器并为你访问服务页面:
当我们不想运行时,直接将运行的窗口关掉就行。
至此,我们在windows中安装SillyTavern就已经完成了。
2.Linux下安装SillyTavern
在Linux下安装SillyTavern步骤与windows中大同小异,这里使用宝塔面板来安装SillyTavern所需的Nodejs的环境。这里我们去到宝塔面板的官网,可以直接在浏览器中搜索:
这里同样的搜索出来的第一个就是宝塔面板的官网了:
当然,大家同样可以点击下方的链接前往:
宝塔面板官网:宝塔面板 - 简单好用的Linux/Windows服务器运维管理面板
进入宝塔面板的官网以后,就可以看到宝塔面板官网的主页了:
下面再点击“立即免费安装”:
随后我们再点击Linux面板下的“立即安装”:
这里大家根据自己的系统将命令复制到终端中执行即可:
回车后,脚本会自动安装宝塔面板,中间可能会出现选项,这里全部选y即可:
当出现宝塔面板登录信息时,就表示宝塔面板已经安装完成了:
这里我们输入下方的命令来修改宝塔面板的登录密码,这里大家不一定要和我一样,如果你的宝塔面板暴露在公网中,请务必设置强密码:
sudo bt 5
注意,这里输入命令前提是在宝塔面板已经成功安装后,不然会提示找不到命令。
我们再输入下面的命令来修改宝塔面板的用户名,这里同样的大家自定义就行:
sudo bt 6
修改完以后,我们可以使用下面的命令再次查看宝塔面板的地址:
sudo bt 14
这里因为我就在内网中,所以我直接使用内网面板地址来访问宝塔面板。如果这里访问时提示不安全就点击高级:
随后点击继续访问即可:
随后就来到了宝塔面板的登录主页了,大家用刚才设置的账号密码登录即可:
登录成功以后,会让我们同意协议,这里需要将协议滑到最下面才能打勾,同意协议之后点击“进入面板”:
首次进入,宝塔面板会让我们绑定宝塔账号,这里如果没有账号的话就注册一个:
登录进入以后,宝塔面板会让我们选择要安装的环境,这里我们不需要这些环境,直接点击右上角的“X”即可:
至此,我们的宝塔面板就安装完成了。
下面我们来安装Nodejs,我们直接点击“软件商店”:
我们直接在搜索框搜“node”:
我们这里会搜索到Nodejs版本管理器我们安装即可:
在安装完成以后,可以在“已安装”中找到:
下面我们点击Nodejs版本管理器的设置:
这里我们在下拉框中选择“只显示LTS版本”:
这里我们可以看到非常多的稳定版,但是这里的最新版只是14,但是官方已经更新到22了,所以我们需要更新一下版本列表,我们直接点击“更新版本列表”:
这里如果更新不成功,可以考虑换一个源,总有一个源能够更新成功:
这里我们选择22.12.0的版本点击“安装”:
当出现可操作模块以后,就表示已经安装完成了:
后面还需要配置一下Nodejs的环境变量。这个我们后面再讲。现在我们还需要将SillyTavern的源码上传到Linux中。
下面我们点击宝塔面板中的“文件”:
随后,在宝塔面板的文件管理中,将路径切换到root目录下,注意这里是root目录,因为我们后面为了避免错误,需要使用root用户进行操作:
随后点击“下载”:
随后点击“上传文件”:
选择到源码压缩包以后点击“开始上传”:
随后我们对压缩包右键选择加压:
解压完成以后,我们回到终端中,这里我们需要中终端中做两件事。首先就是添加Nodejs的环境变量,其次就是开放终端的root登录权限。
我们首先来添加环境变量,我们点击Nodejs的环境变量:
这里的“prefix”对应的路径就是我们要添加的环境变量:
我们在终端中输入下面的命令来打开配置文件:
sudo nano /etc/profile
这里要注意,这里的文件用于配置系统环境变量,所以必须要加“sudo”。如果你使用的是非Ubuntu的系统,可能配置文件放的地方不一样,可以根据自己的系统进行搜索。
这里打开配置文件以后,我们在配置文件的最下面添加如下语句:
export PATH=$PATH:/www/server/nodejs/v22.12.0/bin
前面的内容都是固定的,这里的“/www/server/nodejs/v22.12.0/”是我们在宝塔面板中看到的,我们还需要再后面加上一个“bin”,这里大家注意,前面的内容可能会因为安装的Nodejs版本不同而不同,大家请填写自己的路径并且在最后加上“bin”:
这样我们的环境变量就算是添加完成了,这里我们需要关闭原来的终端,重新打开一个终端并且登录到Linux。登录以后我们直接在终端中输入“node”,如果收到和我下面一样的返回值就代表nodejs和环境变量都添加成功了:
现在我们再来开放终端的root登录权限,之前也提到了我们需要用root用户登录Linux的终端。这里我们需要开放登录权限和修改root用户密码。我们首先来修改root用户密码,直接在终端中输入下面的命令就能重置root的密码:
sudo passwd root
这里改密码就不多说了,大家自行输入自己能记住的密码。
下面我们来开放权限,这里需要修改ssh的配置文件,我们使用下面的命令打开配置文件:
sudo nano /etc/ssh/sshd_config
这里往下滑找到“PermitRootLogin”这一行,我们要将这一行前面的“#”去掉,随后再将后面的内容改为“yes”,修改完以后就是下面这样:
在结束以后需要重启一次Linux,这里一定要重启一次。随后就可以用root用户直接登录了:
登录完成以后,我们直接切换到项目文件夹:
我们输入下面的命令启动项目,这里一定要在项目目录下输入下面的命令:
./start.sh
回车以后会卡在这里,因为会下载一些必要的依赖项,不会太久:
当程序运行完以后,就会出现访问的地址了:
这里我们还要将SillyTavern对应的端口打开,我们回到宝塔面板中,点击“安全”:
再点击“添加端口规则”:
这里我们直接输入8000,点击确定即可:
下面是一个地址加端口号的形式来访问,我们可以直接使用Linux的地址加上端口号访问服务,这里我Linux的地址为“192.168.18.1”,所以我直接访问“192.168.18.1:8000”即可:
是的,现在访问是访问不到的,因为SillyTavern为了安全起见,只开放了本机访问,这里我们要开放外部访问必须要修改一下配置文件。这里我们回到终端中,可以在SillyTavern的项目文件夹中找到一个名为“config.yaml”的文件,这就是我们的配置文件了。使用下面的命令来修改这个文件:
nano config.yaml
这里我们需要将“listen”项改为true。将“127.0.0.1”这一行改为“0.0.0.0/0”这里的“/0”是必须的:
修改完以后,我们保存配置文件并且再次启动服务:
再次访问,我们发现已经可以访问到了:
至此,我们在Linux上部署SillyTavern就已经完成了。
四、SillyTavern的基本配置
当我们部署完SillyTavern以后,如何导入API并且进行对话呢?下面我就来教大家如何配置SillyTavern。使SillyTavern拥有最基本的对话功能。
为了避免麻烦,我们这里选择国内免费的GPT转发,因为现在SillyTavern已经支持自定义url了,也就是说只要一个接口支持GPT接口规范,能够像调用GPT的接口那样调用那么这个接口就可以为SillyTavern所用。我们可以直接在浏览器中搜索“免费GPTAPI”,往下滑就能找到一些公益接口:
我这里随便找了一个,大家也可以和我用一样的。
免费GPT接口:
进入以后,我们首先点击“申请内测免费key”:
这里申请时可能需要大家登录一下GitHub账号,随后就能直接申请到了:
这个key大家将其复制并且保存好。
我们回到之前的网页中,就是刚点进来的网页,我们往下滑就可以找到调用的url了:
我们再次回到SillyTavern中,点击插头图标对接口进行配置:
这里我们选择聊天补全,并且选择“兼容GPT接口”:
然后将url和key都填入对应的位置,这里的url后面要加上一个“v1”,看图中和我一样就行。
随后选择模型,不知道选择什么模型的话,选择和我一样的就行。
选择完成以后点击“连接”,如果出现“Valid”就表示API配置成功了。如果出现别的比如模型找不到之类的就要根据具体情况进行排查了。仔细检查url有没有写对,url后面有没有加v1,模型有没有填好等。
随后,我们点击如图所示的图标去到聊天界面:
这里有一张默认的人物卡:
点击就可以对其进行对话了,能够正常返回内容就表示所有的配置都没问题:
至此,我们SillyTavern的配置就已经完成了。
五、结语
本次教程中,教了大家如何在windows和Linux中部署SillyTavern以及完成最基本的配置。当然SillyTavern的强大远不止于此,剩下的功能就交给大家自行探索吧!最后,感谢大家的观看!