AnythingLLM的局域网发布

AnythingLLM的局域网发布

AnythingLLM api的本地:http://localhost:3001/api/docs/

下面将AnythingLLM 部署到局域网

  1. 添加端口3001的入站规则

  2. 禁止两个AnythingLLM

  1. AnythingLLM在系统中打开Enable network discovery(网络发现)

  1. 配置对应的模型url

用本地ip正常访问

71441712)]

用本地ip正常访问

文本嵌入模型的使用

特性 Nomic-Embed-Text:latest DeepSeek
模型类型 文本嵌入模型 语言生成模型
主要用途 生成文本嵌入向量,用于检索、分类、聚类等 生成自然语言文本,用于问答、文本生成等
上下文长度 8192 通常较短(具体取决于版本)
模型大小 278MB 规模较大(如 deepseek-r1:1.5b)
资源消耗 相对较高
开源性 完全开源 不一定(取决于具体版本)
适用场景 需要高效文本嵌入和检索的场景 需要高质量文本生成的场景

请添加图片描述