[环境工具] 搭建OPENAI API访问环境

关键词：openai api连接

目的：在非GUI环境的Linux服务器搭建OPENAI API访问环境。

系统环境：x86_64, centos7.9，clash

下载系统环境对应的clash安装包后进行解压

# https://github.com/Dreamacro/clash/releases/download/v1.15.1/clash-linux-amd64-v1.15.1.gz
gzip -d clash-linux-amd64-v1.15.1.gz
mv clash-linux-amd64-v1.15.1.gz clash
chmod +x clash

建立配置文件夹，并复制有效代理的配置文件到配置文件夹

mkdir config
# 从本地机器拷贝到服务器上，可以使用scp，然后再放到config中，默认端口7890
mv Country.mmdb ./config/
mv NETV2.yaml ./config/config.yaml
# 详细配置字段参考 https://github.com/Hackl0us/SS-Rule-Snippet/blob/main/LAZY_RULES/clash.yaml

安装proxychains工具并配置用于连接代理

#centos安装proxychains
sudo yum install proxychains-ng

#ubuntu安装proxychains
sudo apt-get install proxychains

#修改对应的配置文件增加ProxyList项
vi /etc/proxychains.conf

#### proxychains.conf配置文件内容
[ProxyList]    #对应到cls配置中的端口 mixed-port: 7890
socks4  127.0.0.1 7890
socks5  127.0.0.1 7890
http    127.0.0.1 7890

启动服务并进行测试

./clash -d config &> cls.log &
proxychains curl -vv google.com

使用Dashboard进行管理（yacd开源工具）

sudo yum install npm
npm i -g pnpm
git clone https://githhaishanh/yacd
cd yacd
pnpm i
pnpm build
#pnpm start --host localhost --port 7899
# 指定localhost具体IP
pnpm start --host 192.168.1.11 --port 7899

在浏览器中输入192.168.1.11:7899就可以对clash进行可视化配置管理啦。
在这里插入图片描述

openai api demo

将openai api key设置为环境变量export OPENAI_API_KEY=<My PAI Key>
openai api key：https://platform.openai.com/account/api-keys

# encoding=utf-8
# 创建openai调用接口
import os
import openai

openai.api_key = os.getenv("OPENAI_API_KEY")

# 部署cls环境的服务器IP与Port
openai.proxy = {
    
    
'http': 'http://127.0.0.1:7890',
'https': 'http://127.0.0.1:7890'
}
openai.Model.list()

# 生成openai调用接口
class OpenAI_API(object):
    def __init__(self, api_key):
        self.api_key = api_key

    def get_response(self, prompt, max_tokens=5, temperature=0.9, top_p=1, frequency_penalty=0.0, presence_penalty=0.0, stop=["\n", " Human:", " AI:"]):
        response = openai.Completion.create(
            model="text-davinci-003",
            prompt=prompt,
            max_tokens=max_tokens,
            temperature=temperature,
            top_p=top_p,
            frequency_penalty=frequency_penalty,
            presence_penalty=presence_penalty,
            stop=stop
        )
        return response

# 主入口
if __name__ == '__main__':
    # 初始化openai调用接口
    openai_api = OpenAI_API(os.getenv("OPENAI_API_KEY"))
    # 打印openai调用接口
    prompt = "The following is a conversation with an AI assistant. The assistant is helpful, creative, clever, and very friendly.\n\nHuman: Hello, who are you?\nAI: "
    result = openai_api.get_response(prompt, max_tokens=150)
    
    print(result)
    print(result.choices[0].text)
# 或者以Mac为例，在```网络偏好设置--网络--高级--代理```中配置服务地址和端口

如果出现如下异常，是因为免费配额超限了，可以尝试更换个模型，具体见rate-limits
openai.error.RateLimitError: You exceeded your current quota, please check your plan and billing details.

参考：
https://zhuanlan.zhihu.com/p/366589407

-------- END --------

[环境工具] 搭建OPENAI API访问环境

openai api demo

猜你喜欢