大模型api调用

通义千问

from http import HTTPStatus
import dashscope
import time


# 设置 API 密钥
dashscope.api_key = '你的api_key'  # 替换为您的实际 API 密钥
# api_key链接:https://dashscope.console.aliyun.com/apiKey?spm=a2c4g.11186623.0.0.33d717d9BsnfHi

def call_with_messages():

    qa = 'user: 你好\nassistant: 您好,有什么可以帮助您的?\nuser: 我最近发现身上有个淋巴囊肿。\nassistant: 请问这个淋巴囊肿有什么症状吗?比如疼痛、发热或其他不适?\nuser: 目前没有明显的不适,只是摸起来有点硬。\nassistant: 了解了。您需要去看外科,建议您尽快去医院进行详细检查。'
    
    prompt = f"""## 任务描述
    这是一个根据对话总结对话摘要(用户需求)的任务。
    ## 参考样例
    对话:
    user: 你好
    assistant: 有什么可以帮您?
    user: 我肚子有点疼
    assistant: 还有别的症状吗?
    user: 没有了。我要看什么科?
    ## 注意事项
    预问题以了解用户需求为主,当明确得知用户需求即可停止!
    样例仅供参考,不能生搬硬套,要注意生成内容的多样性!
    对话摘要:我肚子疼挂什么科?
    ## 对话
    {qa}
    ## 总结对话摘要"""

    start = time.time()

    messages = [
        {'role': 'user', 'content': prompt}]
    response = dashscope.Generation.call(
        'qwen2.5-1.5b-instruct',
        messages=messages,
        result_format='message',  # set the result is message format.
    )
    if response.status_code == HTTPStatus.OK:
        print(response)
    else:
        print('Request id: %s, Status code: %s, error code: %s, error message: %s' % (
            response.request_id, response.status_code,
            response.code, response.message
        ))
    print(time.time() - start)

if __name__ == '__main__':
    call_with_messages()

文心一言

import os
import qianfan

#【推荐】使用安全认证AK/SK鉴权,通过环境变量初始化认证信息
# 替换下列示例中参数,安全认证Access Key替换your_iam_ak,Secret Key替换your_iam_sk
os.environ["QIANFAN_ACCESS_KEY"] = "自己的"
os.environ["QIANFAN_SECRET_KEY"] = "自己的"

chat_comp = qianfan.ChatCompletion()

# 指定特定模型
resp = chat_comp.do(model="ERNIE-Speed-128K", temperature=0.001
                    , messages=[{
    
    "role": "user",
    "content": "使用一句话对问题与答案中的内容进行总结,使用中文总结,小数保留两位小数, 并添加相应的单位,其中碳排放单位为吨,里程单位为公里,如果存在'这锂换电',其为专有名词,并仅根据答案中的的内容回答, 问题: 苍南县有多少骑手?, 答案: 319"
}])

print(resp["body"]['result'])

在https://console.bce.baidu.com/iam/#/iam/accesslist获取Access Key和Secret Key

参考:
https://cloud.baidu.com/doc/WENXINWORKSHOP/s/6ltgkzya5
https://blog.csdn.net/langzitianya/article/details/139153903