百川2 初次体验

下载并安装ModelScope library

更多关于下载安装ModelScope library的问题参考环境安装。

pip install "modelscope[audio,cv,nlp,multi-modal,science]" -f https://modelscope.oss-cn-beijing.aliyuncs.com/releases/repo.html

模型加载和推理

更多关于模型加载和推理的问题参考模型的推理Pipeline。

from modelscope.pipelines import pipeline from modelscope.utils.constant import Tasks p = pipeline('text-generation', 'baichuan-inc/Baichuan2-13B-Chat')