【ChatGLM3】(9):使用fastchat和vllm部署chatlgm3-6b模型,并简单的进行速度测试对比。vllm确实速度更快些。 业界资讯 2023-12-18 01:14 0 阅读 NoSuchKey 猜你喜欢