CodeFuse发布34B-4bit单卡4090可部署模型 - 代码天地

CodeFuse发布34B-4bit单卡4090可部署模型

移动开发 2023-10-20 17:11:04 阅读次数: 0

NoSuchKey

猜你喜欢

转载自my.oschina.net/u/6942768/blog/10120451

CodeFuse发布34B-4bit单卡4090可部署模型

CodeFuse-CodeLlama-34B基座大模型对KSQL支持效果的调研报告

TensorRT-LLM在CodeFuse-CodeLlama-34B上的int4量化实践

Mistral联合英伟达开源12B小模型：碾压Llama 3，单张4090可跑

4090显卡上部署 Baichuan-13B-Chat

猎户星空发布Yi-34B微调模型：OrionStar-Yi-34B-Chat的优势探析

陈丹琦团队新作：单卡A100可训300亿参数模型啦！

RTX 4090深度学习性能实测奉上！模型训练可提升60~80%

中文能力赶超GPT4模型ChatGLM2-6B最新发布，教你使用 CPU 本地安装部署运行实现

蚂蚁CodeFuse-13B代码专用大模型开源；夫子·明察司法大模型、MindChat 心理大模型等项目多个新模型版本开源

CodeFuse开源ModelCache大模型语义缓存

PaddlePaddle学习之使用PaddleDetection在树莓派4B进行模型部署（三）--- 树莓派4B部署

torch多卡模型转单卡

70 亿参数大语言模型 RedPajama 7B 完整版发布，开源可商用

截至目前最强的70亿参数大语言模型：开源可商用的RedPajam 7B完全版发布！

陈丹琦团队提出低内存高效零阶优化器MeZO，单卡A100可训练300亿参数模型

RKNN模型部署（4）—— 模型部署

CodeFuse-MFTCoder提升Qwen-14B代码能力

【ChatGLM】ChatGLM-6B模型Win+4GB显卡本地部署笔记

蚂蚁集团正式开源 CodeFuse 代码大模型

CodeFuse - 蚂蚁集团开源代码大模型

Meta发布快速训练框架24小时可训练出7B模型；微软bitnet.cpp刷屏用CPU进行大模型推理

开源模型应用落地-qwen2.5-7b-instruct-LoRA微调-LLaMA-Factory-单机单卡-V100（十八）

GPT-4发布：多模态大模型，AI能力再度进化，可识别图像内容

PaddlePaddle学习之使用PaddleDetection在树莓派4B进行模型部署（二）--- 深度学习模型训练

蓝绿部署、A/B 测试和云雀发布

B - Bit++

MistralAI发布全球首个MoE大模型-Mixtral 8x7B，创新超越GPT-4

NVIDIA发布Nemotron-70B-Instruct，超越GPT-4o和Claude 3.5的AI模型

【Yi-34B-Chat-Int4】使用4个2080Ti显卡11G版本，运行Yi-34B模型，5年前老显卡是支持的，可以正常运行，速度 21 words/s，vllm要求算力在7以上的显卡就可以

今日推荐

周排行

对话吴恩达：为什么说制造业会是首个聚焦AI转型的行业？

linux常用命令速记

js实现input框添加移除属性

软件项目常见风险及其预防措施

JAVA 最全JAR包集合仓库

JS计时操作完成的时间

解决layui table方法渲染时时间格式问题

IIC通讯之TM1650

Python3中的输入输出

Spring Boot 2.0 利用 Spring Security 实现简单的OAuth2.0认证方式2

每日归档

更多

2025-02-13(0)

2025-02-12(0)

2025-02-11(0)

2025-02-10(0)

2025-02-09(0)

2025-02-08(0)

2025-02-07(0)

2025-02-06(0)

2025-02-05(0)

2025-02-04(0)