LLaMA-7B - 代码天地

LLaMA-7B

企业开发 2023-08-01 22:06:10 阅读次数: 0

NoSuchKey

猜你喜欢

转载自blog.csdn.net/qq_29788741/article/details/132009101

LLaMA-7B

MPT-7B：开源，商业可用，性能堪比LLaMA-7B的LLM新成员

大模型入局传统算法，LLMZip基于LLaMA-7B实现1MB文本压缩率90%！

SentencePiece：pieces、字节编码、Unicode字符【LLaMA-7b的分词器共32002个piece】【Chinese-LLaMA-Alpaca中文分词器共20000个piece】

Peft库使用技巧（一）：合并基座模型与Lora模型【使用Peft库微调基座模型（比如LLaMA-7B）后会得到Lora参数模块，将基座模型与Lora参数合并后才能得到完整的微调后的大模型】

LLaMA：7B参数量的Baby版ChatGPT窥探

打起来了~ 最小SOTA模型：Mistral 7B，各方面碾压LLaMA2 13B和LLaMA1 34B

通用多模态工具LLaMA-Adapter，微调7B模型只用单GPU！

Llama2-chat-7B 开源中文版强势来袭！

Llama2-Chinese项目：2.1-Atom-7B预训练

M2 Ultra 可并行运行 128 个 Llama2-7B 流

微软推出小模型 Phi-2，性能优于 Llama 2/Mistral 7B

超越边界：Mistral 7B挑战AI新标准，全面超越Llama 2 13B

LLMs之llama_7b_qlora：源代码解读export_hf_checkpoint.py(模型权重合并文件)将LORA模型的权重合并回原始模型的权重(hf_llama_model+llama_

一文就懂大语言模型Llama2 7B+中文alpace模型本地部署

chatgpt3.5权重参数有多少MB；llama7B权重参数有多少MB

LLaMA

微调 Llama-2 7B 模型以生成 Python 代码有关如何使用 PEFT、QLoRa 和 Huggingface 实用程序微调新 Llama-2 的演示

Mistral 7B 大型语言模型 — 小而强大（比 LLAMA2 13B 更好！）探索 Mistral 7B LLM 独特的架构以及 GGLU(CPU) 和 GPU 版本无与伦比的性能

足够惊艳，使用Alpaca-Lora基于LLaMA(7B)二十分钟完成微调，效果比肩斯坦福羊驼

大模型的实践应用15-Chinese-LLaMA2模型的介绍与部署运行测试，Atom-7B-Chat模型用多种方式流式打印文本

开源模型应用落地-qwen2.5-7b-instruct-LoRA微调-LLaMA-Factory-单机单卡-V100（十八）

LM Head weights；ChatGPT-3词汇量：175,000；llama7b 词汇量，词嵌入维度：4096

【AI实战】llama.cpp 量化部署 llama-33B

LLMs之llama_7b_qlora：源代码解读inference.py(基于合并后的权重文件进行模型推理)将基于之前合并Lora模型权重后的hl_llama_7b模型进行文本生成(基于用户交互输入

【AI实战】从零开始搭建中文 LLaMA-33B 语言模型 Chinese-LLaMA-Alpaca-33B

LLMs之llama_7b_qlora：源代码解读inference_qlora.py(模型推理)使用LORA权重来初始化预训练的LLAMA模型来进行文本生成(基于用户交互输入的上下文生成新文本)

【candle】（2）：使用hf-mirror镜像下载TheBloke/Llama-2-7B-GGML的q4_0.bin文件，并设置HF_HOME，example模块可以识别下载的模型

清华系2B模型杀出，性能吊打LLaMA-13B

使用 Docker 和 Alpaca LoRA 对 LLaMA 65B 大模型进行 Fine-Tune

今日推荐

周排行

TryParse的使用方法小结

Android之高仿手机QQ聊天

关于在java中关键字private能否用来修饰类的问题

去雾算法总结

前端面试题：事件防抖，函数节流，事件防抖和函数节流的区别

随堂小测

【OpenCV + Python】归一化函数cv2.normalize()的原理讲解

05: redis 主从复制

python3-基础5

持续更新-使用 Maven Module 搭建spring boot项目（整合Spring Security、Spring Social、spring OAuth）第一篇

每日归档

更多

2025-03-18(0)

2025-03-17(0)

2025-03-16(0)

2025-03-15(0)

2025-03-14(0)

2025-03-13(0)

2025-03-12(0)

2025-03-11(0)

2025-03-10(0)

2025-03-09(0)