LLM-大模型训练-步骤(一)：词表扩充【sentencepiece】 - 代码天地

LLM-大模型训练-步骤(一)：词表扩充【sentencepiece】

业界资讯 2023-06-25 04:59:09 阅读次数: 0

NoSuchKey

猜你喜欢

转载自blog.csdn.net/u013250861/article/details/131367953

LLM-大模型训练-步骤(一)：词表扩充【sentencepiece】

大模型词表扩充必备工具SentencePiece

LLM：SentencePiece（词表扩充必备工具）

LLM-大模型训练-步骤(三)：指令精调【Superviser Fine-Tuning】【中文指令语料】【训练方式与无监督学习一样】【指令语料样式：instruction+input+output】

LLM-大模型训练-常见错误：RuntimeError: expected scalar type Half but found Float

LLM-大模型训练-步骤(二)-预训练/Pre-Training(1)：全参数预训练(Full-Param Pre-Training)【对LLaMA等模型进一步全量参数预训练】【中文无监督学习语料】

LLM-大模型训练-步骤(二)-预训练/Pre-Training(2)：重参数式预训练(Part-Param Pre-Training)【Lora/ptuning...】【中文无监督学习语料】

LLM-项目详解-KnowLM：信息抽取大模型

大模型LLM-微调经验分享&总结

LLM-大模型演化分支树、GPT派发展阶段及训练流程图、Infini-Transformer说明

大语言模型之十二 SentencePiece扩充LLama2中文词汇

Llama2-Chinese项目：2.2-大语言模型词表扩充

使用自己的领域数据扩充baichuan模型词表（其他模型也一样）

大模型LLM训练的数据集

NLP-分词器：SentencePiece【参考Chinese-LLaMA-Alpaca在通用中文语料上训练的20K中文词表并与原版LLaMA模型的32K词表进行合并的代码】

中文LLaMa和Alpaca大语言模型开源方案 | 扩充中文词表 & 针对中文语料进行高效编码

训练大语言模型的步骤

大语言模型之十 SentencePiece

LLM大模型从入门到精通（4）--LLM大模型的预训练和微调

大模型训练加速(FlashAttention): 用于训练LLM的GPU加速的一个进展-PART2

LLM大模型训练Trick系列之拒绝采样

LLM - 大模型技术报告与训练细节 By Baichuan2

GPT实战系列-大话LLM大模型训练

大语言模型(LLM)综述(一)：大语言模型介绍

大模型(LLM)总结

大语言模型LLM

LLM：大语言模型

讲解GPU 训练大模型步骤

大语言模型(LLM)综述(三)：大语言模型预训练的进展

大语言模型(LLM)综述(四)：如何适应预训练后的大语言模型

今日推荐

周排行

ASP.NET MVC零基础自学篇：（二） ASP.NET MVC Web 应用程序

Linux中的NetworkManager网络管理

倍增ST应用选择客栈（提高组）

《沉思录卷六》不朽之誉不过一时虚幻

Linux根目录介绍

SVM真实数据集和多分类

Install SVN tool on redhat

nginx实现proxy_cache

HDU 5583 Kingdom of Black and White

深入扒 HashMap 源码 - 6.2 HashMap 内部类 TreeNode

每日归档

更多

2025-01-30(0)

2025-01-29(0)

2025-01-28(0)

2025-01-27(0)

2025-01-26(0)

2025-01-25(0)

2025-01-24(0)

2025-01-23(0)

2025-01-22(0)

2025-01-21(0)