人脸识别2-飞桨大规模分类库(PLSC)核心技术解读

大规模分类模型目录
在这里插入图片描述
定义
在这里插入图片描述
训练与推理
在这里插入图片描述
类中心和余弦相似度
在这里插入图片描述
数据并行,每太机器的模型一致
在这里插入图片描述
官方大规模分类库,最好直接去跑一跑
在这里插入图片描述
模型并行,把FC的参数切分到不同的卡,模型参数一个机器放不下,其他的模型参数还是数据并行
在这里插入图片描述
模型并行计算loss
在这里插入图片描述
优化器存储参数
在这里插入图片描述
logits参数过大
在这里插入图片描述
解决梯度存储问题
在这里插入图片描述
节省存储,ft32变ft16
在这里插入图片描述
特性设计总结
在这里插入图片描述
API支持
在这里插入图片描述
模型库,模块化设计
在这里插入图片描述
模型并行配置
在这里插入图片描述
配置
在这里插入图片描述
稀疏梯度更新
在这里插入图片描述
FP16训练
在这里插入图片描述
精度结果
在这里插入图片描述
吞吐量
在这里插入图片描述
最大类别支持数
在这里插入图片描述
全流程解决方案
在这里插入图片描述
训练和在线验证
在这里插入图片描述
落地应用
在这里插入图片描述

猜你喜欢

转载自blog.csdn.net/qq_15821487/article/details/125072687
今日推荐