大规模分类模型目录
定义
训练与推理
类中心和余弦相似度
数据并行,每太机器的模型一致
官方大规模分类库,最好直接去跑一跑
模型并行,把FC的参数切分到不同的卡,模型参数一个机器放不下,其他的模型参数还是数据并行
模型并行计算loss
优化器存储参数
logits参数过大
解决梯度存储问题
节省存储,ft32变ft16
特性设计总结
API支持
模型库,模块化设计
模型并行配置
配置
稀疏梯度更新
FP16训练
精度结果
吞吐量
最大类别支持数
全流程解决方案
训练和在线验证
落地应用
人脸识别2-飞桨大规模分类库(PLSC)核心技术解读
猜你喜欢
转载自blog.csdn.net/qq_15821487/article/details/125072687
今日推荐
周排行