nnet1训练用到的技术:
- 每一层进行预训练,基于RBMs(受限玻尔兹曼机)
- 以一帧为单位进行交叉熵训练
- 序列鉴别性训练准则,MMI准则用来lattice框架,以sMBR准则作为优化目标
- 使用早停止
系统是建立在LDA-MLLT-FMLLR特征(从辅助的GMM模型中得到)之上的,训练要用到GPU+CUDA。
LDA(Linear Discriminant Analysis 线性判别分析)
MLLT(Maximum likelihood linear translation最大似然线性变换)
FMLLR(feature-space maximum likelihood linear regression 特征空间最大似然线性回归)
VTLN(vocal tract length normalization,声道长度归一化)
FMLLR和VTLN用于解决说话人的多样性。