深度学习学界业界进展调研

版权声明：本文为博主原创文章，未经博主允许不得转载。 https://blog.csdn.net/lanchunhui/article/details/81603982

0. 端到端

• 数据集构建（数据集的缺乏对于大规模深度神经网络的训练是一个很严重的问题）
  
  • 特征工程：
• 优化算法
  
  • ADMM：Alternating direction method of multipliers (ADMM)
• 模型评价
  
  • Precision，Recall，F1-Score
  • AUC，ROC

1. 文本与自然语言处理

• 深度文本匹配：
  
  • 表示型（Representation-Based）：DSSM
  • 交互型（Interaction-Based）：ARC-II

2. 计算机视觉

• CNN
  
  • 水平卷积，垂直卷积；

3. 推荐系统

涉及subject：用户画像

• Wide & Deep Learning for Recommender Systems

4. 开源平台与 toolkit：

• LIME：模型及其预测结果可解释性：
  
  • Local Interpretable Model-agnostic Explanations
• MatchZoo: A Toolkit for Deep Text Matching（Python）
• ExploreKit：Automated Feature Generation and Selection（自动特征生成与选择，Java（Weka））
• AutoML
  
  • AutoML Vision：
    
    • IMAGES => Train => Evaluate => Predict

5. 业界工程问题

• 非平衡数据
  
  • 投诉用户；

6. 商业场景

• 运营商通信箱单（CDR）
  
  • modeling the temporal nature of human behavior for demographics prediction

7. misc

• benchmark 数据集：

  • GitHub - zalandoresearch/fashion-mnist: A MNIST-like fashion product database. Benchmark