Dans les méthodes d'apprentissage machine pour trouver la fonction objective ou une fonction approximative en apprenant les données de formation est un moyen d'apprentissage inductif. l'apprentissage inductive est l'apprentissage par exemple pour trouver un moyen de droit général, ce qui est précisément le problème apprentissage automatique à résoudre. Modèle universel fait référence à un modèle d'apprentissage de la machine est bon ou mauvais pour la pertinence ou l'exactitude de la prédiction de nouvelles données. L'objectif de l'apprentissage de la machine est de rendre le modèle obtenu en apprenant une bonne polyvalence, de sorte que les nouvelles données pour faire des prédictions précises. Dans la pratique, cependant, le modèle d'optimisation tend à réduire la polyvalence du modèle, car le processus d'optimisation est d'améliorer la précision du modèle d'apprentissage par les données de formation, et d'accroître la polyvalence du modèle est d'améliorer l'applicabilité du modèle aux nouvelles données. Par conséquent, a antagonisme inhérent entre les deux.
Lorsque la phase de formation vient de commencer, avec le modèle de valeur pour la perte de données de formation (valeur de la perte) gouttes, le modèle est en baisse pour la perte de valeur des données de test. Ce modèle est appelé lorsque vous êtes dans l'état « moins bon » (de underfitting), parce que votre modèle est également susceptible de continuer à apprendre dans les données de formation associées au nouveau modèle, donc le taux de précision de la prédiction du modèle est également susceptible de continuer à augmenter être. Mais pour un certain temps, après la phase de formation après quelques itérations, la polyvalence du modèle est plus continuer à améliorer la précision des prédictions du modèle pour commencer à se stabiliser ou même commencé à diminuer, cette fois le modèle a commencé à entrer dans le « surapprentissage » (surapprentissage) entre les Etats, parce que le modèle a commencé à apprendre les modèles uniques dans les données de formation, et ces données prédictions du modèle de formation unique pour les nouvelles données ne aide.
La meilleure façon d'éviter surajustement modèle est d'obtenir plus de formation afin que le modèle de données pour apprendre, mais plusieurs fois nous ne pouvions pas obtenir plus de données, donc la prochaine fois un bon moyen est d'ajuster (modulent) vous pouvez modéliser des informations de condition restrictive de stockage ou les données stockées augmentation de modèle. La raison est très simple de le faire, parce que si un modèle peut stocker un nombre limité de modèles, le processus d'optimisation sera forcé de sélectionner le modèle de mémoire le plus important, le modèle le plus utile, ces modèles ont souvent une bonne polyvalence. Ce processus a un nom spécifique est « régularisation » (régularisation).