Le 30 octobre 2022, le lancement de ChatGPT a attiré l'attention du monde entier. Le fondateur de Microsoft, Bill Gates (Bill Gates), estime que "ChatGTP est aussi important qu'Internet". En tant que système d'intelligence artificielle, ChatGPT peut identifier avec précision l'intention de l'utilisateur, engager un dialogue avec les utilisateurs et fournir des informations et une assistance précieuses. ChatGPT a un grand potentiel d'application dans de nombreux secteurs, tels que l'éducation, la création, le service client, le support technique, etc. Depuis les années 1950, les humains recherchent et développent l'intelligence artificielle, espérant que les ordinateurs pourront simuler l'intelligence humaine, fournir des solutions automatisées pour résoudre des tâches complexes et enfin atteindre l'intelligence artificielle générale (AGI), qui peut apprendre et traiter l'intelligence artificielle pour n'importe quelle tâche. L'émergence de ChatGPT a fait naître l'AGI et est devenue une voie très prometteuse. La pierre angulaire de cette voie est le traitement automatique du langage naturel (TAL) basé sur l'apprentissage en profondeur.
Ces dernières années, avec la percée de l'apprentissage en profondeur dans le traitement du langage naturel, il a remplacé l'apprentissage automatique traditionnel et est devenu la méthode courante de traitement du langage naturel. Divers modèles et technologies d'apprentissage en profondeur pour le traitement du langage naturel ont été continuellement proposés, en particulier l'émergence du grand modèle de langage (large language model, LLM) et ChatGPT, et la recherche sur le traitement du langage naturel a explosé. Cependant, il est difficile de comprendre pleinement le traitement du langage naturel basé sur l'apprentissage profond, principalement pour les raisons suivantes :
Le traitement du langage naturel basé sur l'apprentissage en profondeur doit couvrir plusieurs domaines de connaissances, y compris le traitement du langage naturel, l'apprentissage automatique et l'apprentissage en profondeur, etc., et sa large couverture des domaines de connaissances rend l'apprentissage difficile.
Le traitement du langage naturel basé sur l'apprentissage en profondeur connaît un développement explosif. L'émergence continue de divers nouveaux modèles et technologies fait que les gens se sentent perdus quant à l'orientation et à la technologie de base de l'apprentissage.
Le traitement du langage naturel basé sur l'apprentissage en profondeur implique de nombreux concepts et modèles complexes, difficiles à expliquer clairement.
Bien qu'il existe déjà de nombreux livres sur le traitement du langage naturel sur le marché, il manque encore un livre d'introduction qui présente de manière exhaustive le traitement du langage naturel basé sur l'apprentissage en profondeur et qui soit facile à comprendre pour les difficultés d'apprentissage mentionnées ci-dessus. Par conséquent, nous avons publié Deep Learning in Natural Language Processing: From Word Representations to ChatGPT.
Ce livre se concentre sur les connaissances de base et les applications du traitement du langage naturel basé sur l'apprentissage en profondeur, plutôt qu'une introduction complète à tous les points de connaissance du traitement du langage naturel. Il vise à aider les lecteurs à bien comprendre et à construire l'arbre de connaissances de base du traitement du langage naturel basé sur l'apprentissage en profondeur pour un démarrage rapide. Une fois que les lecteurs ont saisi le contenu de base de l'arbre de connaissances (tronc et branches principales), ils peuvent auto-évaluer s'il vaut la peine d'apprendre avant d'apprendre de nouveaux détails de connaissances (feuilles). Ce livre fournira un guide ciblé pour aider les débutants à construire une base solide avant de plonger dans le domaine de la recherche sur le traitement du langage naturel.
L'auteur de ce livre possède une riche expérience de recherche théorique (juges de revues et de conférences sur le traitement du langage naturel (par exemple, ACL, EMNLP, KDD)) et une expérience pratique de première ligne (ingénieur senior de Dachang) dans le domaine de l'apprentissage en profondeur et du langage naturel. traitement. Il intègre ces précieuses expériences dans ce livre et le présente aux lecteurs d'une manière intuitive et facile à comprendre. Aidez les lecteurs à comprendre de manière complète et approfondie le traitement du langage naturel basé sur l'apprentissage en profondeur. Après avoir lu ce livre, un débutant peut avoir les réserves de connaissances pertinentes requises par un ingénieur en traitement du langage naturel dans une grande usine ou un étudiant diplômé en traitement du langage naturel dans une université.
Le livre a une structure claire, composée de plusieurs chapitres, chacun consacré à l'introduction et à la discussion d'un sujet clé. Le livre fournit non seulement une introduction complète à l'apprentissage en profondeur et au traitement du langage naturel, mais aborde également en profondeur les technologies clés et les domaines d'application de l'apprentissage en profondeur dans le traitement du langage naturel. Que vous soyez étudiant dans un établissement d'enseignement supérieur, universitaire ou ingénieur engagé dans la recherche sur le traitement du langage naturel, ou lecteur intéressé par les systèmes d'intelligence artificielle tels que ChatGPT, ce livre deviendra l'un de vos ouvrages de référence indispensables. En lisant ce livre, vous établirez une compréhension globale des bases théoriques et des compétences pratiques de l'apprentissage en profondeur dans le traitement du langage naturel, afin de mieux appliquer et promouvoir le développement du domaine du traitement du langage naturel.
De quoi parle ce livre
Tout d'abord, ce livre fournit une introduction complète et systématique aux bases du traitement du langage naturel basé sur l'apprentissage en profondeur. Les lecteurs apprendront les bases de l'apprentissage automatique, de l'apprentissage en profondeur et du traitement du langage naturel, y compris les algorithmes d'apprentissage automatique couramment utilisés, les fondements de l'apprentissage en profondeur, ainsi que les avantages et les défis de l'apprentissage en profondeur dans le traitement du langage naturel. Cette partie vise à aider les lecteurs à acquérir une compréhension de base de l'apprentissage en profondeur et du traitement du langage naturel, et à se préparer à l'étude des chapitres suivants.
Par la suite, le livre explore en profondeur le cadre de base et la technologie de l'apprentissage en profondeur dans le traitement du langage naturel, y compris la représentation des mots (par exemple, Word2Vec, ELMo, GPT, BERT et T5, etc.), le mécanisme d'attention, l'apprentissage par transfert et l'apprentissage par renforcement, etc. . Avec des explications détaillées et des exemples, il fournit une base pour une variété de tâches de traitement du langage naturel.
Ensuite, le livre se concentre sur les applications pratiques du traitement du langage naturel basé sur l'apprentissage en profondeur. L'auteur détaille les cas d'application de l'apprentissage en profondeur dans les principales tâches de traitement du langage naturel telles que la traduction automatique, la synthèse de texte, la réponse automatique aux questions, les systèmes de dialogue et l'analyse des sentiments. Chaque domaine d'application est équipé de cas pratiques détaillés et d'analyses pour aider les lecteurs à acquérir une compréhension approfondie des méthodes d'application, des stratégies d'optimisation et des effets réels de l'apprentissage en profondeur dans différentes tâches.
Enfin, le livre présente ChatGPT. Les chapitres précédents de ce livre sont très utiles pour comprendre ChatGPT. L'auteur présente en profondeur les technologies de base derrière ChatGPT, telles que les modèles de langage à grande échelle et les méthodes d'apprentissage par renforcement basées sur la rétroaction artificielle, ainsi que le processus de formation et de modélisation ChatGPT, et attend avec impatience le développement de ChatGPT.
cliquez pour agrandir l'image
Qui devrait lire ce livre
À propos de l'auteur
Lei Zhang
travaille actuellement dans Meta Company sur la recherche et le développement d'algorithmes d'apprentissage automatique. Docteur en informatique de l'Université de l'Illinois à Chicago, États-Unis, ses principaux domaines de recherche sont le traitement automatique du langage naturel, l'apprentissage automatique et l'exploration de données. Il a publié plus de 20 articles académiques dans des revues académiques et des conférences au pays et à l'étranger, a obtenu un certain nombre de brevets américains, est co-auteur de 4 livres sur l'exploration de données textuelles et l'informatique volumineuse, y compris Mining Text Data, et a été invité en tant que Expert de longue date en traitement automatique des langues, reviewer de revues internationales et membre de comité de programme de conférences internationales.
Grand café recommandé
