De nos jours, alors que les grands modèles ont montré des capacités de plus en plus puissantes en matière de programmation, de génération de code, de tests automatisés et dans d'autres domaines, une question qui suscite la réflexion s'est posée : les grands modèles finiront-ils par remplacer le travail des programmeurs ?
Certains pensent qu’aucun travail au monde n’est absolument sûr et que ce n’est qu’une question de temps avant que les machines remplacent les humains. De GitHub Copilot, ChatGPT au Tongyi Lingma national, divers outils alternatifs ont émergé les uns après les autres. L’IA fera de plus en plus, et les humains de moins en moins. Le PDG de Baidu, Robin Li, a déclaré un jour qu'il n'y aurait fondamentalement pas de profession de « programmeur » à l'avenir, car tant que tout le monde pourra parler, tout le monde aura la capacité d'être programmeur.
Mais d’autres ont un avis différent. Ils croient : « Les programmeurs bas de gamme disparaîtront et les programmeurs créatifs deviendront grands. » « La programmation reste la base et doit être apprise. Si vous ne comprenez pas le programme, il sera inutile, peu importe votre créativité. " Zhou Hongyi, PDG de 360, estime que l'enthousiasme pour les programmeurs ne faiblira pas d'ici dix ans. Bien que tout le monde utilisera des ordinateurs à l'avenir et que tout le monde soit programmeur, les produits créés par différentes personnes utilisant des ordinateurs sont complètement différents. L'ère de l'IA nécessite encore plus d'experts en informatique et de programmeurs, et ils peuvent être les plus bruyants de tous les domaines. de la vie. .
Alors, quelle est la situation réelle ? Quels emplois la technologie des grands modèles peut-elle remplacer et quel impact aura-t-elle sur la carrière des programmeurs ? En tant que programmeur ordinaire, comment devez-vous vous adapter aux changements ?
Dans le 12ème numéro [Open Source Talk], nous avons invité Yang Yanbo, responsable de la recherche sur les agents à l'iFlytek AI Engineering Institute, Sun Yishen, data scientist de l'équipe PingCAP AI Lab, et Ma Gong, ingénieur d'Infra, pour discuter de ce qui se passera avec le développement de grands modèles. Comment façonner le lieu de travail technologique du futur ?
Partager des invités :
Yang Yanbo
Il est responsable de la recherche sur les agents à l'iFlytek AI Engineering Institute et ingénieur R&D senior. Il aime l'open source et est responsable de la recherche sur la plate-forme de réglage fin des grands modèles (Maas) et des technologies liées aux agents.
Sun Yishen
PingCAP AI Lab Data Scientist Depuis la sortie choquante de ChatGPT, il s'est concentré sur l'exploration du développement d'applications LLM et multi-agents et d'autres directions d'application, a développé des applications telles que TiDB Bot et LinguFlow, et a participé au développement de la communauté AutoGen. .
hôte:
ouvrier équestre
Ingénieur Nordic Infra, responsable du compte public "Swedish Horseman". Invité régulier de "Open Source Talk".
01À quel stade en est le modèle actuel à grande échelle ? Quels emplois peuvent être remplacés ?
Ma Gong : Dans quelle mesure les grands modèles se sont-ils développés jusqu'à présent ? Jusqu’où en est le remplacement des programmeurs ? Quels produits fonctionnent déjà bien ? Peux-tu me dire quelque chose?
Yang Yanbo : Le sujet dont nous parlons aujourd'hui est de savoir si les grands modèles remplaceront les programmeurs. Examinons d'abord la définition des programmeurs. Wikipédia dit que les programmeurs faisaient initialement référence à de purs développeurs de logiciels, mais il est évident qu'aujourd'hui, les programmeurs ne font plus uniquement référence aux développeurs de logiciels et que leur travail ne se limite plus à l'écriture de code. Des tâches telles que l’écriture de scripts et les tests de logiciels pourraient être progressivement remplacées aujourd’hui. De nos jours, dans certains scénarios simples, tels que la traduction, le tri de documents et l'annotation de données, les grands modèles sont mieux utilisés avec certains frameworks d'agents. Les positions dans de tels scénarios sont relativement faciles à remplacer par de grands modèles.
Sun Yishen : Lorsque ChatGPT est sorti, c'était vraiment incroyable. C'était vraiment un coup dur en termes de réduction de dimensionnalité pour certaines applications d'IA précédentes. Cependant, après l'expérience de chacun, vous constaterez qu'il présente des points positifs, mais qu'il présente également de nombreux inconvénients. Pour un programmeur, s'il doit vraiment être utilisé en production, je ne regarde certainement pas son plafond, mais son niveau moyen, ou son résultat net, car c'est ce qui garantit votre service. La qualité est au centre de nos préoccupations.
Si vous le regardez maintenant, il ne peut faire que des choses relativement rudimentaires dans le champ de texte. Par exemple, il est meilleur pour résumer et comprendre la lecture, mais si vous voulez vraiment qu'il fasse une relation textuelle très avancée, il n'est pas très bon dans ce domaine, ou sa précision n'est pas si élevée.
En ce qui concerne le domaine des programmeurs, c’est en fait similaire. Il peut effectuer certaines tâches de base. Mais les travaux avancés, en théorie, ne possèdent pas la soi-disant capacité de raisonnement logique. La raison pour laquelle il semble avoir une capacité de raisonnement logique est que dans la plupart des cas, la logique est contenue dans la langue, tant que le texte appris est suffisamment bon, il contiendra naturellement une certaine logique. ne comprend pas vraiment cette chose elle-même. Si vous lui demandez vraiment de développer une chose très complexe, ou une chose très nouvelle, alors il ne sera pratiquement pas en mesure de le faire.
Ma Gong : Oui, Copilot m'a fourni quelques codes, qui sont très utiles et pratiques, mais il faut quand même les lire soi-même, sinon ce sera un désastre si vous les mettez. Mais si le patron me licencie, il devra alors examiner lui-même le code du copilote. Je pense qu'il pourrait tout aussi bien me demander de le consulter.
Là encore, vous avez dit qu'il ne pouvait pas faire de choses avancées, mais combien de choses avancées y a-t-il dans le travail quotidien d'un programmeur ? Peut-être que 99 % de notre travail concerne des tâches de bas niveau. Qu'en penses-tu?
Yang Yanbo : Le grand modèle lui-même contient certaines capacités atomiques, telles que le dialogue de base, certaines fonctions sur sa propre page, etc. Ce sont des méthodes d’utilisation relativement simples qui permettent de ressentir l’effet des grands modèles.
Pour les tâches plus complexes, nous utilisons généralement des API de grands modèles pour réaliser des applications plus avancées sur le client ou par programme. Le grand modèle dont nous parlons maintenant n'est pas seulement le développement de ses propres capacités atomiques, mais aussi le paradigme de programmation le plus populaire cette année, qui est le paradigme de l'agent. Cette pièce s'inscrit également dans l'élaboration de grands modèles. À l’avenir, les tâches complexes pourraient être davantage résolues par le concept d’agents intelligents. C’est mon point de vue.
Ma Gong : En quoi consiste exactement ce changement de paradigme ? Cela signifie-t-il que les programmeurs ne seront plus nécessaires pour écrire du code, tester, appliquer, puis déployer dans l'environnement de production à l'avenir, ou... ?
Yang Yanbo : Laissez-moi vous donner un exemple. Dans le monde réel, lors du développement d'un projet, il y a souvent un chef de projet, un chef de projet, un responsable du développement et des tests, du déploiement de l'exploitation et de la maintenance, ainsi que d'autres rôles divers, qui travaillent ensemble pour faire décoller le projet. Une fois le grand modèle sorti, nous pouvons utiliser le grand modèle pour jouer ces rôles afin d'atteindre leurs différents objectifs dans le projet et de mener à bien un projet ensemble. Il s’agit de la plateforme d’agents intelligents sur laquelle tout le monde travaille récemment. En fait, en tant qu’environnement relativement spécial comme la programmation, il est très prometteur d’utiliser plusieurs rôles pour coordonner le codage.
02 Les programmeurs humains seront-ils encore nécessaires à l'avenir ?
Ma Gong : Donc ce que vous dites, c'est que les grands modèles non seulement remplaceront les programmeurs, mais tueront également toute l'équipe informatique. En d'autres termes, à l'avenir, les chefs de produit traiteront directement avec les agents et il n'y aura plus besoin de personnel. ou des entreprises. Oui. C'est ce que vous voulez dire ?
Yang Yanbo : Mon point de vue est peut-être plus radical, peut-être quelque chose comme celui-ci. Bien sûr, après le remplacement de ces postes, de nouveaux postes seront certainement créés.
Ma Gong : Quelle scène terrifiante.
Sun Yishen : C'est vrai, car le sujet d'aujourd'hui porte sur la question de savoir s'il sera finalement remplacé. Il est difficile de dire s'il sera remplacé à la fin.
D'après mon expérience, j'ai fait de nombreuses expériences. Comme l'a dit Yanbo, laisser les agents former une équipe est une meilleure abstraction pour le processus de résolution de problèmes. J'ai même ajouté une couche d'abstraction à ce niveau : comment accomplir ma propre tâche ? Étant donné que la tâche aura une SOP correspondante pour expliquer comment effectuer la tâche et que les différentes SOP auront un ensemble complet de flux de travail, je peux utiliser ce groupe pour combiner différents rôles pour ce faire.
Mais après avoir complété ces deux niveaux d’abstraction, il était encore difficile de répondre à mes besoins réels en matière de travail de production. Par exemple, si je lui demande d'effectuer un travail d'analyse de données, en fonctionnement réel, vous pouvez saisir un grand nombre de jetons, et pendant ce processus, ses échanges et interactions de contexte sont également très fréquents. Dans ce cas, l'ensemble du contexte peut. dépasse en fait 100K+.
Dans ce cas, la probabilité qu’il puisse enfin accomplir la tâche est en réalité assez faible. Parce que chaque aspect de votre processus comporte une possibilité d’erreur, et en fin de compte, c’est un principe de multiplication ! Une fois la multiplication terminée, dans l’ensemble, le taux de réussite est encore assez faible.
Parce que lorsque quelqu’un rédige un article, il vous en montrera certainement les meilleurs points forts ! Mais si ce moment fort est répété 100 fois, il est difficile de dire si 90 % de celui-ci ressemblera à cela. En fait, je l'ai finalement utilisé. Si le contexte est assez long ou la logique assez complexe, il est assez difficile de communiquer avec lui par un simple MP.
Si un PM a la capacité de revoir tout le code généré, n'est-il pas réellement équivalent à un programmeur ? Je pense que le Premier ministre n'a fondamentalement pas la capacité d'examiner un projet très complexe, et il ne sera peut-être même pas en mesure de le faire correctement en examinant simplement les entrées et les sorties.
Ma Gong : Le phénomène que vous évoquez n'est-il qu'un phénomène temporaire, et la situation sera complètement différente dans deux ou trois ans ? Par exemple, le contexte 100K que vous venez de mentionner, peut-être qu'il n'y aura que 10 Mo de contexte à l'avenir ? Ou, lorsque sa complexité augmente et que le travail devient moins fluide, je peux résoudre le problème en ajoutant un autre programmeur. Cependant, par rapport aux 100 programmeurs qui auraient pu être nécessaires auparavant, il suffit désormais d’en ajouter 1. Cela équivaut-il à remplacer 99 % des programmeurs ?
Sun Yishen : Selon Ultraman, il y aura un autre bond en avant après chatGPT5, donc c'est encore assez difficile à prévoir. Mais sur la base du modèle Transformer actuel, pour parler franchement, il préfère toujours un processus de prise de décision markovien, qui est toujours basé sur la probabilité et prédit l'état suivant en fonction de l'état précédent. S’il n’y a pas de changement fondamental sur ce point, ou si les humains n’ont pas une compréhension complète de leur propre science cognitive, du moins au cours des dernières années, le remplacement des programmeurs n’aura pas lieu.
Désormais, tout le monde prête attention à la qualité du grand modèle une fois le contexte augmenté et à la manière d'étendre la taille du contexte. Mais au niveau supérieur à 100K200K, sa précision peut actuellement être inférieure à 50 %. Dans ce cas, la percée ne sera peut-être pas si rapide.
Au cours du premier semestre de cette année, j'ai essayé de demander à AutoGen de former un groupe pour qu'il puisse discuter avec les gens dans l'ordre, mais il n'y est pas parvenu. Maintenant, vous dites que non seulement le flux de travail de l'ensemble du groupe doit répondre aux besoins, mais que les SOP de l'ensemble de l'entreprise doivent également répondre à vos besoins opérationnels. Lorsque toutes les étapes sont combinées, au moins je pense qu'elles sont très médiocres.
Ma Gong : Serait-ce dû au fait que vos exigences en matière de création d'une base de données distribuée sont trop élevées ? Si j'écris simplement un système de gestion de l'information médicale avec des exigences très faibles pour les programmeurs, puis que j'applique votre système à mon application médicale, l'effet sera-t-il acceptable ?
Sun Yishen : Pareil. Je pense que les problèmes sont relativement similaires dans différents domaines. LLM est tout à fait acceptable en tant qu'assistance, mais si vous le laissez vraiment conduire automatiquement, ce n'est certainement pas OK. En plus des programmeurs, il y a un autre point important, qui est la question de l'éthique des affaires, ou qui devrait assumer la question de la responsabilité des entreprises ?
Dans l'industrie médicale, tout le monde sait que la tomodensitométrie par reconnaissance d'images est beaucoup utilisée dans ce domaine. En fait, l'IA peut donner des conclusions en regardant des films, mais au final, les médecins doivent encore tamponner et signer. Il en va de même pour les programmeurs. Le PM peut confier cette tâche à une IA, mais au final, il faut quand même qu'il y ait une personne pour signer et signer. Il est peu probable que le PM signe ceci. En fin de compte, un programmeur doit toujours signer cela, et le programmeur doit toujours vérifier le résultat. S'il ne le vérifie pas, le patron devra assumer la responsabilité commerciale s'il le signe.
Ma Gong : C'est un point très intéressant. Les grands modèles ne peuvent pas être blâmés.
03 Quels types de positions sont les plus dangereuses ?
Yang Yanbo : Je ne suis pas d'accord avec l'exemple de la conduite autonome. En fait, de nombreuses villes ont désormais testé certaines lignes de bus. Par exemple, Hefei dispose de quelques bus pilotes sans pilote et des exemples concrets de livraison express sont déjà acceptables, mais il faudra un certain temps avant que les vrais humains puissent être remplacés. Cependant, il en va de même pour le métier de programmeur : il est remplacé progressivement, en commençant par quelques scénarios simples, puis en les remplaçant progressivement par des scénarios plus complexes.
Par exemple, certains emplois dans notre entreprise sont sujets au développement de code simple et répétitif. Nous avions l'habitude de recruter des stagiaires pour le faire. Après la sortie du grand modèle, nous avons exploré l'utilisation de certaines technologies d'agent qui s'appuient sur de grands modèles pour les remplacer. ce type de travail. Coûts de main d’œuvre considérablement réduits.
Ma Gong : Quel est l'agent intelligent dont vous avez parlé précédemment ? Quelle est la différence avec chatGPT ?
Yang Yanbo : Le concept d'agent intelligent existait avant l'émergence des grands modèles. Son nom anglais est agent. L'agent est appelé agent en chinois, ce qui signifie que lorsque vous terminez quelque chose, vous n'avez peut-être pas besoin de le faire vous-même, mais vous avez besoin d'un outil ou d'une personne physique pour vous aider à le faire. Or, cet agent est un agent. Ce qu'il peut faire, ce n'est pas seulement ajuster le modèle. Il aura des capacités d'ordre élevé : il sait comment interagir avec le grand modèle et comment appeler certains outils externes dans ce domaine. . C'est la notion d'intelligence. Il s'agit également d'un grand modèle par nature, mais il est basé sur le grand modèle et encapsule une certaine planification de tâches dans des domaines spécifiques, ou certaines connaissances, ce qui équivaut à être plus proche de nos utilisateurs réels.
Ma Gong : Je comprends cela de cette façon : lorsque j'appelais Ctrip auparavant, je devais en informer le service client et lui demander de réserver un billet pour moi. Maintenant, ce service client peut être remplacé par LLM. Pour moi, c'est un agent intelligent.
Sun Yishen : Oui, vous pouvez le considérer comme un contrôleur ou un robot. Ce qu'il fait principalement, c'est d'abord accepter certaines entrées et être capable de percevoir un environnement, puis de prendre certaines décisions par lui-même grâce aux informations d'entrée, et enfin de produire certaines actions pour changer l'environnement.
04 Que dois-je faire si je suis remplacé ?
Ma Gong : Permettez-moi de poser une question : si nous, les programmeurs, sommes vraiment remplacés, quelle est la solution ? Yanbo vient de dire que de nouveaux emplois seront créés, mais quels sont ces nouveaux emplois ? Comment devrions-nous nous y préparer ?
Yang Yanbo : Pourquoi avons-nous inventé l’IA à l’origine ? Afin de nous libérer, les humains, et d’améliorer notre efficacité. Ainsi, une fois que la limite de capacité d'un grand modèle devient de plus en plus grande et qu'il peut faire de plus en plus de choses, nous devons prêter plus d'attention à la qualité des choses que le grand modèle fait pour nous et si le résultat est-il sûr ? Si ce n'est pas éthique, comment pouvons-nous contrôler le grand modèle pour produire un meilleur rendement ? Par exemple, dans le domaine de la sécurité des contenus pour les grands modèles, de nouveaux postes ont été créés.
Une autre position est la suivante : comment utiliser les grands modèles de manière plus avancée ? Par exemple, développer un agent est un poste nouveau : Comment développer un agent pour que les grands modèles puissent être utilisés par des novices ? Je pense qu'il y aura de plus en plus de postes de ce type, et que les agents pourront être différents dans chaque domaine, et que les méthodes de développement de chacun changeront progressivement.
Ma Gong : Premièrement, comment les programmeurs ordinaires peuvent-ils avoir la capacité de développer des agents intelligents ? Alors je ne peux qu'être un petit assistant de ce genre d'agent intelligent et réviser ce qu'il écrit. En d’autres termes, c’est mon assistant maintenant, mais dans quelques années, je deviendrai son assistant. Cela ne me semble pas être un voyage très excitant.
Sun Yishen : Yanbo vient de mentionner qu'il est acceptable que les grands modèles remplacent certaines capacités de base. En fait, il reste votre assistant, vous aidant dans certaines corvées, ou tâches à faible valeur et à faible valeur ajoutée. En tant que programmeur, il vous est impossible de faire quelque chose d'aussi simple que "recevoir l'entrée d'un stc puis sortir un programme". Plus le travail avance, plus il est probable qu’il s’oriente vers l’entreprise. Ensuite, si vous êtes dans un domaine différent, vous devrez peut-être encore faire beaucoup de choses en vous basant sur les connaissances dans ce domaine.
Quant à CS, l’architecture système est également en constante évolution. Tant qu’il s’agit de quelque chose de nouveau, on peut considérer que les grands modèles n’ont pas de fortes capacités. Car, au fond, il s’agit encore de résumer les connaissances existantes. S’il crée à partir des connaissances existantes, sa créativité sera très imprévisible. Il peut occasionnellement vous donner des informations utiles dans un éclair d'inspiration, mais la plupart du temps, ce n'est pas le cas.
De plus, sa compréhension des lois de la physique est en réalité inexistante. Si je réalise un scénario de BI extrêmement complexe, ou si je suis une personne qui développe des logiciels d'IAO et que je n'arrive même pas à comprendre le calcul, l'IA ne sera pas non plus capable de le comprendre. Je pense qu’il existe en fait beaucoup de connaissances professionnelles qui peuvent être exploitées dans tous les domaines.
Ma Gong : Je comprends. Si j'étais programmeur et que je voulais assurer la sécurité de ma carrière, je devrais demander à mes dirigeants d'utiliser autant que possible de nouveaux langages. Chaque fois qu’une langue sort, je l’utilise rapidement. LLM Il n'a pas encore lu suffisamment de texte pour être utile. Ha ha.
Pour plus de contenu en direct, scannez le code pour regarder le replay↓↓↓
[Discussion sur l'Open Source]
La colonne de discussion du compte vidéo OSCHINA [Open Source Talk] présente un sujet technique dans chaque numéro. Trois ou cinq experts s'assoient pour exprimer leurs opinions et discuter de l'open source. Vous apportant les dernières frontières de l'industrie, les sujets techniques les plus brûlants, les projets open source les plus intéressants et les échanges idéologiques les plus pointus. Si vous avez de nouvelles idées ou de bons projets et que vous souhaitez les partager avec vos collègues, contactez-nous. Le forum est toujours ouvert~.
