Heutzutage, da große Modelle immer leistungsfähigere Fähigkeiten in der Programmierung, Codegenerierung, automatisierten Tests und anderen Bereichen gezeigt haben, ist eine zum Nachdenken anregende Frage aufgetaucht: Werden große Modelle irgendwann die Jobs von Programmierern ersetzen?
Manche Menschen glauben, dass kein Arbeitsplatz auf der Welt absolut sicher ist und dass es nur eine Frage der Zeit ist, bis Maschinen den Menschen ersetzen. Von GitHub Copilot über ChatGPT bis hin zum heimischen Tongyi Lingma sind nach und nach verschiedene alternative Tools entstanden. Die KI wird immer mehr leisten, der Mensch immer weniger. Robin Li, CEO von Baidu, sagte einmal, dass es in Zukunft grundsätzlich keinen Beruf wie „Programmierer“ geben wird, denn solange jeder sprechen kann, wird jeder die Fähigkeit haben, Programmierer zu sein.
Aber andere vertreten eine andere Ansicht. Sie glauben: „Low-End-Programmierer werden verschwinden und kreative Programmierer werden groß.“ „Programmieren ist immer noch die Grundlagen und muss gelernt werden. Wenn Sie das Programm nicht verstehen können, wird es nutzlos sein, egal wie kreativ Sie sind.“ " Zhou Hongyi, CEO von 360, glaubt, dass die Begeisterung für Programmierer innerhalb von zehn Jahren nicht nachlassen wird. Obwohl in Zukunft jeder Computer benutzen wird und jeder ein Programmierer ist, sind die Produkte, die von verschiedenen Menschen erstellt werden, die Computer verwenden, völlig unterschiedlich. Die KI-Ära erfordert noch mehr Computerexperten und Programmierer, und sie sind möglicherweise in allen Bereichen die lautesten des Lebens. .
Wie ist also die reale Situation? Welche Jobs kann die Großmodelltechnologie ersetzen und wie wird sie sich auf die Karriere von Programmierern auswirken? Wie sollten Sie sich als normaler Programmierer an Änderungen anpassen?
In der 12. Ausgabe [Open Source Talk] haben wir Yang Yanbo, Leiter der Agentenforschung am iFlytek AI Engineering Institute, Sun Yishen, Datenwissenschaftler vom PingCAP AI Lab-Team, und Ma Gong, Ingenieur von Infra, eingeladen, um zu diskutieren, was damit passieren wird die Entwicklung großer Modelle. Wie gestaltet man den Technologiearbeitsplatz der Zukunft?
Gäste teilen:
Yang Yanbo
Er ist der Verantwortliche für die Agentenforschung am iFlytek AI Engineering Institute und ein leitender Forschungs- und Entwicklungsingenieur. Er liebt Open Source und ist für die Forschung an der großen Modell-Feinabstimmungsplattform (Maas) und agentenbezogenen Technologien verantwortlich.
Sun Yishen
PingCAP AI Lab Data Scientist hat sich seit der schockierenden Veröffentlichung von ChatGPT auf die Erforschung der LLM-Anwendungsentwicklung und Multi-Agents sowie anderer Anwendungsrichtungen konzentriert, Anwendungen wie TiDB Bot und LinguFlow entwickelt und an der Entwicklung der AutoGen-Community teilgenommen .
Gastgeber:
Pferdearbeiter
Nordic Infra-Ingenieur, Manager des öffentlichen Kontos „Swedish Horseman“. Regelmäßiger Gast von „Open Source Talk“.
01Wie weit ist das aktuelle Großmodell entwickelt? Welche Arbeitsplätze können ersetzt werden?
Ma Gong: Inwieweit haben sich bisher große Modelle entwickelt? Wie weit ist der Austausch von Programmierern fortgeschritten? Welche Produkte laufen bereits gut? Kannst du mir etwas erzählen?
Yang Yanbo: Das Thema, über das wir heute sprechen, ist, ob große Modelle Programmierer ersetzen werden. Wikipedia sagt, dass sich Programmierer zunächst auf reine Softwareentwickler bezogen, aber es ist offensichtlich, dass sich Programmierer heute nicht mehr nur auf Softwareentwickler beziehen und ihre Arbeit nicht mehr auf das Schreiben von Code beschränkt ist. Berufe wie das Schreiben von Skripten und das Testen von Software werden heute möglicherweise schrittweise ersetzt. Heutzutage werden in einigen einfachen Szenarien wie der Übersetzung, der Sortierung von Dokumenten und der Datenanmerkung große Modelle besser verwendet, wobei einige Agenten-Frameworks relativ einfach durch große Modelle ersetzt werden können.
Sun Yishen: Als ChatGPT herauskam, war es wirklich ein Schlag für einige frühere KI-Anwendungen. Nach jeder Erfahrung werden Sie jedoch feststellen, dass es zwar Lichtblicke, aber auch viele Nachteile gibt. Wenn es als Programmierer wirklich in der Produktion eingesetzt werden muss, schaue ich definitiv nicht auf die Obergrenze, sondern auf das Durchschnittsniveau oder darauf, wo das Endergebnis liegt, denn das ist es, was die Qualität Ihres Dienstes garantiert.
Wenn Sie es sich jetzt ansehen, kann es im Textfeld nur einige relativ rudimentäre Dinge tun. Es ist zum Beispiel besser in der Zusammenfassung und im Leseverständnis, aber wenn Sie wirklich möchten, dass es eine sehr fortgeschrittene Textbeziehung herstellt, ist es nicht so gut darin oder seine Genauigkeit ist nicht so hoch.
Mit Blick auf den Bereich der Programmierer ist es tatsächlich ähnlich. Es kann einige grundlegende Aufgaben erledigen. Aber fortgeschrittene Arbeiten verfügen theoretisch nicht über die sogenannte Fähigkeit zum logischen Denken. Der Grund, warum es über die Fähigkeit zum logischen Denken verfügt, liegt darin, dass in den meisten Fällen Logik in der Sprache enthalten ist. Solange der gelernte Text gut genug ist, enthält er natürlich etwas Logik versteht diese Sache selbst nicht wirklich. Wenn Sie es wirklich bitten, etwas sehr Komplexes oder etwas ganz Neues zu entwickeln, dann wird es im Grunde nicht dazu in der Lage sein.
Ma Gong: Ja, Copilot hat mir einige Codes zur Verfügung gestellt, die sehr nützlich und praktisch sind, aber man muss sie trotzdem selbst lesen, sonst wird es eine Katastrophe, wenn man sie einfügt. Aber wenn der Chef mich feuert, muss er sich den Copilot-Code selbst ansehen. Ich glaube, er könnte mich genauso gut bitten, ihn mir anzusehen.
Andererseits haben Sie gesagt, dass es keine fortgeschrittenen Dinge tun kann, aber wie viele fortgeschrittene Dinge gibt es in der täglichen Arbeit eines Programmierers? Vielleicht sind 99 % unserer Arbeit Dinge auf niedrigem Niveau. Was denken Sie?
Yang Yanbo: Das große Modell selbst enthält einige atomare Fähigkeiten, wie zum Beispiel grundlegende Dialoge, einige Funktionen auf einer eigenen Seite usw. Hierbei handelt es sich um relativ einfache Anwendungsmethoden, mit denen Sie die Wirkung großer Modelle erleben können.
Für komplexere Aufgaben verwenden wir im Allgemeinen große Modell-APIs, um komplexere Anwendungen auf dem Client oder programmgesteuert auszuführen. Das große Modell, über das wir jetzt sprechen, ist nicht nur die Entwicklung seiner eigenen atomaren Fähigkeiten, sondern auch das beliebteste Programmierparadigma dieses Jahres, nämlich ein Agentenparadigma. Auch dieses Stück ist Teil der Entwicklung großer Modelle. Komplexe Aufgaben lassen sich in Zukunft möglicherweise stärker durch das Konzept intelligenter Agenten lösen.
Ma Gong: Was genau ist dieser Paradigmenwechsel? Bedeutet das, dass Programmierer in Zukunft keinen Code mehr schreiben, testen, anwenden und dann in der Produktionsumgebung bereitstellen müssen, oder ...?
Yang Yanbo: Lassen Sie mich Ihnen ein Beispiel geben. In der realen Welt gibt es bei der Entwicklung eines Projekts häufig einen Projektleiter, einen Projektmanager, die Bereiche Entwicklung und Test, Betrieb und Wartung sowie verschiedene andere Rollen, die zusammenarbeiten, um das Projekt auf den Weg zu bringen. Nachdem das große Modell herausgekommen ist, können wir das große Modell verwenden, um diese Rollen zu spielen, um ihre unterschiedlichen Ziele im Projekt zu erreichen und gemeinsam ein Projekt abzuschließen. Dies ist die intelligente Agentenplattform, an der in letzter Zeit alle arbeiten. Da es sich um eine relativ spezielle Umgebung wie die Programmierung handelt, ist es tatsächlich sehr vielversprechend, mehrere Rollen zur Koordinierung der Codierung zu verwenden.
02 Werden in Zukunft noch menschliche Programmierer benötigt?
Ma Gong: Sie sagen also, dass große Modelle nicht nur Programmierer ersetzen, sondern auch das gesamte IT-Team töten werden. Mit anderen Worten: In Zukunft werden Produktmanager direkt mit Agenten zusammenarbeiten, und es wird keine Notwendigkeit für Mitarbeiter geben oder Unternehmen. Ja.
Yang Yanbo: Mein Standpunkt könnte radikaler sein, vielleicht so etwas. Natürlich werden nach der Ersetzung dieser Positionen definitiv einige neue Positionen geschaffen.
Ma Gong: Was für eine schreckliche Szene.
Sun Yishen: Das ist richtig, denn im heutigen Thema geht es darum, ob es irgendwann ersetzt wird. Ob es am Ende ersetzt wird, ist schwer zu sagen.
Aus meiner Erfahrung habe ich viele Experimente durchgeführt. Wie Yanbo sagte, ist es eine bessere Abstraktion für den Problemlösungsprozess, Agenten ein Team bilden zu lassen. Ich habe dieser Ebene sogar eine Abstraktionsebene hinzugefügt – wie erledige ich meine eigene Aufgabe? Da es für die Aufgabe eine entsprechende SOP zur Unterstützung bei der Ausführung der Aufgabe gibt und verschiedene SOPs über einen vollständigen Satz an Arbeitsabläufen verfügen, kann ich diese Gruppe verwenden, um verschiedene Rollen zu diesem Zweck zu kombinieren.
Aber nachdem ich diese beiden Abstraktionsebenen abgeschlossen hatte, war es immer noch schwierig, meine tatsächlichen Anforderungen an die Produktionsarbeit zu erfüllen. Wenn ich es beispielsweise auffordere, einige Datenanalysearbeiten durchzuführen, kann es sein, dass Sie im tatsächlichen Betrieb eine große Anzahl von Token eingeben, und während dieses Prozesses kommt es auch zu einem sehr häufigen Kontextaustausch und Interaktionen. In diesem Fall kann der gesamte Kontext auftreten tatsächlich über 100.000 liegen.
In diesem Fall ist die Wahrscheinlichkeit, dass die Aufgabe endlich erledigt werden kann, tatsächlich recht gering. Denn jeder Aspekt Ihres Prozesses birgt die Möglichkeit eines Fehlers, und am Ende handelt es sich um ein Multiplikationsprinzip! Nach Abschluss der Multiplikation ist die Erfolgsquote insgesamt immer noch recht gering.
Denn wenn jemand eine Arbeit schreibt, zeigt er Ihnen auf jeden Fall die besten Highlights! Aber wenn dieses Highlight 100 Mal wiederholt wird, lässt sich schwer sagen, ob 90 % davon so aussehen werden. Tatsächlich habe ich es schließlich verwendet, wenn der Kontext lang genug oder die Logik komplex genug ist, ist es ziemlich schwierig, nur per PM damit zu kommunizieren.
Wenn ein PM die Möglichkeit hat, den gesamten generierten Code zu überprüfen, ist er dann nicht tatsächlich gleichbedeutend mit einem Programmierer? Ich denke, dass der PM im Grunde nicht in der Lage ist, ein sehr komplexes Projekt zu überprüfen, und dass er es möglicherweise nicht einmal durch bloße Betrachtung der Ein- und Ausgabe richtig machen kann.
Ma Gong: Ist das von Ihnen erwähnte Phänomen nur ein vorübergehendes Phänomen und wird die Situation in zwei oder drei Jahren völlig anders sein? Zum Beispiel der 100-KB-Kontext, den Sie gerade erwähnt haben. Vielleicht wird es in Zukunft nur noch einen 10-MB-Kontext geben? Oder wenn die Komplexität zunimmt und die Arbeit weniger reibungslos wird, kann ich das Problem lösen, indem ich einen weiteren Programmierer hinzufüge. Im Vergleich zu den 100 Programmierern, die zuvor möglicherweise erforderlich waren, reicht jetzt die Hinzufügung von 1 aus. Ist dies gleichbedeutend mit dem Ersetzen von 99 % der Programmierer?
Sun Yishen: Laut Ultraman wird es nach chatGPT5 einen weiteren Sprung nach vorne geben, daher ist dies noch recht schwer vorherzusagen. Aber basierend auf dem aktuellen Transformer-Modell bevorzugt es, um es ganz klar auszudrücken, immer noch einen Markov-Entscheidungsprozess, der immer noch auf Wahrscheinlichkeit basiert und den nächsten Zustand basierend auf dem vorherigen Zustand vorhersagt. Wenn es in diesem Punkt keine grundlegende Änderung gibt oder wenn die Menschen zumindest in den letzten Jahren kein vollständiges Verständnis ihrer eigenen Kognitionswissenschaft haben, wird es keinen Ersatz für Programmierer geben.
Jetzt achten alle auf die Qualität des großen Modells nach der Vergrößerung des Kontexts und darauf, wie die Größe des Kontexts erweitert werden kann. Aber auf dem Niveau über 100.000 bis 200.000 liegt die Genauigkeit derzeit möglicherweise unter 50 %. In diesem Fall erfolgt der Durchbruch möglicherweise nicht so schnell.
In der ersten Hälfte dieses Jahres habe ich versucht, AutoGen zu bitten, eine Gruppe zu gründen, damit es der Reihe nach mit Leuten chatten kann, aber es gelang ihm nicht. Jetzt sagen Sie, dass nicht nur der Arbeitsablauf der gesamten Gruppe den Anforderungen entsprechen muss, sondern auch die SOP des gesamten Unternehmens Ihren betrieblichen Anforderungen entsprechen muss. Wenn man den gesamten Schritt zusammenfasst, halte ich das für sehr schlecht.
Ma Gong: Könnte das daran liegen, dass Ihre Anforderungen an den Aufbau einer verteilten Datenbank zu hoch sind? Wenn ich einfach ein medizinisches Informationsmanagementsystem mit sehr geringen Anforderungen an Programmierer schreibe und Ihr System dann auf meine medizinische Anwendung anwende, ist der Effekt dann akzeptabel?
Sun Yishen: Dasselbe. Ich denke, die Probleme sind in verschiedenen Bereichen relativ ähnlich. LLM ist als Assistenz auf jeden Fall in Ordnung, wenn man es aber wirklich automatisch fahren lässt, ist das definitiv nicht in Ordnung. Neben Programmierern gibt es noch einen weiteren wichtigen Punkt: Die Frage der Geschäftsethik oder wer sollte die Frage der Geschäftsverantwortung tragen?
In der Medizinbranche weiß jeder, dass Bilderkennungs-CT in diesem Bereich häufig eingesetzt wird. Tatsächlich kann KI beim Ansehen von Filmen einige Schlussfolgerungen ziehen, aber am Ende müssen Ärzte immer noch stempeln und unterschreiben. Das Gleiche gilt für Programmierer. Der PM kann diese Aufgabe einer KI übergeben, am Ende muss aber noch eine Person da sein, die unterschreibt und unterschreibt. Es ist unwahrscheinlich, dass der PM dies unterschreibt. Am Ende muss ein Programmierer dies noch unterschreiben und der Programmierer muss das Ergebnis noch überprüfen. Wenn er es nicht überprüft, muss der Chef die kommerzielle Verantwortung tragen, wenn er es unterschreibt.
Ma Gong: Das ist ein sehr interessanter Punkt. Große Modelle können die Schuld nicht auf sich nehmen.
03 Welche Positionen sind am gefährlichsten?
Yang Yanbo: Ich bin mit dem Beispiel des autonomen Fahrens nicht einverstanden. Tatsächlich haben viele Städte inzwischen einige Pilotbusse und unbemannte Expresszustellungen im Einsatz, aber es wird einige Zeit dauern, bis echte Menschen ersetzt werden können. Das Gleiche gilt jedoch für den Beruf des Programmierers, der schrittweise ersetzt wird, indem man mit einigen einfachen Szenarien beginnt und diese dann nach und nach durch komplexere Szenarien ersetzt.
Beispielsweise gibt es in unserem Unternehmen einige Jobs, die anfällig für die einfache und sich wiederholende Codeentwicklung sind. Nach der Veröffentlichung des großen Modells haben wir versucht, einige Agententechnologien zu verwenden, die auf großen Modellen basieren Diese Art von Arbeit reduziert die Arbeitskosten erheblich.
Ma Gong: Was ist der intelligente Agent, den Sie zuvor erwähnt haben? Was ist der Unterschied zu chatGPT?
Yang Yanbo: Das Konzept des intelligenten Agenten existierte bereits vor der Entstehung großer Modelle. Sein englischer Name ist Agent. Agent heißt auf Chinesisch Agent. Das bedeutet, dass Sie, wenn Sie etwas erledigen, es vielleicht nicht selbst tun müssen, sondern ein Werkzeug oder eine physische Person benötigen, die Ihnen dabei hilft. Nun ist dieser Agent ein Agent, der nicht nur das Modell anpassen kann, sondern auch über einige übergeordnete Fähigkeiten verfügt: Er weiß, wie er mit dem großen Modell interagiert und einige externe Tools in diesem Bereich aufruft . . Das ist das Konzept der Intelligenz. In der Natur handelt es sich ebenfalls um ein großes Modell, das jedoch auf dem großen Modell basiert und einen Teil der Aufgabenplanung in bestimmten Bereichen oder ein Teil des Wissens bündelt, was gleichbedeutend damit ist, dass es näher an unseren tatsächlichen Benutzern liegt.
Ma Gong: Ich verstehe das so: Als ich Ctrip vorher anrief, musste ich es dem Kundenservice sagen und ihn bitten, ein Ticket für mich zu buchen. Jetzt könnte dieser Kundenservice auf LLM umgestellt werden. Für mich ist er ein intelligenter Agent.
Sun Yishen: Ja, man kann es sich als Controller oder Roboter vorstellen. Die Hauptaufgabe besteht darin, zunächst bestimmte Eingaben zu akzeptieren und in der Lage zu sein, eine Umgebung wahrzunehmen, dann anhand der Eingabeinformationen selbst bestimmte Entscheidungen zu treffen und schließlich einige Aktionen zur Änderung der Umgebung auszugeben.
04 Was soll ich tun, wenn ich ersetzt werde?
Ma Gong: Lassen Sie mich eine Frage stellen: Wenn wir Programmierer wirklich ersetzt werden, was ist der Ausweg? Yanbo hat gerade gesagt, dass neue Arbeitsplätze geschaffen werden, aber was sind die neuen Arbeitsplätze? Wie sollten wir uns darauf vorbereiten?
Yang Yanbo: Wofür haben wir die KI ursprünglich erfunden? Um uns Menschen zu befreien und unsere Leistungsfähigkeit zu steigern. Sobald also die Fähigkeitsgrenze eines großen Modells immer größer wird und es immer mehr Dinge tun kann, müssen wir der Qualität der Dinge, die das große Modell für uns tut, und der Ausgabe mehr Aufmerksamkeit schenken ist sicher? Wenn es nicht ethisch vertretbar ist, wie können wir das große Modell kontrollieren, um eine bessere Ausgabe zu erzielen? So sind beispielsweise im Bereich Content-Sicherheit für große Models einige neue Stellen entstanden.
Eine andere Frage ist: Wie kann man große Modelle auf fortgeschrittenere Weise nutzen? Die Entwicklung eines Agenten ist beispielsweise eine neue Position: Wie entwickelt man einen Agenten, damit große Modelle von Anfängern verwendet werden können? Ich denke, es wird immer mehr solcher Positionen geben, und die Agenten können in jedem Bereich unterschiedlich sein, und die Entwicklungsmethoden jedes Einzelnen ändern sich allmählich.
Ma Gong: Erstens: Wie können normale Programmierer intelligente Agenten entwickeln? Dann kann ich nur ein kleiner Assistent eines solchen intelligenten Agenten sein und überprüfen, was er schreibt. Mit anderen Worten, es ist jetzt mein Assistent, aber nach ein paar Jahren werde ich sein Assistent. Klingt für mich nicht nach einer sehr aufregenden Reise.
Sun Yishen: Yanbo hat gerade erwähnt, dass es für große Modelle in Ordnung ist, einige Grundfähigkeiten zu ersetzen. Tatsächlich ist es immer noch Ihr Assistent, der Ihnen bei einigen Aufgaben oder Aufgaben von geringem Wert und geringem Mehrwert hilft. Als Programmierer ist es für Sie unmöglich, etwas so Einfaches wie „die Eingabe eines STC zu empfangen und dann ein Programm auszugeben“ zu tun. Je weiter eine Menge Arbeit voranschreitet, desto wahrscheinlicher wird es in die geschäftliche Richtung gehen. Wenn Sie dann in einem anderen Bereich tätig sind, müssen Sie möglicherweise noch viele Dinge tun, die auf dem Wissen in diesem Bereich basieren.
Was CS betrifft, so entwickelt sich auch die Systemarchitektur ständig weiter. Solange es sich um etwas Neues handelt, kann man davon ausgehen, dass große Modelle keine starken Fähigkeiten haben. Denn im Wesentlichen fasst es immer noch vorhandenes Wissen zusammen. Wenn es auf der Grundlage vorhandener Kenntnisse kreiert, wird seine Kreativität sehr unvorhersehbar sein. Gelegentlich kann es Ihnen in einem Geistesblitz einige nützliche Informationen liefern, aber meistens ist das nicht der Fall.
Darüber hinaus ist sein Verständnis der Gesetze der Physik tatsächlich nicht vorhanden. Wenn ich ein extrem komplexes BI-Szenario durchführe oder CAE-Software entwickle und nicht einmal die Analysis verstehen kann, wird die KI auch nicht in der Lage sein, sie herauszufinden. Ich habe das Gefühl, dass es tatsächlich in jedem Bereich eine Menge Fachwissen gibt, das abgebaut werden kann.
Ma Gong: Ich verstehe. Wenn ich Programmierer wäre und meine berufliche Sicherheit gewährleisten wollte, sollte ich meine Führungskräfte bitten, so oft wie möglich neue Sprachen zu verwenden. Jedes Mal, wenn eine Sprache herauskommt, verwende ich sie schnell. LLM Es wurde noch nicht genug Text gelesen, um nützlich zu sein. Ha ha.
Für weitere Live-Inhalte scannen Sie den Code, um die Wiederholung anzusehen↓↓↓
[Open-Source-Talk]
In der Chat-Kolumne [Open Source Talk] des OSCHINA-Videokontos gibt es in jeder Ausgabe ein technisches Thema. Drei oder fünf Experten sitzen zusammen, um ihre Meinung zu äußern und über Open Source zu plaudern. Wir bringen Ihnen die neuesten Branchengrenzen, die heißesten technischen Themen, die interessantesten Open-Source-Projekte und den schärfsten ideologischen Austausch. Wenn Sie neue Ideen oder gute Projekte haben und diese mit Ihren Kollegen teilen möchten, kontaktieren Sie uns bitte. Das Forum ist immer geöffnet
