요즘 대형 모델이 프로그래밍, 코드 생성, 자동화된 테스트 및 기타 분야에서 점점 더 강력한 기능을 보여줌에 따라 생각을 자극하는 질문이 등장했습니다. 대형 모델이 결국 프로그래머의 작업을 대체할 것인가?
어떤 사람들은 세상에 절대적으로 안전한 직업은 없으며 기계가 인간을 대체하는 것은 시간 문제일 뿐이라고 믿습니다. GitHub Copilot, ChatGPT부터 국내 Tongyi Lingma까지 다양한 대체 도구가 속속 등장했습니다. AI는 점점 더 많은 일을 할 것이고, 인간은 점점 더 적은 일을 하게 될 것입니다. Baidu CEO Robin Li는 기본적으로 미래에는 "프로그래머"라는 직업이 없을 것이라고 말한 적이 있습니다. 모든 사람이 말할 수 있는 한 모든 사람이 프로그래머가 될 수 있는 능력을 갖게 되기 때문입니다.
그러나 다른 사람들은 다른 견해를 가지고 있습니다. 그들은 "저급 프로그래머는 사라지고 창의적인 프로그래머가 커질 것이다" "프로그래밍은 여전히 기본이고 배워야 한다. 프로그램을 이해하지 못하면 아무리 창의적이라도 쓸모가 없다"고 믿는다. " 360 CEO Zhou Hongyi는 프로그래머에 대한 열정이 10년 내에 줄어들지 않을 것이라고 믿습니다. 미래에는 모든 사람이 컴퓨터를 사용하고 모든 사람이 프로그래머가 되지만, 다양한 사람들이 컴퓨터를 사용하여 만든 제품은 완전히 다릅니다. AI 시대에는 컴퓨터 전문가와 프로그래머가 훨씬 더 필요하며 모든 분야에서 가장 큰 목소리를 낼 수 있습니다. 인생의. .
그렇다면 실제 상황은 어떠한가? 대형 모델 기술이 어떤 직업을 대체할 수 있으며, 프로그래머의 경력에 어떤 영향을 미칠까요? 일반 프로그래머로서 변화에 어떻게 적응해야 할까요?
12호 [오픈소스 토크]에서는 iFlytek AI Engineering Institute 에이전트 연구 책임자 Yang Yanbo, PingCAP AI Lab 팀 데이터 과학자 Sun Yishen, Infra 엔지니어 Ma Gong을 초대하여 앞으로 어떤 일이 일어날지 논의했습니다. 대형 모델 개발. 미래의 기술 작업장을 어떻게 형성할 것인가?
손님 공유:
양얀보
iFlytek AI Engineering Institute에서 에이전트 연구 책임자이자 수석 R&D 엔지니어입니다. 그는 오픈 소스를 좋아하며 대형 모델 미세 조정 플랫폼(Maas) 및 에이전트 관련 기술에 대한 연구를 담당하고 있습니다.
순 이셴
PingCAP AI 연구소 데이터 과학자 ChatGPT의 충격적인 출시 이후 LLM 애플리케이션 개발, 다중 에이전트 및 기타 애플리케이션 방향 탐색에 집중하고 TiDB Bot 및 LinguFlow와 같은 애플리케이션을 개발했으며 AutoGen 커뮤니티 개발에 참여했습니다. .
주인:
말 노동자
Nordic Infra 엔지니어, 공개 계정 "Swedish Horseman" 관리자. "오픈소스 토크"의 고정 게스트입니다.
01 현재의 대형모델은 어느 단계까지 발전했나요? 어떤 직업을 대체할 수 있나요?
마공: 지금까지 대형 모델은 어느 정도 개발됐나요? 프로그래머 교체는 어디까지 왔나요? 이미 어떤 제품이 잘나가고 있나요? 나에게 뭔가 말해줄 수 있나요?
양얀보: 오늘 우리가 이야기할 주제는 대형 모델이 프로그래머를 대체할 것인지에 대한 것입니다. 먼저 프로그래머의 정의를 살펴보겠습니다. Wikipedia에 따르면 프로그래머는 처음에는 순수한 소프트웨어 개발자를 지칭했지만 오늘날 프로그래머는 더 이상 소프트웨어 개발자만을 지칭하지 않으며 그들의 작업은 더 이상 코드 작성에만 국한되지 않습니다. 스크립트 작성 및 소프트웨어 테스트와 같은 작업은 오늘부터 점차적으로 대체될 수 있습니다. 요즘에는 번역, 문서 정렬 및 데이터 주석과 같은 일부 간단한 시나리오에서는 일부 에이전트 프레임워크에서 대형 모델이 더 잘 사용됩니다. 이러한 시나리오의 위치는 대형 모델로 대체되기 쉽습니다.
Sun Yishen: ChatGPT가 나왔을 때 정말 놀라웠어요. 이전 AI 애플리케이션에 대한 차원 감소 타격이었습니다. 그러나 모두가 경험해 본 후에는 긍정적인 점도 있지만 단점도 많다는 것을 알게 될 것입니다. 프로그래머의 경우 실제로 프로덕션에 사용해야 하는 경우에는 한도를 보지 않고 평균 수준이나 수익이 어디에 있는지 확인합니다. 이것이 서비스 품질을 보장하는 것이기 때문입니다.
지금 보면 텍스트 필드에서 비교적 기본적인 작업만 수행할 수 있습니다. 예를 들어 요약이나 독해력은 더 좋지만 정말 고급 텍스트 관계를 하려고 한다면 그다지 좋지 않거나 정확도가 그다지 높지 않습니다.
프로그래머 분야를 보면 사실 비슷해요. 몇 가지 기본적인 작업을 수행할 수 있습니다. 그러나 이론적으로 고급 작업에는 소위 논리적 추론 능력이 없습니다. 논리적 추론 능력이 있는 것처럼 보이는 이유는 대부분의 경우 언어에 논리가 포함되어 있기 때문입니다. 언어를 학습하는 과정에서 학습된 텍스트가 충분히 좋으면 자연스럽게 그 안에 논리가 포함되기 때문입니다. 실제로 이 일 자체를 이해하지 못합니다. 정말 복잡한 것이나 새로운 것을 개발하라고 하면 기본적으로는 할 수 없습니다.
마공: 예, Copilot이 제게 몇 가지 코드를 제공했는데 매우 유용하고 편리하지만 여전히 직접 읽어야 합니다. 그렇지 않으면 입력하면 재앙이 될 것입니다. 하지만 상사가 나를 해고한다면 그는 나에게 그것을 보라고 요청할 수도 있을 것이라고 생각합니다.
그리고 또, 고급 작업을 수행할 수 없다고 말씀하셨는데, 프로그래머의 일상 업무에는 고급 작업이 얼마나 많이 있습니까? 아마도 우리 작업의 99%는 낮은 수준의 작업일 것입니다. 어떻게 생각하나요?
Yang Yanbo: 대형 모델 자체에는 기본 대화, 자체 페이지의 일부 기능 등과 같은 일부 원자적 기능이 포함되어 있습니다. 이는 대형 모델의 효과를 경험할 수 있는 비교적 간단한 사용 방법입니다.
보다 복잡한 작업의 경우 일반적으로 대규모 모델 API를 사용하여 클라이언트에서 또는 프로그래밍 방식으로 고급 애플리케이션을 수행합니다. 지금 우리가 이야기하고 있는 대형 모델은 자체 원자적 기능의 개발뿐만 아니라 올해 가장 인기 있는 프로그래밍 패러다임, 즉 에이전트의 패러다임이기도 합니다. 이 작품 역시 대형 모델 개발의 일환이다. 미래에는 지능형 에이전트라는 개념을 통해 복잡한 작업이 더 많이 해결될 수 있다고 봅니다.
마공: 이 패러다임 전환이 정확히 무엇인가요? 앞으로는 프로그래머가 코드를 작성하고, 테스트하고, 적용하고, 프로덕션 환경에 배포할 필요가 없다는 뜻인가요? 아니면...?
양얀보: 예를 하나 들어보겠습니다. 현실 세계에서는 프로젝트를 개발할 때 프로젝트 리더, 프로젝트 관리자, 개발 및 테스트, 운영 및 유지 관리 배포, 기타 다양한 역할이 함께 협력하여 프로젝트를 시작하는 경우가 많습니다. 대형 모델이 나온 후, 우리는 대형 모델을 사용하여 프로젝트에서 서로 다른 목표를 달성하고 함께 프로젝트를 완료하기 위해 이러한 역할을 수행할 수 있습니다. 최근 모두가 노력하고 있는 지능형 에이전트 플랫폼입니다. 실제로 프로그래밍과 같은 비교적 특수한 환경에서는 코딩을 조정하기 위해 여러 역할을 사용하는 것이 실제로 매우 유망합니다.
02 미래에도 인간 프로그래머가 필요할까요?
마공: 그럼 당신이 말하는 것은 대형 모델이 프로그래머를 대체할 뿐만 아니라 전체 IT 팀을 죽인다는 것입니다. 즉, 미래에는 제품 관리자가 에이전트와 직접 거래하게 될 것이므로 사람이 필요하지 않을 것이라는 것입니다. 아니면 회사죠? 예, 이게 무슨 뜻인가요?
양얀보: 내 관점은 좀 더 급진적일 수도 있습니다. 물론 이런 직위를 교체한 후에는 새로운 직위가 생길 수도 있습니다.
마공: 정말 무서운 장면이군요.
Sun Yishen: 그렇죠. 오늘 주제는 결국 교체될지 여부에 대해 논의하기 때문입니다. 결국 교체될지 여부를 말하기는 어렵습니다.
내 경험에 따르면 Yanbo가 말했듯이 에이전트가 팀을 구성하도록 하는 것이 문제 해결 프로세스에 대한 더 나은 추상화입니다. 나는 심지어 이 수준에 추상화 계층을 추가했습니다. 내 작업을 어떻게 수행합니까? 작업에는 작업 수행 방법을 지원하는 해당 SOP가 있고 다양한 SOP에는 완전한 워크플로 세트가 있으므로 이 그룹을 사용하여 다양한 역할을 결합하여 이를 수행할 수 있습니다.
그러나 이 두 가지 추상화 수준을 완료한 후에도 실제 제작 작업 요구 사항을 충족하는 것은 여전히 어려웠습니다. 예를 들어, 데이터 분석 작업을 요청하면 실제 작업에서는 많은 수의 토큰을 입력할 수 있으며, 이 과정에서 컨텍스트 교환 및 상호 작용도 매우 빈번할 수 있습니다. 실제로 100K+를 초과합니다.
이 경우 최종적으로 작업을 완료할 수 있는 확률은 실제로 매우 작습니다. 프로세스의 모든 측면에는 오류 가능성이 있고 결국 이는 곱셈 원리이기 때문입니다! 곱셈이 완료된 후에도 전반적으로 성공률은 여전히 매우 낮습니다.
왜냐하면 누군가가 논문을 작성할 때 그는 분명히 당신에게 최고의 하이라이트를 보여줄 것이기 때문입니다! 하지만 이 하이라이트를 100번 반복하면 90%가 이런 모습이 될지 장담하기는 어렵습니다. 사실, 드디어 사용해봤습니다. 컨텍스트가 너무 길거나 로직이 복잡하면 PM만으로는 의사소통이 꽤 어렵습니다.
PM이 생성된 모든 코드를 검토할 수 있는 능력을 갖고 있다면 실제로는 프로그래머와 동등한 사람이 아닐까요? PM은 기본적으로 매우 복잡한 프로젝트를 검토할 능력이 없고, 입력과 출력만 보고도 제대로 처리하지 못할 수도 있다고 생각합니다.
마공: 말씀하신 현상은 일시적인 현상이고, 2~3년 후에는 전혀 상황이 달라질까요? 예를 들어, 방금 언급한 100K 컨텍스트가 앞으로는 10MB 컨텍스트만 있게 될까요? 또는 복잡성이 증가하고 작업이 덜 원활해지면 다른 프로그래머를 추가하여 문제를 해결할 수 있습니다. 하지만 이전에는 100명의 프로그래머가 필요했는데, 이제는 1명만 추가하면 99%의 프로그래머를 대체할 수 있습니까?
Sun Yishen: Ultraman에 따르면 chatGPT5 이후 또 한 번의 도약이 있을 것이라고 하는데, 아직까지는 예측하기가 상당히 어렵습니다. 그러나 현재 Transformer 모델을 기반으로 직설적으로 말하면 여전히 확률을 기반으로 하며 이전 상태를 기반으로 다음 상태를 예측하는 Markov 의사 결정 프로세스를 선호합니다. 이 점에서 근본적인 변화가 없거나 인간이 자신의 인지과학에 대한 완전한 이해를 갖고 있지 않다면 적어도 지난 몇 년 동안 프로그래머의 교체는 일어나지 않을 것이다.
이제 모두가 컨텍스트를 늘린 후 대형 모델의 품질과 컨텍스트의 크기를 어떻게 확장할 것인지에 주목하고 있습니다. 그러나 100K200K 이상의 수준에서는 정확도가 현재 50% 미만일 수 있습니다. 이 경우 돌파구가 그리 빠르지 않을 수도 있습니다.
올해 상반기에는 순서대로 사람들과 채팅을 할 수 있도록 오토젠에게 그룹을 만들어 달라고 요청했는데 안 됐어요. 이제 전체 그룹의 워크플로우가 요구 사항을 충족해야 할 뿐만 아니라 전체 비즈니스의 SOP도 운영 요구 사항을 충족해야 한다고 말씀하셨습니다. 전체 단계를 결합하면 적어도 매우 열악하다고 생각합니다.
마공: 분산 데이터베이스 구축에 대한 요구 사항이 너무 높기 때문일까요? 프로그래머에 대한 요구 사항이 매우 낮은 의료 정보 관리 시스템을 작성한 다음 귀하의 시스템을 의료 응용 프로그램에 적용하면 효과가 허용됩니까?
Sun Yishen: 제 생각에는 문제가 다른 분야에서도 비교적 유사하다고 생각합니다. LLM은 확실히 보조용으로는 괜찮지만, 실제로 자동으로 운전하게 하면 확실히 좋지 않습니다. 프로그래머 외에 또 다른 중요한 점이 있는데, 그것은 기업 윤리의 문제이며, 누가 기업의 책임 문제를 져야 하는가?
의료업계에서는 이 분야에 영상인식 CT가 많이 활용된다는 것은 누구나 아는 사실이다. 실제로 영화를 볼 때 AI가 어느 정도 결론을 내릴 수는 있지만 결국 의사가 도장을 찍고 서명을 해야 한다. 프로그래머도 마찬가지다. PM은 이 작업을 AI에게 맡길 수 있지만, 결국 서명하고 서명할 사람이 있어야 합니다. PM이 이에 서명할 가능성은 거의 없으며 결국 프로그래머가 서명해야 하며 결과를 확인해야 합니다. 확인하지 않고 서명하면 상사가 상업적인 책임을 져야합니다.
마공: 이것은 매우 흥미로운 점이다. 대형 모델은 비난을 받을 수 없다.
03 어떤 자세가 가장 위험한가요?
양얀보: 저는 자율주행이라는 예에 동의하지 않습니다. 실제로 많은 도시에서는 현재 일부 버스 노선을 시범 운영하고 있습니다. 예를 들어 허페이에는 무인 버스와 무인 특급 배송이 이미 시범 운영되고 있지만 실제 인간이 대체되기까지는 시간이 좀 걸릴 것입니다. 그러나 프로그래머 직업도 마찬가지입니다. 몇 가지 간단한 시나리오부터 시작하여 점차적으로 더 복잡한 시나리오로 대체됩니다.
예를 들어, 우리 회사에는 단순하고 반복적인 코드 개발이 쉬운 직업이 있는데, 이를 위해 인턴을 모집하곤 했습니다. 대형 모델이 나온 후에는 대형 모델을 사용하여 대체하는 일부 에이전트 기술을 사용해 보았습니다. 이러한 유형의 작업은 인건비를 크게 줄입니다.
마공: 아까 말씀하신 지능형 에이전트가 무엇인가요? chatGPT와의 차이점은 무엇인가요?
양얀보: 지능형 에이전트라는 개념은 대형 모델이 등장하기 전부터 존재했다. 영어 이름은 에이전트다. 에이전트는 중국어로 에이전트라고 하는데, 이는 어떤 작업을 완료할 때 직접 수행할 필요가 없지만 이를 수행하는 데 도구나 실제 사람이 필요하다는 의미입니다. 이제 이 에이전트가 수행할 수 있는 작업은 모델을 조정하는 것뿐만 아니라 몇 가지 고차원적인 기능도 갖습니다. 대규모 모델과 상호 작용하는 방법과 이 문제 분야에서 일부 외부 도구를 호출하는 방법을 알고 있습니다. . 이것이 지능의 개념이다. 또한 본질적으로 대형 모델이지만 대형 모델을 기반으로 하며 특정 분야의 일부 작업 계획이나 일부 지식을 캡슐화하여 실제 사용자에게 더 가깝습니다.
마공: 저는 이렇게 이해합니다. 이전에 씨트립에 전화했을 때 고객 서비스에 말하고 티켓 예약을 요청해야 했습니다. 이제 이 고객 서비스는 LLM으로 변경될 수 있습니다. 나에게 그는 지능형 에이전트입니다.
Sun Yishen: 네, 컨트롤러나 로봇이라고 생각하시면 됩니다. 주로 하는 일은 특정 입력을 받아들이고 환경을 인식할 수 있는 다음 입력 정보를 통해 스스로 특정 결정을 내리고 마지막으로 환경을 변경하는 몇 가지 작업을 출력하는 것입니다.
04 교체되면 어떻게 해야 하나요?
마공: 질문 하나 드리겠습니다. 만약 우리 프로그래머들이 정말로 교체된다면, 탈출구는 무엇입니까? Yanbo는 방금 새로운 일자리가 창출될 것이라고 말했는데 새로운 일자리는 무엇입니까? 이에 대해 우리는 어떻게 준비해야 합니까?
양얀보: 우리는 원래 무엇을 위해 AI를 발명했나요? 우리 인간을 해방시키고 효율성을 높이기 위해서입니다. 따라서 대형 모델의 기능 경계가 점점 더 커지고 더 많은 일을 할 수 있게 되면, 우리가 더 주의해야 할 것은 대형 모델이 우리를 위해 수행하는 일의 품질과 출력이 윤리적이지 않다면 어떻게 대형 모델을 제어하여 더 나은 결과를 얻을 수 있습니까? 예를 들어 대형 모델의 콘텐츠 보안 분야에서는 몇 가지 새로운 직책이 만들어졌습니다.
또 다른 입장은 대형 모델을 좀 더 발전된 방식으로 활용하는 방법입니다. 예를 들어, 에이전트를 개발하는 것은 새로운 입장입니다. 초보자가 대형 모델을 사용할 수 있도록 에이전트를 개발하는 방법은 무엇입니까? 그런 직위는 점점 더 많아질 것 같고, 분야마다 에이전트도 다를 수 있고, 다들 개발 방식도 점차 바뀌고 있는 것 같아요.
마공: 첫째, 일반 프로그래머가 지능형 에이전트를 개발할 수 있는 능력을 어떻게 가질 수 있습니까? 그러면 나는 그런 종류의 지능형 에이전트의 작은 조수가 되어 그것이 작성한 내용을 검토할 수 있을 뿐입니다. 즉, 지금은 나의 조수이지만, 몇 년 후에는 내가 그 조수가 되는 것입니다. 나에게는 별로 흥미로운 여행이 아닌 것 같다.
Sun Yishen: Yanbo는 대형 모델이 일부 기본 기능을 교체해도 괜찮다고 방금 언급했습니다. 사실, 그것은 여전히 당신의 조수로서 일부 집안일이나 가치가 낮고 부가가치가 낮은 작업을 도와줍니다. 프로그래머로서 "stc의 입력을 받아 프로그램을 출력하는 것"과 같은 간단한 작업을 수행하는 것은 불가능합니다. 많은 작업이 진행될수록 비즈니스 방향으로 진행될 가능성이 높아집니다. 그렇다면 당신이 다른 분야에 있다면, 여전히 이 분야의 지식을 바탕으로 많은 일을 해야 할 수도 있습니다.
CS의 경우 시스템 아키텍처도 지속적으로 발전하고 있습니다. 새로운 것인 만큼 대형 모델은 강력한 성능을 갖고 있지 않다고 볼 수 있다. 본질적으로 여전히 기존 지식을 요약하고 있기 때문입니다. 기존의 지식을 바탕으로 창조한다면 그 창의성은 예측하기가 매우 어렵습니다. 가끔 영감이 떠오르면 유용한 정보를 제공할 수도 있지만 대부분의 경우 그렇지 않습니다.
게다가 물리 법칙에 대한 이해도 실제로 존재하지 않습니다. 내가 극도로 복잡한 BI 시나리오를 하고 있거나 CAE 소프트웨어를 개발하는 사람인데 미적분학조차 이해하지 못한다면 AI도 이를 이해하지 못할 것이다. 실제로 모든 분야에서 채굴할 수 있는 전문 지식이 많다고 느낍니다.
마공: 이해합니다. 제가 프로그래머이고 직업의 안전을 확보하고 싶다면 리더들에게 가능한 한 새로운 언어를 사용하도록 요청해야 합니다. 언어가 나올 때마다 빨리 사용해요. LLM 아직 유용할 만큼 충분한 텍스트를 읽지 않았습니다. ㅋ.
더 많은 라이브 콘텐츠를 보려면 코드를 스캔하여 다시보기를 시청하세요↓↓↓
[오픈소스 토크]
OSCHINA 영상 계정 채팅 칼럼 [오픈소스 토크]는 이슈별로 기술적인 주제를 가지고 3~5명의 전문가가 둘러앉아 오픈소스에 대한 의견을 나누며 이야기를 나눕니다. 최신 업계 개척지, 가장 인기 있는 기술 주제, 가장 흥미로운 오픈 소스 프로젝트, 가장 날카로운 이념적 교류를 제공합니다. 새로운 아이디어나 좋은 프로젝트가 있어 동료들과 공유하고 싶다면 포럼은 언제나 열려있습니다~
