Function Computing은 Lead Health Information이 "치과"에 AI 활력을 주입하는 데 도움이 됩니다.

오픈소스 중국 커뮤니티 팀이 공유라는 이름으로 오픈소스 중국 커뮤니티의 뒷이야기를 전하는 첫 생방송을 진행했습니다."

저자: 장웨이(Jiang Wei), 공양(Gong Yang), 저우타오(Zhou Tao), 왕빈(Wang Bin)

개발 배경

Lingjian은 2015년에 설립되었으며 상하이에 본사를 두고 있으며 전국에 20개 이상의 지점을 설립했습니다. 100개의 소프트웨어 저작권, 91개의 등록 상표 및 35개의 발명 특허를 보유하고 있으며 치과 진료소와 같은 소비자 의료 기업에 서비스를 제공하기 위해 최선을 다하고 있습니다. 의료미용기관 통합 운영 및 관리 솔루션을 제공합니다.

LeadHealth는 ISO/IEC27001 국내 및 국제 이중 인증, 공안부 레벨 3 인증, 산업 정보 기술부 레벨 3 일반 보험 인증을 보유하고 있으며 소비자 의료 기관의 디지털 운영을 완전히 지원하고 해당 기관이 업무를 완료하도록 돕습니다. 수익 증대, 위험 방지, 지출 감소, 효율성 증대를 목표로 합니다.

Lingjian은 SaaS +를 혁신합니다. e Dental Software는 치과 기관에 단일 매장/체인 관리, 전자 의료 기록, 고객 관계 관리, 구매, 판매 및 재고 관리, 지능형 마케팅, BI 비즈니스 인텔리전스 분석, 이미지 통합 및 치과의 전체 비즈니스 프로세스를 포괄하는 기타 SaaS 소프트웨어 서비스를 제공합니다. e Dental Dental Mall은 산업 체인 상위권에 있는 1,000개 이상의 유명 국내외 소모품 브랜드와 연결되고 거의 20,000개 이상의 소모품을 신중하게 선택하며 Lingjian Yuejian은 치과 기관에 원스톱 소모품 구매 서비스를 제공합니다. "정확한 진단, 정확한 치아교정, 정확한 모니터링"을 기반으로 한 차세대 눈에 보이지 않는 치아교정 솔루션 서비스 제공업체인 컨셉은 Yuejian 성인 치아교정, Yueya 어린이 조기교정 등 다양한 제품 시리즈를 출시했습니다.

업계 최고의 치과 기관인 LeadHealth는 항상 기술과 서비스의 우수성을 추구합니다. Lingjian은 치과 진료소를 위한 교정 알고리즘을 제공합니다. 치과 의사는 매일 상담 중에 소비자의 구강 치아 상태를 사진으로 찍어 해당 알고리즘을 통해 해당 진단 및 치료 제안을 제공하여 치과 의사의 효율성을 높일 수 있습니다.

플랫폼 기능 및 비즈니스 문제점

치과 진료소의 근무 시간은 일반적으로 08:30부터 18:00까지 비교적 고정되어 있으며 휴일에는 더 바쁘고 시간이 한 달까지 연장되며 뚜렷한 최고점과 최저점을 볼 수 있습니다.

초기에 Linkage Information은 알고리즘 배포와 외부 서비스 제공을 위해 클라우드에서 GPU 시스템을 구입했지만 주로 다음과 같은 사용 중에 많은 문제에 직면했습니다.

낮은 자원 활용도 및 비용 낭비: 머신은 월 단위로 유지되며 근무 외 시간에는 업무 트래픽이 없습니다. 가능한 비즈니스 피크를 고려하여 여러 대의 GPU 머신을 보유하므로 비수기에는 활용도가 높지 않습니다. 미문. 전체 리소스 활용도는 약 5%로 유지됩니다.
피크 기간 동안 느린 비즈니스 응답: 갑작스러운 트래픽에 대한 대처 능력이 부족합니다. 예상을 초과하는 트래픽은 서비스 로드를 증가시키고 요청 응답 시간이 길어지며, 이는 비즈니스 피크 시 단일 요청 1회에 대한 최종 고객의 사용자 경험에 직접적인 영향을 미칩니다. 10분 동안 대기한 케이스입니다.
부족한 모니터링 및 문제 해결 기능: 교정 알고리즘은 반복 배포 과정에서 때때로 요청이 중단되고 프로그램 오류가 발생할 수 있습니다. 그러나 모니터링 및 경고 기능이 부족하여 사전에 이를 감지하는 것이 불가능합니다. 피드백을 제공하기 위해 단말기가 저장소를 사용해야 하는 경우가 많으며 이는 활성 최적화 알고리즘의 효율성을 감소시킵니다.

또한 빈번한 운영 및 유지 관리 작업과 지속적인 플랫폼 구축으로 인해 운영 및 유지 관리 학생들에게 많은 일상 작업이 발생하고 시스템의 불안정 요소도 증가합니다. 또한 최근 몇 년 동안 GPU 기술이 빠르게 발전하여 Jian을 주도하고 있습니다. 기술 학생들은 또한 이 분야에 계속해서 많은 에너지를 투자해야 합니다. 위의 문제에 대해 Lingjian Technology 학생들은 클라우드에서 더 좋고 효율적인 솔루션을 찾기 시작했습니다.

해결책

Leadtech 기술팀은 비용, 서비스 경험, 운영 및 유지 관리 효율성을 개선하기 위해 더 나은 솔루션을 모색해 왔으며, Alibaba Cloud의 여러 클라우드 제품을 비교한 후 마침내 기능 컴퓨팅에 집중했습니다.

Alibaba Cloud Function Compute는 이벤트 중심의 완전 관리형 컴퓨팅 서비스입니다. Function Compute를 통해 고객은 서버 등 인프라를 관리할 필요 없이 코드를 작성하고 업로드하기만 하면 됩니다. Function Compute는 컴퓨팅 리소스를 준비하고 유연하고 안정적인 방식으로 코드를 실행하며 로그 쿼리, 성능 모니터링, 경보 및 기타 기능을 제공합니다.

Function Computing은 기존 CPU 컴퓨팅 성능을 지원하는 것 외에도 GPU 컴퓨팅 성능도 지원합니다. 서버리스 컴퓨팅 개념을 채택하고 필요에 따라 할당된 GPU 컴퓨팅 리소스를 제공하여 원래의 장기간 사용으로 인한 성능 저하를 효과적으로 해결합니다. GPU 리소스 활용도, 높은 사용 비용, 낮은 탄력성 등의 문제점. AI 모델 추론, AI 모델 훈련, 오디오 및 비디오 가속 제작, 그래픽 및 이미지 가속 등과 같은 가속화된 워크로드를 효과적으로 처리하여 보다 편리하고 효율적인 GPU 컴퓨팅 서비스를 고객에게 제공합니다.

함수 컴퓨팅 GPU 리소스 아키텍처 다이어그램은 다음과 같습니다.

기능 컴퓨팅 GPU는 가상화 기술을 사용하여 컴퓨팅 성능, 비디오 메모리 및 오류를 강력하게 격리하며 기본 애플리케이션과 100% 호환됩니다. Function Computing은 2단계 리소스 풀을 통해 컴퓨팅 파워의 신속한 공급을 보장합니다. Function Computing GPU 리소스 풀 플랫폼이 이를 보유하고 있으며, 고객은 이를 양만큼만 사용하면 되며, 유휴 리소스에 대한 비용을 지불할 필요가 없습니다.

함수 컴퓨팅 GPU 리소스 요청 모델은 다음과 같습니다.

GPU 기능이 배포된 후 고객은 실시간 추론 애플리케이션 시나리오에 필요한 인프라 기능을 제공하기 위해 예약 GPU 인스턴스의 자동 크기 조정 정책을 구성하여 예약 GPU 인스턴스를 열 수 있습니다. 기능 컴퓨팅 플랫폼은 고객이 구성한 스케일링 지표를 기반으로 GPU 인스턴스의 HPA를 예약합니다. 고객 요청은 추론 서비스를 위해 예약된 GPU 인스턴스에 우선적으로 할당되며 플랫폼은 콜드 스타트를 완전히 차단하며 비즈니스는 낮은 수준을 유지합니다. - 지연 응답. 또한 플랫폼은 관찰 가능, 로그, 모니터링, 경보 및 기타 시스템을 통합하여 문제 해결 효율성과 일상적인 운영 및 유지 관리 작업을 단순화합니다.

마지막으로 Leadgen 기술팀의 일련의 검증을 거쳐 Function Compute의 최종 아키텍처 다이어그램은 다음과 같습니다.

아키텍처 다이어그램은 매우 간단하며 비즈니스 프로세스는 다음과 같습니다.

고객은 교정 알고리즘을 표준 이미지로 만들어 Alibaba Cloud 이미지 창고 ACR에 넣습니다.
프런트 엔드에 치과 교정 호출 요청이 있고 인스턴스를 초기화해야 하는 경우 FC는 ACR 및 기본 GPU 리소스에서 이미지를 가져와 인스턴스 초기화를 완료하고 알고리즘 애플리케이션 배포를 완료합니다.
교정 계산 요청은 계산을 위해 새로 생성된 GPU 애플리케이션으로 전송되고 결과가 반환됩니다.

결과 및 장점

Function Compute에 GPU 컴퓨팅 로드를 배치함으로써 Leadgen 기술 팀은 이전에 발생한 사용 문제를 성공적으로 해결했습니다.

비용 최적화: Function Compute의 종량제 과금 방식은 실제 요청 처리 시간을 기준으로 과금하므로 리소스 보유 비용이 최소화됩니다. 이전 월별 GPU 리소스 보유 비용과 비교하여 Function Compute의 비용은 약 90% 감소했습니다. , 좋은 비용 절감 효과를 달성합니다.
피크 기간 동안의 비즈니스 경험: 피크 비즈니스 기간 동안의 조기 리소스 풀업과 갑작스러운 리소스의 온디맨드 탄력성을 통해 백엔드 리소스를 적시에 공급할 수 있습니다. 기능 컴퓨팅이 배포된 후에는 매장에 더 이상 긴 대기열이 없습니다. , 이는 상점의 효율성을 크게 향상시킵니다.
효율적인 운영 및 유지관리 : Function Compute에 내장된 모니터링, 로깅, 알람 시스템을 통해 업무 전반에 대한 모니터링 알람을 구성하여 이상 발생 시 예외 푸시를 받을 수 있습니다. 가능한 한 빨리 알림을 제공하고 완전한 로그 시스템과 기능 컴퓨팅 전문 기술 팀의 도움을 받아 적시에 프로그램 문제를 찾아 해결합니다.

또한 기능 컴퓨팅 배포를 사용하면 전체 시스템에 우수한 확장성이 제공되며, 향후 비즈니스 성장을 위해 핵심 GPU 리소스 계획 문제에 대해 걱정할 필요가 없으며 이는 또한 비즈니스의 지속 가능한 발전을 위한 견고한 기반을 마련합니다.

요약 및 전망

핵심 애플리케이션을 기능 컴퓨팅 플랫폼으로 마이그레이션함으로써 Leadgene 기술 팀은 비즈니스 성장으로 인한 과제를 성공적으로 해결했을 뿐만 아니라 비용 구조를 대폭 최적화하는 동시에 개발, 운영 및 유지 관리 프로세스를 가속화하여 전례 없는 민첩성과 효율성을 달성했습니다.

앞으로도 Leadgen의 기술팀은 Function Compute와의 협력을 더욱 심화해 나갈 것입니다. 회사의 비즈니스 영역이 계속 확장됨에 따라 더 많은 애플리케이션 시나리오가 함수 컴퓨팅의 탄력적인 확장성, 저비용 및 고효율의 이점을 누릴 것으로 예상됩니다. Leadgen의 기술팀은 제품 출시 시간을 더욱 단축하고 사용자 경험을 개선하며 운영 비용을 지속적으로 절감하기 위해 새로운 비즈니스를 전개할 때 기능 컴퓨팅 아키텍처의 사용에 우선순위를 둘 계획입니다.

또한 Alibaba Cloud Function Computing은 LeadHealth와 협력하여 의료 및 건강 산업의 디지털 혁신을 지원하는 보다 효율적이고 스마트한 의료 서비스 솔루션을 모색할 수 있기를 기대하고 있습니다. 양 당사자 간의 긴밀한 협력을 통해 LeadHealth는 환자와 의료 종사자에게 더 나은 서비스를 제공하고 업계가 보다 지능적이고 효율적인 방향으로 나아갈 수 있도록 촉진할 수 있다고 믿습니다.

함수 계산을 경험하려면 여기를 클릭하세요 .