속도가 사업의 성패를 결정하는 경우가 많습니다.
모델 훈련의 가속화는 기업이 새로운 AI 제품이나 서비스를 더 빠르게 개발할 수 있음을 의미하며 이를 통해 더 빠르게 시장에 출시하고 고객 요구 사항을 충족할 수 있습니다. 이러한 신속한 대응 능력은 기업이 경쟁에서 기회를 포착하고 시장 이점을 얻는 데 도움이 됩니다. 뿐만 아니라 가속화는 기업이 교육에 필요한 시간을 줄여 하드웨어 자원 점유와 에너지 소비를 줄여 ROI를 높일 수 있음을 의미합니다.
세계 최고의 고성능 AI 데이터 액세스 플랫폼인 Alluxio는 AI 모델 훈련 및 추론의 핵심 단계에서 널리 사용되었습니다. 이번에 우리는 중관촌의 유명한 인큐베이터 브랜드 Taili Station 및 데이터 인텔리전스 개발자의 수직 커뮤니티인 DataFun 과 협력하여 인터넷, 자동차 및 대형 모델 업계의 AI 인프라 전문가를 초청하여 업계 파트너에게 가속화된 AI 모델을 제공했습니다. 트레이닝. 테마가 있는 멋진 오프라인 살롱입니다.
AI 인프라 관련 IT/기술 리더, 설계자, 개발자 및 연구원, 생태 파트너 여러분의 가입과 참여를 진심으로 환영합니다.
QR 코드 인식
참여하려면 지금 등록하세요.
√
행사시간 : 2024년 4월 26일(금) 14:00~17:10
√
공동 주최: Alluxio x Inno.EcoS Lab x DataFun
√
장소: 베이징시 하이뎬구 중관춘동로 8호 동성빌딩 A타워 4층 401호
주제 1: 자율주행 모델 훈련에 Alluxio 적용 및 배포
Huixi Intelligence는 2023년에 자율주행 알고리즘 훈련용 파일 캐시를 NAS에서 Alluxio로 전환할 예정입니다. Alluxio를 기반으로 한 캐싱 시스템은 동시 데이터 액세스의 심각한 지연, 반복적인 데이터 다운로드, 반복된 데이터로 인한 공간 낭비, 스토리지 수동 관리로 인한 비효율성 및 높은 운영 위험 등 오랫동안 연구 개발을 괴롭혀온 문제를 해결합니다. 용량 이 증가하여 데이터 시스템의 가용성이 10배 향상되었습니다. 비용은 절반으로 줄어들고 사용 편의성이 크게 향상되어 팀이 알고리즘 개발 효율성을 크게 향상시키는 데 도움이 됩니다.
√
Huixi가 Alluxio를 선택한 이유는 무엇입니까?
√
클러스터 간 자율주행에 어떻게 사용하나요?
√
기능과 성능을 어떻게 적절하게 테스트하고 검증할 수 있습니까?
√
Alluxio의 운영 및 유지 관리 기능을 개선하는 방법은 무엇입니까?
주제 2: Alluxio가 하이브리드 클라우드에서 AI 스토리지를 가속화하는 방법
2023년 Zhihu는 모델 배포 시나리오에서 처음으로 Alluxio를 채택하여 클라우드 간 전용선 대역폭 문제를 해결했을 뿐만 아니라 읽기 성능이 2~3배 향상되었습니다.
Zhihu 내에서 대규모 언어 모델 교육이 개발됨에 따라 알고리즘 팀은 스토리지에 대한 더 높은 요구 사항도 제시했습니다. Alluxio가 제공하는 Fuse 인터페이스는 비즈니스 측면의 요구 사항을 잘 충족했으며 Zhihu 내에서 확고한 기반을 구축했으며 빠르게 개발은 초기 클러스터에서 여러 클러스터로 발전했습니다.
Zhihu는 모델 훈련 중 데이터 액세스 지연을 줄이기 위해 각 공용 클라우드에 Alluxio 클러스터 세트를 배포하여 오프라인 HDFS 클러스터의 훈련 데이터를 각 공용 클라우드에 신속하게 배포합니다. 클라우드. GPU 시스템에서는 데이터 마이그레이션이나 복사 없이 교육 작업의 GPU 활용도가 크게 향상됩니다.
주제 3: Alluxio AI - 차세대 AI/ML 훈련 플랫폼 데이터 I/O 솔루션
데이터 기반 AI 시대에는 스토리지에 있는 대량의 데이터에 효율적으로 액세스하는 것이 모델 훈련 및 서비스에 매우 중요합니다. 그러나 I/O 문제로 인해 성능이 저하되고 GPU 활용도가 제한되는 경우가 많습니다.
이번 공유에서는 Alluxio를 기반으로 구축된 고성능 데이터 액세스 레이어가 어떻게 I/O 문제를 극복하고 GPU 활용도를 크게 향상시킬 수 있는지 소개하겠습니다. 풍부한 사용자 사례와 실험 데이터를 통해 Alluxio에서 데이터 세트와 모델을 캐시하는 방법과 성능을 향상시키는 방법을 배우게 됩니다.
테마 4: 대규모 모델 훈련 및 추론 방향에 대한 Moda 커뮤니티의 기술 축적 및 장점
Tongyi Lab에 소속된 MoTa 커뮤니티는 커뮤니티 개발자가 LLM을 교육 및 적용하고 진정으로 포괄적인 AI를 달성할 수 있도록 LLM/MLLM/SD 방향의 교육에 대해 많은 탐구를 해왔습니다. MoTa 커뮤니티는 오픈 소스를 개발했습니다. 훈련 추론 프레임워크 SWIFT는 200개 이상의 LLM 및 100개 이상의 오픈 소스 데이터 세트에 대한 훈련 기능을 갖추고 있으며 새 모델로 쉽게 확장할 수 있습니다. SD AIGC의 방향으로 Moda Community와 Tongyi Laboratory의 기본 비전 팀은 훈련 프레임워크인 Scepter를 개발했습니다. 이 프레임워크는 LoRA 및 자체 개발한 SCEdit 기술을 사용하여 Vincentian 그래프 모델의 편리한 미세 조정 및 추론을 달성하고 제어 가능한 기능을 지원할 수 있습니다. 생성하다.
...
그리고 사이트에는 더 많은 흥미로운 콘텐츠가 여러분을 기다리고 있습니다.
......
14:00-14:05 호스트가 쇼를 엽니다.
14:05-14:45 Alluxio AI 차세대 AI/ML 훈련 플랫폼 데이터 I/O 솔루션
14:45-15:25 Alluxio가 하이브리드 클라우드에서 AI 스토리지를 가속화하는 방법
15:25-15:40 티 브레이크
15:40-16:20 자율주행 모델 훈련에 Alluxio 적용 및 배포
16:20-17:00 대규모 모델 훈련 및 추론 방향에 대한 Moda 커뮤니티의 기술 축적 및 이점
17:00-17:10 기술교류 및 종료
QR 코드 인식
참여하려면 지금 등록하세요.
이번 이벤트에 참여해보세요
행사에 참석하시는 모든 분들께 기념품을 드립니다.
이와 동시에 설문지 작성 및 선물 추첨 등의 현장 활동도 진행됩니다.
궁금하신 점은 글 마지막에 있는 보조원의 QR코드를 스캔하여 문의해주세요~
Alluxio는 분석 및 AI를 위한 고성능 데이터 플랫폼을 제공하는 세계 최고의 공급업체로서 엔터프라이즈 AI 제품의 가치 실현을 가속화하고 인프라 투자 수익을 극대화합니다. Alluxio 데이터 플랫폼은 컴퓨팅 시스템과 스토리지 시스템 사이에 위치하여 데이터 워크플로우의 모든 단계에서 데이터 플랫폼의 워크로드에 대한 통합 보기를 제공합니다. 이 플랫폼은 데이터가 어디에 있든 고성능 데이터 액세스를 제공하고, 데이터 엔지니어링을 단순화하고, GPU 활용도를 향상시키며, 클라우드 컴퓨팅 및 스토리지 비용을 절감합니다. 기업은 전용 스토리지를 사용하지 않고도 모델 교육 및 모델 제공을 크게 가속화하고 기존 데이터 레이크에 AI 인프라를 구축할 수 있습니다.
Alluxio는 주요 투자자들의 지원을 받아 글로벌 기술, 인터넷, 금융 및 통신 회사에 서비스를 제공하고 있으며, 현재 전 세계 상위 10개 인터넷 회사 중 9개가 Alluxio를 사용하고 있습니다. 자세한 내용은 www.alluxio.com.cn을 참조하세요.
Inno.EcoS Lab Taili Station은 Zhongguancun Dongsheng Science and Technology Park의 인큐베이터 브랜드로 Inno.EcoS 하이테크 기업 성장 생태계를 핵심으로 구축된 산업 혁신 인큐베이션 가속화 네트워크 및 혁신 플랫폼입니다. Taili Station은 생명과학, 디지털 경제, 신에너지/신소재 등 3대 산업 분야에 중점을 두고 있으며, 10년 이상 전 세계의 혁신과 기업가적 자원을 모아 다양한 서비스를 제공하고 있습니다. 창업 초기 단계, 가속화 단계, 성장 단계에 있는 첨단 기술 기업을 위한 선택입니다. 다양한 유형과 위치의 사무실 공간과 혁신적인 기업 기술 서비스를 지원합니다.
2017년 말에 설립된 DataFun은 데이터 인텔리전스 개발자에게 서비스를 제공하는 데 중점을 둔 수직 커뮤니티입니다. "수백만 명의 데이터 지능적인 개발자를 양성하고 수만 개의 기업이 디지털 지능을 갖도록 지원"한다는 사명을 바탕으로 약 6년간의 지속적인 운영을 통해 4,000명 이상의 해당 분야 전문가를 초대하여 경험을 공유했습니다. 10만 명 이상의 전문가가 영상, 사진, 텍스트 등의 형태로 2,000여 건의 적용 사례를 축적하고, 전체 네트워크를 통해 50만 명 이상의 정밀 개발자에게 영향을 미쳤습니다. DataFun에서는 데이터 인텔리전스 분야의 권위 있는 전문가, 최첨단 기술, 모범 사례 및 뛰어난 개발자 그룹에 연결할 수 있습니다. DataFun이 개발자, 기업, 산업계와 함께 데이터 인텔리전스 시대로 돌진할 수 있기를 바랍니다.
✦
[이벤트 세부정보를 자세히 알아보려면 어시스턴트를 추가하세요.]
✦
✦
【최근 인기】
✦
✦
【바오뎬 시장】
✦
이 기사는 WeChat 공개 계정인 Alluxio(Alluxio_China)에서 공유되었습니다.
침해가 있는 경우 [email protected]에 연락하여 삭제를 요청하세요. 이 글은 " OSC 소스 생성 계획
" 에 참여하고 있습니다 . 이 글을 읽고 계신 여러분의 많은 참여와 공유 부탁드립니다.