서비스 데이터 처리 로그 : 시나리오 개요 규칙

사용 시나리오 1 : 무료 안무

간단한 파이썬 스타일의 구성 파일에 의해 조율 된, 당신은 일반적으로 데이터 처리 요구 사항과 자유도의 80 %에 도달하는 코드를 작성할 필요가 없습니다 :
영상

다음과 같은 배열을 포함 제공 기능 내장 및 확장 성을 포함한다 :

  • 할당 필드
  • 추출 필드
  • 통용 조작
  • 할당 변환
  • 시리얼 컨버터
  • 부문 이벤트
  • 예약 이벤트
  • 드롭 이벤트
  • 예약 된 필드
  • 폐기 필드
  • 자동 추출 KV
  • 이름 바꾸기 필드
  • 출력 (복사) 이벤트

시나리오 2를 사용하여 내장 변환 모듈을 사용하여

서비스 데이터 처리 기능을 제공하는 로그 완벽한 내장 처리 모듈, 특히 정규 표현식, KV를 들어, JSON, 조회 및 기타 지원 유연하고 완벽한. 전체 내장 변환 모듈은 총 전환의 80 % 필요를 커버 할 수있는, 기존의 데이터 처리를 위해 전폭적 인 지원을 변환 :

  • 열 값 (정적 / 복사 / UDF) : 계산 지원하는 다양한 기능
  • 정기 추출 칼럼 : 보통 완벽하게 지원, 동적 추출 필드 이름 등 포함
  • CSV 형식 추출물 : 표준 CSV 지원
  • 사전 매핑 : 직접 필드 매핑
  • 외부 OSS 다중 열 매핑 : 데이터 농축는 증분 새로 고침, 외부 OSS에 협회에서 넓은 일치하는 CSV를 지원합니다.
  • 외부 데이터베이스 매핑 다중 열 : 연결된 외부 데이터베이스의 데이터 농축는 동적 새로 고침, 다양한 매칭을 지원합니다.
  • 외부 Logstore 다중 열 매핑 : 연관된 외부 logstore 데이터 농축은 점진적 리프레시, 확장 검색을 지원한다.
  • 자동 KV : 자동 추출 KV도 지원하는 사용자 정의 구분 기호 , 자동 탈출 장면을
  • JSON가 자동으로 확장 : 지원, JSON 컨텐츠를 자동 확장 배열을 포함하여 , 사용자 정의 프로세스에 대한 지원을 시작했다.
  • JSON-JMES 필터 : JMES 공정을 선택하면 동적 계산을 지원한다.
  • 스플릿 이벤트 (JSON 어레이 또는 문자열 기준) : 이벤트 기반 문자열 또는 JSON 배열의 배열에 대한 분할
  • 스트링 또는 JSON의 배열에 기초하여 다중 필드 병합 어레이 : 행 (문자열이나 배열 JSON 기준)의 조합 된 복수

시나리오 3을 사용하여 내장 된 표현식 함수를 사용하여

현재 외부 플러그 아직 열 서비스에 쓰기를 기록하지만, 기본 제공 기능 150가지 , 주류 포함하는 데이터 처리 요구를 덮는 :

  • 기본 조작 기능 : 필드 값, 제어, 비교, 판정 용기 다중 필드 동작
  • 전송 기능 : 기본 유형 변환, 디지털 변환
  • 산술 기능 : 다중 값 비교 계산, 수학적 계산 및 다른 수학적 파라미터에 기초하여 계산
  • 문자열 기능 : 다중 필드 동작, 코딩 / 디코딩, 정렬, 대안 적으로, 종래의 구조는, 판정, 분할, 포맷 및 다른 문자를 찾을 회상하는 판정 세트
  • 날짜 시간 기능 : 날짜 시간 스마트 전환, 취득 날짜 및 시간, 날짜와 시간 비교 날짜와 인수의 시간, 인수 유닉스 시간 획득 날짜 시간 문자열, 수정 날짜, 수정 날짜 및 시간, 속성
  • 정규식 기능 : 전계 추출 판단 일치 대안 분류 잘라
  • JSON과 XML 기능 : 추출 필터링
  • 다른 고차원 적 기능 : 시스템 로그 기능 등

사용 시나리오 4 : 확장 또는 UDF

기본 파이썬 엔진은 현재 이론적으로, 파이썬 라이브러리가 로그 데이터 처리 서비스를 입력 할 수있는 작은 패키지, 현재 사용자의 UDF 기능, 아직 오픈이 될 수 사용하지만, 외부 고객은 기본적으로 완료 내장 함수 150 + (및 계산)를 사용하여 대부분의 작업은, 수요를 충족시킬 수 없다, 티켓을 인상하고시기 적절한 지원을받을 수 있습니다.

상기 참조

에 오신 것을 환영 스캔 코드를 직접 적시 알리 구름 엔지니어에 실시간 업데이트를 지원하는 공식 손톱 그룹 (11775223)에 가입하기 :
영상

추천

출처yq.aliyun.com/articles/704937