【446】 깊은 학습

REF :  깊은 19 기본적인 소개 기계 학습 알고리즘 신경망 NN 학습

  1. 구성 요소 : 입력 층 (입력 층), 숨겨진 레이어 (은닉층), 출력층 (출력층)
  2. 장치에 의해 각 (단위) 구성 (원)
  3. 실시 예는 상기 입력 층으로부터 특징 벡터들의 트레이닝 세트를 가져
  4. 오른쪽 접속 노드의 무게 (중량)를 수신 레벨 후, 출력은 입력 층은 다음 층
  5. 숨겨진 층의 수는, 입력 층 층, 층과 출력층 임의
  6. 각 유닛은 또한 생물학적 기원의 관점에서와 같은 신경 노드라고 정의 될 수있다
  7. 뉴럴 네트워크의 2 개 이상의 층 (입력하지 층)
  8. 가중 층, 및 비 - 선형 변환 출력 방정식 합산
  9. (숨겨진 레이어) 숨겨진 레이어 충분한 수의 훈련 충분히 큰 세트가 있는지 다층 포워드 신경망으로, 이론적으로, 우리는 방정식을 시뮬레이션 할

신경 네트워크 아키텍처 설계

  1. 신경망 학습 데이터를 사용하기 전에, 신경망은 층의 수, 및 각각의 유닛의 수를 결정해야
  2. 특징 벡터는 상기 입력 층에 전달 될 때 전형적 (학습 과정을 가속화하기 위하여) 0과 1 사이 (평준화)을 규격화 
  3. 변수는 개별 기능 부 입력 값의 대응하는 값의 각각에 할당 될 수로 부호화 할 수있다
    • 예를 들어 : 특징 량은 세 가지 값을 취할 수있다 (A0는 A1, A2)는 입력 유닛 (3)은을 나타낼 수있다
    • A = (A0)의 경우, 그 값은 (1), 0 다른 세트를 취할 A0 대표이고;
    • 그래서, 다른 A = A1의 다음 대표 값 A1 촬영 장치 (1)는, 0을 고려하면
  4. 분류 (분류) 문제에 대해 사용될 수있는 신경망 해결할 수 회귀 (회귀) 문제
    • 이 클래스 2이면 분류, 상기 출력 유닛은 (0과 1이 클래스 2를 나타낸다)으로 표시 될 수있다
      각각의 클래스는 출력 유닛을 나타낸다으로, 만약 두 개 이상의 클래스
      출력층의 세포 수는 카테고리들의 수와 일반적으로 동일하도록
    • 명확한 규칙은 숨겨진 층의 가장 좋은 수를 설계 없습니다
      테스트하고 실험 테스트 및 오류 및 정확성을 향상시키기 위해
  5. 교차 검증 (유효성 크로스 -)
    K 배 교차 검증이

    3 점으로 나누어
    두 개의 훈련 첫번째 시험 후 처음
    두 번째, 양측은, 중간 시험 온순한
    개의 트레이닝 전에 세 번, 마지막 테스트
  6. 역 전파 알고리즘
    • 반복 설정 한 교육의 인스턴스를 처리하려면
    • 진정한 값으로부터 (예측값) 후 신경망의 입력 층의 예측 된 값 사이의 비교 (목표 값)
    • (출력층 => 은닉층 => 입력 층)에서 반대 방향 오류 (에러) 각 가중치 연결 가중치를 갱신 (중량)을 최소화 할
    • 알고리즘 세부 사항
      • 입력 : D : 데이터 세트 L 학습 레이트 (학습율) 순방향 다층 신경망
      • 출력 : 숙련 된 신경 네트워크 (훈련 된 신경망)

      • 웨이트 (가중치) 및 바이어스 (바이어스) 초기화 : -1 1 또는 -0.5 내지 0.5 사이의 임의의 초기화, 각 셀에 바이어스를 가지고
      • 각 훈련 예를 들어 X를 들어, 다음 단계를 수행합니다 :
        • 순방향 입력 층으로부터 송신
        • $$ I_ {} J = \ sum_ {I} \ {omega_ IJ} O_ {I} + \ Theta_ {J} $$

 

추천

출처www.cnblogs.com/alex-bn-lee/p/11779202.html