ОТ РЕДАКЦИИ 0
Он представляет собой уменьшение размера называется оригинальные высокими одномерными векторы признаков в низком мерном. Общие методы снижения размерности анализ главные компонентов, линейный дискриминантный анализ, изометрия, локально линейное вложение, лапласиан отображение функции, Местность Сохраняя проекция .
01 РСА теоретический максимум дисперсии
Q1: как определить основной ингредиент? Из этого определения, как проектировать таким образом, чтобы целевая функция, чтобы извлечь основную цель сокращения компонентов Вейдер? Для этой целевой функции, как решить проблему PCA?
A1: PCA, направленный на поиск данных основных компонентов, а также использовать эти основные компоненты, характеризующие исходные данные, так как для достижения цели снижения размерности. См доказательство P75-77 процесса
02 PCA наименьших квадратов теории ошибок
Q1: PCA решен на самом деле лучшее направление проекции, то есть прямая линия, которая представляет собой математическая задача в линейной регрессии целях совпадают ли определение PCA с точки зрения возврата целей и, соответственно, решить эту проблему?
A1: задача линейного регрессионного решается так, что линейная функция, соответствующая прямой линии, чтобы лучше соответствовать набор образцов. Если определение целевой PCA с этой точки зрения, то проблема будет преобразована в задачу регрессии. Доказательство см P79-81
03 линейный дискриминантный анализ
LDA является машинным обучением, на основе интеллектуального анализа данных популярной классики в этой области. По сравнению с PCA, LDA может быть использован в качестве своего рода сокращение Размерности надзора алгоритма. В PCA, алгоритм не учитывает данные тегов (категория), но исходные данные отображаются на некоторые из только большего направления дисперсии.
Q1: Для того чтобы данные с этикеткой класса, она должна быть, как разработать целевую функция делает процесс уменьшения размерности без потери информации категории? В этой цели, он должен быть, как решить?
A1: LDA для классификации первого сервис, до тех пор, как направление проекции найти ж, таким образом, что образец в исходной проекции в качестве отдельной категории.
---- между центральной идеей максимального расстояния LDA на основе и минимальных классов расстояния. Поскольку модель слишком проста, выразительная сила имеет некоторые ограничения, мы можем расширить за счет внедрения метода ядра LDA для обработки распределение более сложных данных.
04 линейный дискриминантный анализ в анализе главных компонент
Q1: LDA и PCA классиком алгоритма снижения размерности, как анализировать сходства и различия принципиального с точки зрения применения? Два алгоритма сокращения размерности Что такое различие с контактом на целевой функции происходят с математической точки зрения?
A1: начиная от цели, РС является большим выбором направления дисперсии данных проекции, и выбор ЛД велика разница между классами в пределах подкатегорий дисперсии направлению проекции.
С точки зрения применения, может понять основной принцип ----- использовать PCA уменьшить размерность задачи без присмотра, контролировал применение LDA.