|
Обучение нейрона ведет к тому, что на его весах выделяется (фильтруется) определенный образ. Когда подается новый сигнал, то чем точнее совпадение сигнала и настройки весов, тем выше отклик нейрона. Обученный нейрон можно назвать нейроном-детектором. При этом образ, который описывается его весами, принято называть характерным стимулом. Главные компоненты Сама идея метода главных компонент проста и гениальна. Рассмотрим ее на бытовом уровне. Предположим, что у нас есть последовательность событий. Каждое из них мы описываем через его влияние на сенсоры, которыми мы воспринимаем мир. Допустим, что у нас m сенсоров, описывающих m признаков p1?pm. Все события для нас описываются векторами x размерности m. Каждый компонент xi такого вектора указывают на значение соответствующего i-го признака. Все вместе они образуют случайную величину X. Эти события мы можем изобразить в виде точек в m-мерном пространстве, где осями будут выступать наблюдаемые нами признаки. Усреднение значений x дает математическое ожидание случайной величины X, обозначаемое, как E(X). Если мы отцентрируем данные так, чтобы E(X)=0, то облако точек будет сконцентрировано вокруг начала координат. Это облако может оказаться вытянутым в каком-либо направлении. Перепробовав все возможные направления, мы можем найти такое, вдоль которого дисперсия данных будет максимальной. Так вот, такое направление соответствует первой главной компоненте. Сама главная компонента определяется единичным вектором, выходящим из начала координат и совпадающим с этим направлением. Далее мы можем найти другое направление, перпендикулярное первой компоненте, такое, чтобы вдоль него дисперсия также была максимальной среди всех перпендикулярных направлений. Найдя его, мы получим вторую компоненту. Затем мы можем продолжить поиск, задавшись условием, что искать надо среди направлений, перпендикулярных уже найденным компонентам. Если исходные координаты были линейно независимы, то так мы сможем поступить m раз, пока не закончится размерность пространства. Таким образом, мы получим mвзаимоортогональных компонент q, упорядоченных по тому, какой процент дисперсии данных они объясняют. Естественно, что полученные главные компоненты отражают внутренние закономерности наших данных. Но есть более простые характеристики, также описывающие суть имеющихся закономерностей. Предположим, что всего у нас n событий. Каждое событие описывается вектором xi. Компоненты этого вектора: xi=(xi1?xim)T Для каждого признака pk можно записать, как он проявлял себя в каждом из событий: — 10 —
|