|
Аналогичная ситуация возникает, когда мы имеем топографическую проекцию и нейроны с локальными рецептивными полями. Предположим, что у нас есть нейронная сеть, состоящая из двух плоских слоев (рисунок ниже). Допустим, что состояние нейронов первого слоя образует определенную картинку. Эта картинка через проекционные волокна передается на второй слой. Нейроны второго слоя имеют синаптические связи с теми волокнами, которые попадают в границы их рецептивных полей. Таким образом, каждый из нейронов второго слоя видит только маленький фрагмент исходной картинки первого слоя. Топографическая проекция образа на локальные рецептивные поля Есть очевидный способ, как запомнить на втором слое подаваемую картинку. Надо выбрать такой набор нейронов, чтобы их рецептивные поля полностью покрывали проецируемый образ. Запомнить на каждом из нейронов свой фрагмент изображения. А чтобы воспоминание приобрело связанность – пометить все эти нейроны общим маркером, указывающим на их принадлежность к одному набору. Такое запоминание очень просто, но крайне расточительно по количеству задействованных нейронов. Каждая новая картинка будет требовать новый распределенный набор элементов памяти. Получить экономию можно, если окажется, что у разных изображений повторяются какие-либо общие фрагменты, тогда можно не заставлять новый нейрон запоминать такой фрагмент, а воспользоваться уже существующим нейроном, просто добавив ему еще один маркер, теперь уже от новой картинки. Таким образом, мы приходим к основной идее распределенного запоминания. Опишем ее сначала для картинки и топографической проекции. Будем подавать на первую зону различные изображения и проецировать их на вторую зону. Если мы сделаем рецептивные поля нейронов достаточно малыми, то количество уникальных картинок в каждой локальной области окажется не столь велико. Мы можем так подобрать размеры рецептивного поля, чтобы в область, размеры которой будут приблизительно совпадать с размером рецептивного поля нейронов, поместились все уникальные варианты локальных изображений. Создадим пространственные области, содержащие нейроны-детекторы. Сделаем так, чтобы каждая область содержала детекторы всех возможных уникальных образов и чтобы такие области покрывали все пространство второй зоны. Для этого мы можем воспользоваться описанными ранее принципами выделения наборов факторов. Задача детекторов – сравнивать подаваемые на их рецептивные поля образы с образами, характерными для них. Для такого сравнения образов можно использовать свертку по рецептивному полю R: — 66 —
|