Детали реализации темпорального группировщика
Здесь мы еще раз перечислим шаги работы темпорального группировщика. Мы начнем на том месте, где закончил свою работу пространственный группировщик, оставив множество активных колонок представляющих собой входные данные. 1) Для каждой активной колонки проверяем в ней все клетки находящиеся в состоянии предсказания и активируем их. Если таких клеток нет, то активизируем все клетки в этой колонке. Полученное множество активных клеток является представлением текущих входных данных в контексте предыдущих входов. 2) Для каждого дендритного сегмента, каждой клетки региона, подсчитываем сколько действующих синапсов подключены к активным клеткам. Если их число превышает установленное пороговое значение, то такой дендритный сегмент считается активным. Клетки с активными дендритными сегментами переводятся в состояние предсказания (или предчувствия), если только они уже не активны благодаря прямому воздействию входных данных. Клетки без активных дендритных сегментов и неактивные от входных данных снизу становятся (или остаются) неактивными. Теперь совокупность клеток в состоянии предсказания (предчувствия) представляет из себя предсказание нашего региона. 3) Для всех активных дендритных сегментов, модифицируются значения перманентности для всех синапсов ассоциированных с этим сегментом. Для каждого потенциального синапса активного дендритного сегмента мы увеличиваем его значение перманентности, если он подключен к активной клетке, а если он подключен к пассивной клетке, то мы уменьшаем его перманентность. Все эти изменения в перманентности синапсов помечаются как временные. Так модифицируются синапсы сегмента, который уже обучен активироваться и, соответственно, вырабатывать предсказание. Однако, нам хотелось бы расширить наши предсказания во времени, если это возможно. Поэтому, мы выбираем другой дендритный сегмент у той же самой клетки для обучения. Мы подбираем для этого тот сегмент, который более всего соответствовал состоянию системы на предыдущем временном шаге. Для этого сегмента, используя это состояние предыдущего шага, мы увеличиваем перманентность тех синапсов, которые подключены к активным клеткам, и уменьшаем у тех, которые подключены к пассивным клеткам. Такие изменения в перманентности синапсов также помечаются как временные. 4) Если клетка переключается из пассивного состояния благодаря прямому воздействию входных данных, мы проходим по всем потенциальным синапсам ассоциированным с этой клеткой и удаляем у них все метки временности изменений. Таким образом, мы обновляем значения перманентности синапсов только если они корректно предсказали активацию клетки по входным данным. 5) Когда клетка переключается из любого активного состояния в пассивное, мы отменяем все изменения в перманентности синапсов, помеченные как временные, для всех потенциальных синапсов для этой клетки. Поскольку мы не хотим усиливать перманентность синапсов, которые не правильно предсказали активацию клетки от входных данных. Обратите внимание, что только те клетки, которые стали активными благодаря прямому воздействию входа могут распространять дальнейшую активность внутри региона НТМ. Иначе его предсказания вели бы нас к другим предсказаниям. Но при этом все активные клетки обоих типов (и от входных данных и в состоянии предсказания) создают совместно выход данного региона, который передается следующему региону в иерархии.
|