Базовая искусственная модель

 

Чтобы отразить соответствие нейронных систем биологическому прообразу, определение искусственного нейрона дается следующим образом.

Он получает входные сигналы (исходные данные либо выходные сигналы других нейронов нейронной сети) через несколько входных каналов. Каждый входной сигнал проходит через соединение, имеющее определенную интенсивность (или вес); этот вес соответствует синаптической активности биологического нейрона. С каждым нейроном связано определенное пороговое значение. Вычисляется взвешенная сумма входов (), из нее вычитается пороговое значение P и в результате получается величина активации нейрона , которая называется пост-синаптическим потенциалом нейрона (PSP).

На рисунке? представлена схема формального нейрона.

//рис? – схема формального нейрона (1)

Сигнал активации преобразуется с помощью функции активации (или передаточной функции) и в результате получается выходной сигнал нейрона C_outp:

Если при этом использовать ступенчатую функцию активации

f(x)={ 0, x<0

0, x=0

1, x>0,

то такой нейрон будет работать точно так же, как описанный выше естественный нейрон (вычесть пороговое значение из взвешенной суммы и сравнить результат с нулем – это то же самое, что сравнить взвешенную сумму с пороговым значением). В действительности, пороговые функции редко используются в искусственных нейронных сетях.

Иногда функция активации подбирается таким образом, чтобы выполнялись условия:

f(x)={ 0, x<0

0, x=0

>0, x>0

Таким образом, нейрон находится либо в возбужденном, либо в невозбужденном состоянии, но возбуждающее действие может быть различным.

Если снять ограничение f(x)>=0 (и соответственно f(x)=0 при x<0), то веса смогут быть отрицательными. Это означает, что сигнал будет оказывать не возбуждающее, а тормозящее воздействие (в мозге присутствуют тормозящие нейроны).

Возникает вопрос: как соединять нейроны друг с другом, т.е. какова должна быть топология (структура графа) нейронной сети? Если сеть предполагается для чего-то использовать, то у нее должны быть входы (принимающие значения интересующих нас переменных из внешнего мира) и выходы (прогнозы или управляющие сигналы). Входы и выходы соответствуют сенсорным и двигательным нервам, например идущим, соответственно, от глаз и в руки. Кроме этого, однако, в сети может быть еще много промежуточных (скрытых) нейронов, выполняющих внутренние функции. Входные, скрытые и выходные нейроны должны быть связаны между собой.

Ключевой вопрос здесь – обратная связь. Простейшая сеть имеет структуру прямой передачи сигнала: Сигналы проходят от входов через скрытые элементы и приходят на выходные элементы. Такая структура имеет устойчивое поведение. Если же сеть рекуррентная (т.е. содержит связи, ведущие назад от более дальних к более ближним нейронам), то она может быть неустойчива и иметь очень сложную динамику поведения. Рекуррентные сети представляют большой интерес для исследователей в области нейронных сетей, однако при решении практических задач наиболее полезными, по крайней мере до сих пор, оказались структуры прямой передачи. Типичный пример сетей с прямой передачей сигнала показан на рисунках? и??.

рис? Однослойный перцептрон

//здесь рисунок двуслойного перцептрона

 

рис? Двуслойный перцептрон (2)

При работе (использовании) сети во входные элементы подаются значения входных переменных, затем последовательно отрабатывают нейроны промежуточных и выходного слоев. Каждый из них вычисляет свое значение активации, беря взвешенную сумму выходов элементов предыдущего слоя и вычитая из нее пороговое значение. Затем значение активации преобразуются с помощью функции активации, и в результате получается выход нейрона. После того, как вся сеть отработает, выходные значения элементов выходного слоя принимаются за выход всей сети в целом.