Урок 2.1. Искусственный нейрон, понятие и принцип работы

Что такое биологический нейрон

Нейронами называют клетки головного мозга млекопитающих. Из школьного курса биологии вы должны помнить, что такое клетка. 

Мозг человека является самым сложным органом, и содержит пять отделов. Нейроны головного мозга выполняют различные функции и расположены не в каждом отделе. 

Для упрощения мы будем относить к нейронам клетки коры головного мозга. Кора головного мозга - относительно молодой отдел, который есть только у млекопитающих. Кора головного мозга человека содержит 80-90 млрд. нейронов и 1 квадриллион (1 000 000 000 000 000) связей между ними. 

Входные связи нейрона называются дендритами, выходная связь - это аксон. Аксон может разделяться на ответвления. Таких ответвлений может быть много и структура их может быть различна. Информация передается электрохимическим способом.

Специальные вещества, называемые нейротрансмитерами, используются для передачи электрического сигнала между нейронами. Передача сигнала происходит через специальные соединения, которые называются синапсами.

Таким образом каждый нейрон состоит из клеточного тела с ядром, множества входных каналов (дендритов), проводящих нервные импульсы к телу нейрона, и одного длинного отростка (аксона), служащего источником выходного сигнала нейрона

Основные функции биологического нейрона - получение, передача и хранение информации.

Фильтрование и предварительная обработка входных сигналов осуществляется за счет синапсов – своеобразного интерфейса, разделяющего мембраны нервных окончаний контактирующих нервных клеток. В процессе прохождения через синапс могут изменяться и, как правило, меняются амплитуда и частота проходящего сигнала. Механизм передачи и преобразования такого сигнала может быть химическим, электрическим или смешанным.

Что такое искусственный нейрон

По аналогии с биологическим нейроном в 1943 году Уоррен Маккалок (Warren Sturgis McCulloch) и Уолтер Питтс (Walter Harry Pitts) создали математическую модель нейрона.

Он имеет, в общем случае, множество входов и один выход. На входы нейрона поступают сигналы от внешних источников или с выходов других нейронов. Эти сигналы, как правило, должны быть нормализованы в заданных пределах, например, от 0 до 1. 

Входные сигналы дальше проводятся в тело нейрона по синаптическим связям. Синапсы могут усиливать или ослаблять сигнал определённого входа, а также делать его влияние положительным или отрицательным, что достигается умножением сигнала на соответствующий синаптический (весовой) коэффициент. 

Взвешенные сигналы суммируются в теле нейрона, формируя таким образом его состояние. Выход нейрона получается в результате применения активационной (передаточной) функции к рассчитанному состоянию. Полученный выход может быть как выходом нейронной сети в целом, так и подаваться на входы других слоёв нейронов, в том числе предыдущие слои.

В зависимости от класса нейронной сети некоторые нейроны могут иметь всего один вход, а функция активации может отсутствовать, формально выдавая как результат значение аргумента.

Особенности работы искусственного нейрона

Разберем по шагам процесс прохождения получения и передачи сигнала искусственным нейроном.

1. Входные значения: x₁, x₂, x₃, ..., x_n поступают в тело нейрона
2. Каждое входное значение умножается на весовой коэффициент синаптической связи. 
3. Значения входных переменных на шаге два суммируются в теле нейрона, давая сумму S. Одновременно к ним может добавляться значение смещения w₀ (в дальнейших уроках поговорим, для чего это нужно).
4. Таким образом S=SUM(x_i*w_i)+w₀
   Тело нейрона активируется. К полученному на шаге 3 значению применяется функция активации F(S).
   После применения функции активации мы получаем выходное значение искусственного нейрона Y=F(S).

Для модели единственного искусственного нейрона расчет на этом этапе заканчивается.
Если нейронов в модели несколько - выходные значения Y передаются дальше по цепочке. В таком случае выходные значения Y первого нейрона могут являться входными значениями x для второго нейрона.

У вас могут возникнуть вопросы. Откуда берутся весовые коэффициенты и как они настраиваются. Об этом поговорим в следующих уроках, когда будет разбирать обучение нейронной сети.

Ограничения математической модели искусственного нейрона

У модели искусственного нейрона есть недостатки, из-за которых он не может решать сложные задачи, работая в одиночку.
Искусственный нейрон может моделировать простые логические операции:

• логическое "И",
• логическое "ИЛИ",
• логические "НЕ".

Для решения сложных математических задач искусственные нейроны объединяются в слои. Слои объединяются в нейронные сети, которые раньше называли перцептронами.

Классификация искусственных нейронов

Искусственные нейроны внутри сети разделяют на три категории:

1. входные - принимают входные значения, усиливая или ослабляя входной сигнал, при этом вычисления передаточной функции в таких нейронах не происходит.
2. промежуточные - выполняют основные вычислительные операции,
3. выходные - также производят вычислительные операции и передают конечные выходные значения.

Выводы

Биологический нейрон состоит из тела и отростков. Тело нейрона может возбуждаться, получая входящие нервные импульсы и передавая исходящие. Входные короткие отростки называют дендритами, выходной длинный отросток - аксоном. Модель искусственного нейрона создана на основе биологического прототипа. Искусственный нейрон является сумматором. Сумма взвешенных входов формирует его состояние.

Выходной сигнал рассчитывается как значение функции активации. Нейроны объединяются в слои, слои в сети, формируя различные их архитектуры.

В следующем уроке поговорим о функциях активации.