На этом шаге мы рассмотрим, что такое слой.
В типичной искусственной нейронной сети с прямой связью нейроны образуют слои. Каждый слой состоит из определенного количества нейронов, выстроенных в строку или столбец в зависимости от диаграммы (варианты эквивалентны). В сети с прямой связью, которую мы будем создавать, сигналы всегда передаются в одном направлении от одного слоя к другому. Нейроны в каждом слое посылают выходной сигнал, который является входным для нейронов следующего слоя. Каждый нейрон в каждом слое связан с каждым нейроном в следующем слое.
Первый слой называется входным, он получает сигналы от некоторого внешнего объекта. Последний слой известен как выходной, и его выходные сигналы обычно должен интерпретировать внешний субъект, чтобы получить осмысленный результат. Слои, расположенные между входным и выходным слоями, называются скрытыми. В простых нейронных сетях, таких как та, которую мы будем строить, есть только один скрытый слой, но в сетях глубокого обучения слоев много. На рисунке 1 показаны слои, образующие простую сеть.
Рис.1. Простая нейронная сеть с одним входным слоем, состоящим из двух нейронов, одним скрытым слоем из четырех нейронов и одним выходным слоем из трех нейронов.
Количество нейронов в каждом слое произвольно
Обратите внимание на то, как выходные сигналы одного слоя используются в качестве входных для каждого нейрона следующего слоя.
Эти слои просто манипулируют числами с плавающей точкой. Входные сигналы для входного слоя и выходные сигналы выходного слоя являются числами с плавающей точкой.
Очевидно, что эти числа должны представлять что-то значимое. Представим сеть, разработанную для классификации небольших черно-белых изображений животных. Возможно, ее входной слой имеет 100 нейронов, представляющих интенсивность оттенков серого для каждого пикселя в изображении животного размером 10x10 пикселей, а выходной слой имеет пять нейронов, представляющих вероятность того, что это изображение млекопитающего, рептилии, амфибии, рыбы или птицы. Окончательная классификация может быть определена выходным нейроном с самым высоким выходным сигналом с плавающей точкой. Если бы выходные числа были равны 0,24, 0,65, 0,70, 0,12 и 0,21, то изображение можно было бы классифицировать как амфибию.
На следующем шаге мы рассмотрим обратное распространение.