"Зоопарк" нейронных сетей

Данная схема наиболее полно отражает все типы искусственных нейронных сетей, которые наиболее часто используются в современных задачах.

"Зоопарк нейронных сетей" любезно подготовлен The Asimov Institute.

Оригинал есть только на английском языке.

Мы перевели его на русский.

Основные элементы архитектур нейронных сетей на схеме

Input cell - входные значения нейронной сети
Backfed Input Cell - нейроны с обратными связями
Noisy Input Cell - зашумленные входные значения
Hidden Cell - скрытые нейроны
Probablisitic Hidden Cell - скрытые вероятностные нейроны
Spiking Hidden Cell - скрытые импульсные нейроны
Capsule Cell - капсульные нейроны
Output Cell - выходные значения нейронной сети
Match Input Output Cell - нейроны сравнения входных и выходных значений
Recurrent Cell - нейроны с рекуррентными или неполными связями
Memory Cell - нейроны памяти
Gated Memory Cell - нейроны памяти с фильтром
Kernel - ядро
Convolution or Pool - свертка

Типы нейронных сетей по группам

Perceptron (P) - Искусственный нейрон (перцептрон)

Feed Forward (FF) - Нейронная сеть прямого распространения

Radial Basis Network (RBF) - Нейронная сеть радиально-базисных функций

Deep Feed Forward (DFF) - Многослойная нейронная сеть прямого распространения

Recurrent Neural Network (RNN) - Рекуррентная нейронная сеть

Long Short-Term Memory (LSTM) - Нейронная сеть долгой краткосрочной памяти

Gated Recurrent Unit (GRU) - Управляемые рекуррентные нейроны

Auto Encoder (AE) - Автоэнкодер

Variational AE (VAE) - Вариационный автоэнкодер

Denoising AE (DAE) - Шумоподавляющий автоэнкодер

Sparse AE (SAE) - Разреженный автоэнкодер

Markov Chain (MC) - Цепь Маркова

Hopfield Network (HN) - Сеть Хопфилда

Boltzmann Machine (BM) - Машина Больцмана

Restricted BM (RBM) - Ограниченная машина Больцмана

Deep Belief Network (DBN) - Глубокая сеть доверия

Deep Convolutional Network (DAE) - Глубокая сверточная нейронная сеть

Deconvolutional Network (DN) - Развертывающая нейронная сеть

Deep Convolutional Inverse Graphics Network (DCIGN) - Глубокая сверточная обратная глубинная сеть 

Generative Adversarial Network (GAN) - Генеративная состязательная сеть

Liquid State Machine (LSM) - Машина неустойчивых состояний

Extreme Learning Machine (ELM) - Сеть экстремального обучения

Echo State Network (ESN) - Нейронная эхо-сеть

Deep Residual Network (DRN)  - Глубокая остаточная сеть

Differentiable Neural Computer (DNC) - Дифференцируемый нейронный компьютер

Neural Turing Machine (NTM) - Нейронная машина Тьюринга

Capsule Network (CN) - Капсульная нейронная сеть

Kohonen Network (KN) - Нейронная сеть Кохонена

Attention Network (AN) - Нейронная сеть внимания