Аппаратная реализация нейросетей

Аппаратная реализация нейросетей связанна с практическим исполнением и внедрением. В этом случае, опять же, можно выделить три широких класса: цифровое, аналоговое и гибридное исполнения. В рамках этих категорий используется различная архитектура и методы для реализации необходимых функций.

1. Цифровое исполнение.

В цифровом исполнении все значения, обрабатываемые нейронной сетью, представлены бинарными словами с характерной длиной слова. В случае цифрового исполнения аппаратное обеспечение на основе НС может быть реализовано несколькими типами архитектур, наиболее важные приведены ниже с соответствующими примерами.

а) Каскадируемая архитектура.

Рассматриваемая архитектура практически идентична методам построения обычных цифровых процессоров, другими словами, нейронная сеть любого размера и архитектуры строится посредством стандартных блоков. Реализованными примерами такой архитектуры могут служить чип Philips Lneuro, MD1220 от Micro Devices, а также Neuralogix NLX-420 Neural Processor.

б) Архитектура RBF (Radial Basis Function).

Согласно этой архитектуре, функционирование сети определяется управлением эталонными векторами, определяющими области, на которые влияют данные при обучении. Преимуществом RBF НС является их быстрое обучение и относительно простое построение сетей прямого распространения. К коммерческим изделиям относятся чипы IBM ZICS и Nestor Ni1000. Интересным фактом является также и то, что произведенные в США чипы семейства IBM ZICS были разработаны в Европе.

в) Цифровые сигнальные процессоры (DSP).

Цифровые сигнальные процессоры (DSP) обладают мощной вычислительной структурой, позволяют реализовать различные алгоритмы информационных потоков в виде автономных устройств. Сравнительно невысокая цена, большой ассортимент и развитые средства разработки «внутреннего» программного обеспечения позволяют применять их при построении вычислительных систем с массовым параллелизмом. Но низкая тактовая частота большинства ЦСП, ограничивает максимальную частоту обрабатываемого сигнала до уровня 10...20 МГц.

г) Процессорные матрицы (систолические процессоры).

Процессорные матрицы (систолические процессоры) - это чипы, обычно близкие к обычным RISC процессорам и объединяющее в своем составе некоторое число процессорных элементов, вся же остальная логика, как правило, должна быть реализована на базе периферийных схем.

д) Программируемые логические интегральные схемы.

ПЛИС способны работать на более высоких частотах, но поскольку управление реализовано аппаратно, изменение алгоритмов работы требует перепрограммирования микросхемы. Поэтому, реализация нейровычислителей (являющихся ядром нейровычислительных систем) на основе ПЛИС требует участия эксперта на топологической стадии проектирования, так как автоматизированный режим разводки контактных площадок и связей между ними не позволят достигать 100% использования ресурсов кристалла. Это обстоятельство является принципиальным для сильно связанных схем, к которым относятся и нейровычислители. ПЛИС обладают рядом достоинств: высокая производительность с системными частотами до 500 МГц, наличие внутреннего матричного ОЗУ, малое энергопотребление, возможность реализации ПЛИС на основе энергонезависимой FLASH-памяти. Имеется большая номенклатура ПЛИС, выпускаемых различными производителями.

е) Контроллеры (микроконтроллеры).

Микроконтроллер - это специальная микросхема, предназначенная для управления различными электронными устройствами. Разработчики микроконтроллеров придумали остроумную идею – объединить процессор, память, ПЗУ и периферию внутри одного корпуса, внешне похожего на обычную микросхему. С тех пор производство микроконтроллеров ежегодно во много раз превышает производство процессоров, а потребность в них не снижается. Микроконтроллеры выпускают десятки компаний, причем производятся не только современные 32-битные микроконтроллеры, но и 16, и даже 8-битные (как i8051 и аналоги). Внутри каждого семейства часто можно встретить почти одинаковые модели, различающиеся скоростью работы ЦПУ и объемом памяти. Микроконтроллер имеет внутри себя процессор, оперативную память, память программ, а кроме этого целый набор периферийных устройств, которые превращают процессор в полнофункциональную ЭВМ [22].

2. Аналоговое исполнение.

Нейроны и аналоговые СБИС представляют собой пороговые усилители с сигмовидной передаточной функцией. Усиление передаточной функции определяет чувствительность нейрона и в определенном случае переводит нейрон из аналогового состояния в состояние, аналогичное цифровому вентилю. Так, в аналоговой СБИС ETANN 80170NX фирмы INTEL содержится 64 нейрона с 64 входами соответственно и 16 нейронных слоев.

Скорость прохождения сигнала зависит от частотных характеристик усилителей и в данной микросхеме составляет порядка 1,5 мкс. Обучение производится двухэтапным способом. Первичный грубый подбор весовых коэффициентов производится в эмулирующей среде (Intel Neural Network Training System), точная настройка весов осуществляется с использованием реально работающей СБИС аппаратным способом. Таким образом, основные преимущества аналоговых СБИС заключаются в высоком быстродействии, которое ограничивается только частотными характеристиками усилителей (АЧХ), а недостатки заключаются в усложненном алгоритме обучения и необходимости обеспечивать СБИС постоянный температурный режим (перепады температуры менее 1 при 18), а также использовать стабилизированные источники питания, так как СБИС чувствительна к внешним условиям. Указанные недостатки серьезно ограничивают распространение аналоговых СБИС в области моделирования нейронных сетей [22].

3. Гибридное исполнение.

Данная категория представляет собой совокупность программной и аппаратной реализаций. Разработчики таких проектов пытаются получить от таких систем преимущества аналогового и цифрового исполнений. По большей части это достигается путем связи между устройствами и датчиками посредством цифровой составляющей, а обработка полностью или частично реализуется аналоговыми методами. В качестве примера приведем чип Bellcore CLNN-32, который хранит весовые коэффициенты в цифровой форме, а производит моделирование ИНС, используя аналоговую схему. Существуют проекты, в которых весовые коэффициенты хранятся в конденсаторах, периодически подзаряжающихся от внутренних источников тока. Также примерами гибридных систем могут служить SU3232 Synapse и NU32 Neuron, разработанные в лабораториях Neural Semiconductor, и RN-100, представленный Ricoh. Основные преимущества гибридных систем служит их быстрое обучение, простые и быстрые процедуры чтения или записи весов, выполняемые в цифровом виде, что значительно увеличивает скорость обмена между сетевым сервером и клиентами в сети, легкая каскадируемостъ. Минусом является сложность разработки из-за чего гибридное исполнение уступает цифровому [22].