Нейроподобный элемент Советский патент 1993 года по МПК G06G7/60 

Предполагаемое изобретение относится к области бионики и кибернетики и предназначено для использования в адаптивных информационно-управляющих системах, устройствах для распознавания образов и системах ассоциативной памяти.

Цель изобретения - расширение области применения и упрощение элемента за счет использования входных сигналов одного веса.

На фиг. 1 приведена схема нейроподоб- ного элемента: на фиг. 2 - вариант реализации узла для формирования выходного сигнала; на фиг. 3 - вариант реализации узла для формирования разрешения модификации; на фиг. 4 - вариант реализации узла для формирования порога; на фиг. 5 - схема нейронной сети с использованием заявленного нейроподобного элемента; на фиг. 6 - вариант реализации выходного элемента.

При этом на фигурах обозначено - узел 1 для суммирования входных сигналов, выполненное в виде сумматора количества .единиц, узел 2 для формирования разрешения модификации, узел 3 для формирования

порога, узел 4 для формирования выходного сигнала, вход режима элемента 5. элемент НЕ 6, группа элементов И 7, функциональный преобразователь 8, группа элементов И 9, компаратор 10, формирователь импульсов 11, счетчик 12, элемент НЕ 13, группа элементов И 14, входной регистр 15, нейро- подобные элементы 16, выходные элементы 17, элементы ИЛИ 18, пороговый сумматор 19, информационные входы 20 элемента, выход 21 элемента, первый информационный вход 22 узла 4, второй информационный вход 23 узла 4, выход 24 узла 2. Цепи сброса и установки элементов схемы в исходное состояние условно не показаны.

Нейроподобный элемент работает следующим образом. У элемента имеется два режима работы, режим записи (обучение) и режим воспроизведения. В режиме записи на входы элемента поступает бинарный код с выходов элементов предыдущего слоя, с которыми связан данный элемент. Сумматор 1 единиц подсчитывает число единиц в этом коде, которое поступает на узел 2 для формирования разрешения модификации, которое может быть выполнено как показаел

с

но на фиг. 3. Группа элементов И 9 служит входным ключом узла, компаратор 10 определяет превышение количества единиц над заранее заданным, в случае превышения формирователь импульсов 11 вырабатывает сигнал разрешения модификаций, который обеспечивает изменение параметра узла 3 для формирования параметра, которое может быть выполнено как показано на фиг. 4. Следует отметить, что новое состояние узла 3 определяется только его текущим состоянием.

В режиме воспроизведения сигнал с выхода сумматора 1 подается на один из входов узла для формирования выходного сигнала, которое может быть выполнено как показано на фиг. 2. Количество единиц с сумматора 1 и значение параметра с выхода счетчика 12 образуют код аргумента функционального преобразователя 8. В частном случае преобразователь 8 может быть выполнен на основе постоянного запоминающего устройства (ПЗУ) с соответствующей прошивкой. Использование ПЗУ позволяет легко задавать требуемый закон преобразования, который может быть любым. С выхода функционального преобразователя 8 сигнал поступает по линиям связи с нейро- подобным элементом следующего слоя.

Нейронные сети из таких нейроподоб- ных элементов в состоянии выполнять многие функции по переработке информации, типичные для нейрокомьютеров. В качестве примера на фиг. 5 показана нейронная сеть, выполняющая функции автоассоциативной памяти. Она содержит слои входных и.выходных элементов и промежуточный слой нейроподобных элементов. Число входных и выходных элементов одинаково, а их связи с промежуточным слоем полагаются зеркально симметричными. 8 простейшем случае для выполнения сетью функций ассоциативной памяти достаточно, чтобы функциональный преобразователь 8 каждого нейроподобного элемента выполнял в режиме воспроизведения следующее преобразование: при . во всех остальных случаях, где А - сигнал на выходе функционального преобразователя 8, содержимое узла 3 для формирования параметра, С - содержимое сумматора единиц, С - заранее заданное пороговое значение С для активации функционального преобразователя 8, узел формирования параметра выполнял следующее преобразование: при и , во всех остальных случаях, где S - сигнал на выходе узла 2 для формирования разрешения модификации; а узел 2 для формирования разрешения модификации выполнял следующее преобразр

вание; при С С, где С - заранее заданное пороговое значение С для появления на выходе указанного узла сигнала разрешения модификации,

В режиме записи на входном слое такой сети последовательно активируются предназначенные для записи бинарные вектора, называемые в дальнейшем эталонами. Активным элементам входного слоя ставится в

соответствие 1, а неактивным - 0. Сигналы от активных элементов входного слоя по системе связей поступают на входы иейро- подобных элементов и далее происходит описанная выше процедура модификации

5 содержимого узла 3 для формирования параметров элементов. В качестве входных элементов могут быть использованы триггеры.

В режиме воспроизведения на входном

0 слое сети последовательно активируются некоторые бинарные вектора. Если такой вектор по заданной мере близок к одному из записанных эталонов, он называется своим, если далек - чужим. Так же, как в

5 режиме записи, сигналы от активных входных элементов поступают на входы нейроподобных элементов и далее происходит описанная, выше процедура установления сигналов на выходах функциональных пре.0 образователей 8. По системе связей, которая, как указывалось, является зеркально .симметричной относительно связей нейроподобных элементов с входными элементами, сигналы с выходов функциональных

5 преобразователей 8 поступают на выходные элементы сети, которые могут быть выполнены, как показано на фиг. б. Элементы ИЛИ 18 используются при многоразрядном выходе функционального преобразователя

0 8. Однако, в частном случае выход преобразователя 8 может быть и одноразрядным, в этом случае каждый выходной элемент вырождается в пороговый сумматор. Сигналы, поступившие к каждому выходному элемен5 ту суммируются и активируют по заданному порогу сигнал на его выходе: 0, если сумма входных сигналов меньше пороговой; 1, если равна или больше. При подаче на входной слой своего вектора активности, на

0 выходном слое активируется вектор к нему близкий, при подаче чужого - от него далекий. Тем самым по критерию близости выходного и входного сигнала удается отличить свои и чужие входные сигналы. Ес5 ли входной сигнал свой, то на выходном слое активируется сигнал, более близкий к эталону, чем входной.

Информационную емкость такой нейронной сети, измеряемую максимальным объемом информации, которую можно записать в сеть с хорошим качеством ее воспроизведения, можно в два раза увеличить, изменив закон преобразования информации функциональным преобразователем 8 ней- роподобного элемента, положив: А 1 при и С С, и инвертируя сигналы выходных элементов.

Положив, что функциональный преобразователь осуществляет следующее преобразование: , а узел 2 для формирования параметра: , можно обеспечить способность сети обучаться при предъявлении многих зашумленных вариантов каждого эталона, причём при произвольном и неизвестном для сети порядке предъявления. Такую же способность сеть приобретает, если узел 2 формирования параметра работает по-прежнему, а узел раз- решения модификации работает стохастически, устанавливая на своем выходе 1 не всякий раз при выполнении условия С С, а с некоторой заданной вероятностью.

В зависимости от задачи, поставленной перед сетью, можно менять правила преобразования информации ее отдельными блоками, а также конструкцию системы связей между ее элементами для достижения оптимальных условий функционирования.

Формула изобретения 1. Нейроподобный элемент, содержащий узел для суммирования входных сигналов, входы которого являются входами элемента, а также узел для формирования выходного сигнала, выход которого является выходом элемента, отличающийся тем, что, с целью упрощения и расширения области применения, элемент содержит узел для формирования разрешения модификации и связанный с ним узел для формирования порога, выход которого соединен с одним из информационных входов узла формирования выходного сигнала, второй информационный вход которого соединен с выходом узла для суммирования входных сигналов и информационным входом узла для формирования разрешения модификации, выход которого соединен с информационным входом узла для формирования порога, вход режима которого объединен с входом режима узла для формирования разрешения модификации и узла для формирования выходного сигнала и является входом режима элемента, при этом узел для суммирования входных сигналов выполнен в виде сумматора количества единиц.

2. Элемент по п. 1, о т л и ч а ю щ и и с я тем, что узел для формирования выходного сигнала содержит функциональный преобразователь, группу элементов И и элемент НЕ, вход которого является входом режима

узла, а выход соединен с первыми входами элементов И группы, вторые входы которых образуют второй информационный выход узла, а выходы элементов и группы подключены к первой группе входов функционального преобразователя, вторая группа входов которого является первым информационным входом узла.

3. Элемент по п.1.отличающийся тем, что функциональный преобразователь выполнен в виде постоянного запоминающего блока.

4. Элемент по п.1,отличающийся тем, что узел для формирования разрешения модификации содержит группу элементов И, компаратор и формирователь импульсов, выход которого является выходом узла, а вход соединен с выходом компаратора, вход которого соединен с выходами элементов И группы, первые входы которых

объединены и являются входом режима узла, а вторые входы элементов И группы являются информационным входом узла.

5. Элемент пс п. 1,отличающийся тем, что узел для формирования порога выполнен в виде счетчика, группы элементов И и элемента НЕ, вход которого является входом режима узла, а выход соединен с - первыми входами элементов И группы, вторые входы которых соединены с выходом

счетчика, суммирующий вход которого является информационным входом узла, а выходы элементов И группы являются выходом узла.

8

21

Использование: изобретение относится к области бионики и кибернетики и используется в адаптивных информационно-управляющих системах, устройствах для распознавания образов и системах ассоциативной памяти. Сущность: поставленная цель достигается введением в нейроподоб- ный элемент узла для формирования разрешения модификации, узла для формирований порога, а также выполнением узла для суммирования.

фи г. 2

te.3

у--

23

Фиг ifя I МИ ГГГТТТП

Шиг.5

ЁЗ В П---LJ18

I

Фиг 6

/19