Предлагаемое изобретение относится к бионике и вычислительной технике и может быть использовано при построении систем распознавания образов.
Известна нейросеть - "персептрон" (Розенблатт Ф. Принципы нейродинамики. М. : Мир, 1965), содержащая входной слой S-элементов, слои A-нейроэлементов, и выходной слой R-элементов, нейроэлементы в заявляемом техническом решении присутствуют. Недостатком является ограничение точности моделирования, т.к. эта нейросеть не отражает иерархическую структуру мозга.
Причина недостатков - нейросеть не моделирует особенности морфологической структуры мозга.
Известна также нейронная сеть для моделирования механизма зрения (Neural Networks for Machine Vision) PCT/US 86/02556 (26.11.86); IPC: G 06 F 15/68; G 09 K 9/46; G 09 K 9/48; G 09 K 9/62, содержащая блоки: монокулярной предобработки сигналов (MP - Monocular Preprocessed Pixel Signals), системы границ контура (BC - Boundary Contour System), системы деталей контура (FC - Feature Contour System), системы распознавания образов (ORS - Object Recognition System), блок системы распознавания образов присутствует в заявляемой рефлекторной нейросети.
Недостатком является ограничение точности моделирования, т.к. эта нейронная сеть не отражает эффекторных структур мозга.
Причина недостатков - в нейронную сеть для моделирования механизма зрения не включены выходные морфологические структуры реальной нервной системы.
Наиболее близкой к предлагаемой рефлекторной нейросети является "Многослойная нейронная сеть обратного распространения" (Ф. Уоссермен. Нейрокомпьютерная техника. М: Мир, 1992 г., стр. 52-69), содержащая входной "нулевой" слой, слои нейроэлементов и выходной слой, нейроэлементы присутствуют в заявляемом техническом решении.
Недостатком является ограничение точности моделирования, т.к. многослойная нейронная сеть не отражает биоритмические свойства реальной нервной системы.
Причина недостатков - "Многослойная нейронная сеть обратного распространения" не моделирует системоорганизующие сигналы реальной нервной системы.
Задача, на решение которой направлено заявляемое изобретение, заключается в повышении точности моделирования структурно-функциональной организации нервной системы при осуществлении рефлекторной деятельности.
Технический результат, достигаемый при осуществлении изобретения, состоит в повышении точности моделирования биоритмической организации коррекции синаптических весов посредством управляющих системоорганизующих сигналов совместно с распределенными во времени сигналами выделения, как приращений в процессе обучения, так и скорректированных синаптических весов в процессе распознавания образов.
Для достижения указанного технического результата в рефлекторной нейросети, содержащей уровни нейроэлементов, отличающейся тем, что в ней нейроэлементы образуют многоуровневые восходящие рецепторную и проприоцепторную нейросети и многоуровневые нисходящие санкционирующую и эффекторную нейросети, представляющие связанную по вертикали иерархическую структуру с восходящими и нисходящими межуровневыми связями, при этом одна группа входов рефлекторной нейросети соединена с входами нейроэлементов первого уровня по вертикали многоуровневой восходящей рецепторной нейросети, нейроэлементы которой связаны с нейроэлементами соответствующих уровней многоуровневой нисходящей эффекторной нейросети, нейроэлементы многоуровневой восходящей проприоцепторной нейросети связаны с нейроэлементами соответствующих уровней многоуровневой нисходящей санкционирующей нейросети, нейроэлементы многоуровневой восходящей рецепторной нейросети связаны с нейроэлементами многоуровневой нисходящей санкционирующей нейросети с возможностью передачи сигнала коррекции синаптических весов, нейроэлементы многоуровневой восходящей проприоцепторной нейросети связаны с нейроэлементами многоуровневой нисходящей эффекторной нейросети с возможностью передачи сигнала коррекции синаптических весов, на каждом уровне выходы нейроэлементов многоуровневых восходящей рецепторной и нисходящей санкционирующей нейросетей соединены со входами соответствующих схем сравнения, выходы которых и выходы нейроэлементов многоуровневой нисходящей эффекторной нейросети соединены со входами элементов И-ИЛИ, выходы которых соединены с выходами рефлекторной нейросети, выходы нейроэлементов многоуровневой нисходящей эффекторной нейросети и вторая группа входов рефлекторной нейросети соединены со входами нейроэлементов первого уровня по вертикали многоуровневой восходящей проприоцепторной нейросети, в каждой многоуровневой восходящей нейросети выход каждого нейроэлемента предыдущего уровня соединен со входами нейроэлементов следующего иерархического уровня, в каждой многоуровневой нисходящей нейросети вход каждого нейроэлемента предыдущего уровня соединен с выходами нейроэлементов следующего иерархического уровня, в многоуровневых нейросетях соответствующие нейроэлемента предыдущих уровней по вертикали образуют группы нейроэлементов, входы нейроэлементов предназначены для фазовых синхронизированных сигналов.
Причинно-следственная связь между совокупностью признаков заявляемого изобретения и достигаемым техническим результатом заключается в следующем: введение многоуровневых рецепторной (Р), проприоцепторной (П), санкционирующей (С), эффекторной (Э)- нейросетей, представляющих по вертикали иерархическую структуру группы нейроэлементов (вертикальные группы) с восходящими и нисходящими межуровневыми связями, позволяет повысить точность моделирования.
Рефлекторная нейросеть состоит из четырех многоуровневых нейросетей:
-2-х- восходящих, включающих Р и П нейросети;
-2-х- нисходящих, включающих Э и С нейросети.
Алгоритм работы восходящей (Р и П) нейросети на основе вертикальной арифметики (ВА) может быть описан суперпозицией функций с помощью множества ступеней преобразования кодов (нейронов), в виде:
где γjil - l-разряды двоичных позиционных кодов i-синаптических весов на каждом j-уровне;
Δγji - i-приращения синаптических весов на j-уровне;
αjl - l-разряды двоичных позиционных кодов пороговых коэффициентов на j-уровне;
Y
Xi - i-значение входных сигналов в виде бинарного кода (сигналы внешнего образа, поступающие на вход Р нейросети, либо сигналы, подаваемые на П нейросеть при обучении X
NO - размер массива входных сигналов Xi;
Nj - число нейроэлементов на j-том уровне, находящихся в к-той вертикальной группе;
М - сигнал коррекции синаптических весов длится L-циклов со сдвигом до П;
П - сигнал запоминания скорректированных синаптических весов в конце сигнала М;
Φ
Алгоритм работы нисходящей (С, Э) нейросети ВА может быть описан суперпозицией функцией с помощью множества ступеней преобразований кодов (нейронов) в виде:
где Y
YвI - выходной сигнал нейроэлемента восходящей нейросети, поступающий на все нейроэлементы нисходящей нейросети, находящихся в том же временном кванте;
YвII - выходной сигнал нейроэлемента восходящей нейросети для управления сигналом М симметричным нейроэлементом нисходящей сети, находящимся в том же пространственном и временном кванте;
γ
В рефлекторной нейросети осуществляется пространственно-временное квантование.
Рефлекторная нейросеть имеет фазовую систему синхронизации на всех уровнях вертикальной иерархии. Длительность активной фазы на первом уровне равна длительности цикла, длительность активной фазы на втором уровне -1/4 цикла, на третьем уровне -1/16 цикла и соответственно на четвертом уровне -1/64 длительности цикла и т.д.
Для каждой вертикальной группы - К1 (с четырехкратным уровневым квантованием восходящей нейросети) имеем:
- связь каждого рецептора с каждым из четырех нейроэлементов первого уровня равна синаптическому весу 1/2 (максимальный вес равен 1);
- связь каждого нейроэлемента первого уровня К1 с каждым из четырех нейроэлементов второго уровня равна синаптическому весу 1/4.
Для К2, образованного четырьмя вертикальными группами (содержащего N1= KNО=4•16=64 нейроэлемента), имеем:
- связь каждого рецептора с каждым из 12 нейроэлементов первого уровня других вертикальных групп в пределах К2 равна синаптическому весу 1/4;
- связь каждого нейроэлемента первого уровня с 48 элементами второго уровня других вертикальных групп в пределах К2 равна синаптическому весу 1/8.
Для К3, образованного вертикальными группами четырех К2 (содержащего N2= K2NО=42•16=256 нейроэлемента), имеем:
- связь каждого нейроэлемента первого уровня с 196 нейроэлементами второго уровня вертикальных групп других К2 в пределах К3 равна синаптическому весу 1/16.
На основании изложенного составляется таблица связей нейроэлементов на всех иерархических уровнях рефлекторной нейросети.
Сущность предлагаемого изобретения поясняется чертежами, где на фиг. 1 - блок схема рефлекторной нейросети, на фиг. 2 - Р и Э- нейросети, на фиг. 3 - вертикальная группа восходящей Р-нейросети, на фиг. 4 - вертикальная группа нисходящей нейросети, на фиг. 5 - П и С- нейросети, на фиг. 6 - нейроэлемент, на фиг. 7 - узел суммирования синапсов, на фиг. 8 - четырехвходовый преобразователь кодов, на фиг. 9 - шестнадцативходовой преобразователь кодов, на фиг.10 - схема сравнения результатов вычисления Р и С- нейросетей на первом уровне, на фиг. 11 - схема сравнения результатов вычисления Р и С- нейросетей на втором уровне, на фиг. 12 - восьмидесятивходовой преобразователь кодов, на фиг. 13 - блок управления, на фиг. 14 - временная диаграмма работы рефлекторной нейросети.
Рефлекторная нейросеть (фиг. 1) содержит 11 - 116 - входы приема значений сигналов Xi внешнего образа в виде бинарного кода; 21 -216 - входы приема значений сигналов X
Φ ∈ {П, М, Из, ТИ,"O", γ, Δγ, α} - вектор управляющих и информационных сигналов;
Φ
Φ
Φ
При этом Р-нейросеть связана с С-нейросетью и П-нейросеть связана с Э-нейросетью для передачи сигнала коррекции синаптических весов М, вырабатываемом на основе выходных сигналов симметричных (находящихся в одном и том же пространственно- временном кванте) нейроэлементов Р и П- нейросетей.
Р-нейросеть (фиг. 2) содержит: 11 - 116 - информационные входы приема значений сигналов рецепторов Xi внешнего образа; 51 - 54 - группы элементов И для выделения распределенной во времени фазой Φ
Э-нейросеть (фиг.2) содержит: 81 - 8256 - нейроэлементы второго уровня, синхронизированные распределенными во времени фазовыми сигналами Φ
В Р-нейросети (фиг. 2) жирными линиями выделена вертикальная группа К1 (фиг. 3), включающая: 11 - информационный вход приема сигнала Xi; 51 - элемент И, синхронизированный распределенным во времени фазовым сигналом Ф00, обеспечивает связь рецептора 11 синаптическим весом γ = 1/2 со входами нейроэлементов 61 - 64 первого уровня, синхронизированных распределенных во времени фазами Φ
Связи К2 нейроэлементов (11) составляют: выходы рецепторов 12- 14 связаны синаптическими весами γ = 1/4 с входами нейроэлементов 61- 64 (фиг. 2); выходы нейроэлементов 65- 616 связаны синаптическими весами γ = 1/8 с входами нейроэлементов 71- 764 соответственно (на чертеже не показаны).
Связи К3 нейроэлементов (11) составляют: выходы нейроэлементов 617- 664 связаны синаптическими весами γ = 1/16 со входами нейроэлементов 71-7256 соответственно.
Таким образом, нейроэлементы одной вертикальной группы Р-нейросети (фиг. 2), объединенные связями, составляют К1-группу нейроэлементов горизонтальной иерархии. При этом четыре вертикальные группы Р-нейросети, объединенные связями, составляют К2. В свою очередь вертикальные срезы, составляющие четыре К2 и объединенные связями, составляют К3 и т.д.
Вертикальная группа нисходящей нейросети К1 приведена на фиг. 4 (не описан, т.к. вертикальная группа нисходящей нейросети - отражение вертикальной группы восходящей нейросети).
П-нейросеть (фиг. 5) содержит: 21 - 216 - информационные входы приема сигналов X
С-нейросеть (фиг. 5) содержит: 41 - 416 - выходы результатов вычислений; 161 - 16256 - нейроэлементы второго уровня, синхронизированные распределенными во времени фазовыми сигналами Φ
Нейроэлемент (Пат. SU 1831715A3, кл. G 06 G 7/60, Бюл. N 28, 30.07.93) (фиг. 6) содержит: 21 - элемент ИЛИ; 22, 25 - Д триггера; 23 - регистр с параллельно-последовательной записью информации; 24 - сдвигающий регистр, 26 - трехвходовой сумматор; 27 - элемент И-ИЛИ; 28 - элементы И; 29 - блоки синаптических весов; 30 - узел суммирования синапов; 311 - 31N - входы приема значений входных сигналов; 321 - 32N - входы приема значений синапсов (γ); 331 - 33N - входы приема приращений синапсов (Δγ); 34 - выход выдачи результата нейроэлемента; 351 - 35N - входы приема скорректированных синаптических весов (γ).
Узел суммирования синапсов (фиг. 7) содержит 36 - элементы И; 37 - сдвигающий регистр порогового коэффициента; 38 - преобразователь равновесных кодов в позиционные коды, может быть выполнен: 4-входовым (фиг. 8) для нейроэлементов 61 - 664, 141 - 1464; 16-входовым (фиг. 9) для нейроэлементов 71 - 7256, 81 - 8256, 151 - 15256, 161 - 16256; 80-ти входовым (фиг. 12) для нейроэлементов 91 - 964, 171 - 1764; 39 - многоразрядный сумматор; 40 - элемент НЕ; 41 - Д-триггер; 42 - регистр с параллельной записью информации.
Четырехвходовой преобразователь кодов (фиг. 8) содержит: 2l - входы приема равнозначных кодов; 43 - сумматор по модулю два; 44 - элементы И; 45 - элемент ИЛИ; 2l-2l+2 - выходы выдачи результата преобразователя в позиционном коде.
16-ти входовой преобразователь кодов (фиг. 9) содержит: 2l - входы приема равновесных кодов; 46 - четырехвходовые преобразователи кодов в позиционном коде; 47 - полусумматор; 48 - элемент ИЛИ; 2l-2l+4 - выходы выдачи результата преобразователя в позиционном коде.
Схема сравнения результатов вычислений Р и С - нейросетей на первом уровне (фиг. 10) содержит: Y
Схема сравнения результатов вычислений Р и С - нейросетей на втором уровне (фиг. 11) содержит: Y
80-ти входовой преобразователь кодов содержит: 2l - входы приема равновесных кодов; 67 - 16-ти входовые преобразователи кодов; 68 - регистры с параллельной записью информации; 69 - трехвходовые сумматоры; 70 - многоразрядный сумматор; 2l - 2l+6 - выходы выдачи результата преобразователя в позиционном коде.
Блок управления (фиг. 13) содержит: 71 - дешифратор сигналов управления Из И, У"0"; 72, 74 - двоичные счетчики; 73 - дешифратор формирования фаз (Фij); 75 - элементы И-ИЛИ; 76 - Д-триггер; 77 - элемент задержки на длительность импульса П (подкрепление); М' - вход приема внешнего сигнала начала М; ТИ - вход приема тактовых импульсов; М - выход выдачи сигнала М; П - выход выдачи элементом 75 сигналов П с различной длительностью и скважностью между сигналами (настраивается коммутацией в т. a1-b1...an-bn).
Рассмотрим работу рефлекторной нейросети. Предварительно сбрасываются в нуль регистры, триггеры рефлекторной нейросети сигналом Y"0". Затем записываются в регистры 23 нейроэлементов (фиг. 5) в соответствии с таблицей связей рефлекторной нейросети начальные значения синапсов γo. В регистры 37 нейроэлементов, а также в регистры 51, 60 схем сравнения (фиг. 10, 11) записываются начальные значения порогов в дополнительном коде. В процессе обучения на входы 11-116 рефлекторной нейросети (фиг. 1, 2) поступают сигналы Xi распознаваемого образа, на входы 21-216 (фиг. 1, 5) поступают сигналы X
В основу обучения положена биоритмическая организация коррекции синаптических весов по сигналам мотивации (длится L циклов до поступления сигнала П совместно с распределенными во времени фазовыми сигналами Φ
Результаты γj+ΣΔγi из сумматоров 26 каждого блока 29, поступают на входы элементов И блока 30 (фиг. 6, 7). Сформированные элементами И в блоке 30 равновесные разрядные произведения входных сигналов Xi и синаптических весов γj параллельно-поразрядно суммируются в сумматорах 38 и 39 со значением пороговых коэффициентов θ поступающих из выходов регистра 37. Так в первом такте на выходе сумматора 39 (фиг. 7) имеем разрядную сумму которая записывается параллельным кодом со сдвигом в сторону младших разрядов в регистр 42 (фиг. 7).
Во втором такте в сумматоре 39 формируется вторая разрядная сумма в виде:
В l-том такте на входе сумматора имеем:
При достижении суммы синаптических весов порогового уровня
происходят изменения знака результата вычисления. При этом по импульсу знака Изн устанавливает триггер 41 в единичное состояние и результат выдается на выход 34 в виде Yj=1 и наоборот, если
то на выходе 34, имеем Yj=0.
При обучении по сигналу М совместно с распределенными во времени фазовыми сигналами Φ
По сигналу П фиксируются скорректированные синаптические веса только у тех нейроэлементов у которых выходные сигналы Yj ≠ 0, а в остальных нейроэлементах синаптические веса остаются неизменными.
Особенностью рефлекторной нейросети является то, что в режиме обучения выходные сигналы Y
Одновременно выходные сигналы Y
Процедуру обучения необходимо повторить столько раз в каждой фазе Φ
Сравнение результатов нейроэлементов Р и С- нейросетей (фиг. 2) осуществляется схемами 11, 12 по распределенным во времени фазовым сигналам Φ
Результаты сравнения в схемах 11, 12 выходных сигналов нейроэлементов Р и С- нейросетей (фиг. 2) служат критерием для разрешения выдачи нейроэлементами Э-нейросети выходных сигналов.
В режиме распознавания образов на входы 11-116 поступают сигналы Xi, а выходные сигналы нейроэлементов Э-нейросети подаются по цепи обратной связи на входы нейроэлементов П-нейросети (фиг. 1, 2). При этом нейроэлементы первого уровня Р, П, С,Э-нейросетей (фиг. 2, 5), находящиеся в активных фазах (фиг. 14) образуют временной плоскостной срез запоминания пространственно-временного образа в общем виде. Нейроэлементы второго уровня, находящиеся в активных фазах Φ
Объединение всех уровней иерархии рефлекторной нейросети дает точное представление пространственно-временного образа.
Введение в устройство новых элементов, соединенных соответствующим образом позволяет повысить точность моделирования реальной структурно-функциональной организации нервной системы за счет биоритмической коррекции синаптических весов, синхронизации нейроэлементов на всех уровнях нейросети, а также благодаря уточнения пространственно-временного образа на всех иерархических уровнях рефлекторной нейросети.
Изобретение относится к области бионики и вычислительной техники и может быть использовано при построении систем распознавания образов. Технический результат, достигаемый при осуществлении изобретения, состоит в повышении точности моделирования биоритмической организации коррекции синаптических весов. Рефлекторная нейросеть содержит уровни нейроэлементов, которые образуют многоуровневые рецепторную, проприоцепторную, санкционирующую и эффекторную нейросети, представляющие многоуровневую иерархическую структуру связей, синхронизированную распределенными во времени сигналами на всех иерархических уровнях. 14 ил.
Рефлекторная нейросеть, содержащая уровни нейтроэлементов, отличающаяся тем, что в ней нейроэлементы образуют многоуровневые восходящие рецепторную и проприоцепторную нейросети и многоуровневые нисходящие санкционирующую и эффекторную нейросети, представляющие связанную по вертикали иерархическую структуру с восходящими и нисходящими межуровневыми связями, при этом одна группа входов рефлекторной нейросети соединена с входами нейроэлементов первого уровня по вертикали многоуровневой восходящей рецепторной нейросети, нейроэлементы которой связаны с нейтроэлементами соответствующих уровней многоуровневой нисходящей эффекторной нейросети, нейроэлементы многоуровневой восходящей проприоцепторной нейросети связаны с нейтроэлементами соответствующих уровней многоуровневой нисходящей санкционирующей нейросети, нейроэлементы многоуровневой восходящей рецепторной нейросети связаны с нейроэлементами многоуровневой нисходящей санкционирующей нейросети с возможностью передачи сигнала коррекции синаптических весов, нейроэлементы многоуровневой восходящей проприоцепторной нейросети связаны с нейроэлементами многоуровневой нисходящей эффекторной нейросети с возможностью передачи сигнала коррекции синаптических весов, на каждом уровне выходы нейроэлементов многоуровневых восходящей рецепторной и нисходящей санкционирующей нейросетей соединены со входами соответствующих схем сравнения, выходы которых и выходы нейроэлементов многоуровневой нисходящей эффекторной нейросети соединены со входами элементов И-ИЛИ, выходы которых соединены с выходами рефлекторной нейросети, выходы нейроэлементов многоуровневой нисходящей эффекторной нейросети и вторая группа входов рефлекторной нейросети соединены со входами нейроэлементов первого уровня по вертикали многоуровневой восходящей проприоцепторной нейросети, в каждой многоуровневой восходящей нейросети выход каждого нейроэлемента предыдущего уровня соединен со входами нейроэлементов следующего иерархического уровня, в каждой многоуровневой нисходящей нейросети вход каждого нейроэлемента предыдущего уровня соединен с выходами нейроэлементов следующего иерархического уровня, в многоуровневых нейросетях соответствующие нейроэлементы предыдущих уровней по вертикали образуют группы нейроэлементов, входы нейроэлементов предназначены для фазовых синхронизированных сигналов.
Ф.Уоссермен | |||
Нейрокомпьютерная техника | |||
- М.: Мир, 1992, с.52 - 69 | |||
Торфодобывающая машина с вращающимся измельчающим орудием | 1922 |
|
SU87A1 |
Ф.Розенблатт | |||
Принципы нейродинамики | |||
- М.: Мир, 1965, с.242 - 247 | |||
Каляев А.В., Галуев Г.А | |||
Нейрокомпьютерный СБИС-Системы параллельной обработки зрительной информации | |||
Электронное моделирование | |||
- Киев: Наукова Думка, 1989, N3, с.3 - 6 | |||
SU 1487061 A1, 15.06.89 | |||
Головкин Б.А | |||
Параллельные вычислительные системы | |||
- М.: Наука, 1980, с.42 - 44, 354 | |||
Д.Ивенс | |||
Системы параллельной обработки | |||
- М.: Мир, 1985 | |||
Видоизменение пишущей машины для тюркско-арабского шрифта | 1923 |
|
SU25A1 |
Фет Я.И | |||
Параллельные процессоры для управляющих систем | |||
- М.: Энергоиздат, 1981, с.48 - 49, 97, 127. |
Авторы
Даты
1999-03-27—Публикация
1995-06-06—Подача