Многовходовой сумматор по модулю два Российский патент 2017 года по МПК G06F7/72 G06N3/06 

Описание патента на изобретение RU2614370C1

Изобретение относится к вычислительной технике и может быть использовано в цифровых вычислительных устройствах, а также устройствах для формирования элементов конечных полей GF(2ν).

В работе [1, с. 48] (Каллан Роберт. Основные концепции нейронных сетей: пер. с англ. - М: Издательский дом «Вильямс», 2001) показана структура трехслойной нейронной сети, предназначенной для выполнения сложения по модулю два (операция XOR) двух одноразрядных операндов. Данный сумматор представляет собой трехслойную нейронную сеть. Каждый нейрон реализует классическую модель формального нейрона и содержит n умножителей значений синаптических весов ωij на значения входного сигнала xi, сумматор и блок, реализующий вычисления функции активации от полученной суммы , где ω0j - синтаксический вес смещения j-го нейрона, на который всегда подается единичный сигнал. Данный двухвходовой сумматор по модулю два представляет собой многослойный персептрон.

Первый слой из двух нейронов в вычислениях не участвует, а предназначен для перераспределения входных сигналов x1 и х2. При этом входной вектор, который включает в себя и значение смещения, равное «1», т.е. [1, х1, х2], умножается на матрицу синаптических весов

А затем производится вычисление свертки

на выходе сумматоров каждого из нейрона скрытого слоя. После этого к полученному результату свертки net1 и net2 применяется функция активации порогового типа

где i=1, 2.

Затем сигналы с выходов нейронов скрытого слоя, совместно со смещением, равным 1, умножаются на матрицу синаптических весов

и поступают на входы сумматора, вычисляющего свертку

После этого к значению net3 применяется пороговая функция активации (2). Полученный результат является суммой по модулю два.

При реализации алгоритмов цифровой обработки сигналов с использованием полиномиальной системы классов вычетов (ПСКВ), функционирующей в конечных полях GF(2ν), необходимо использовать многовходовые сумматоры по модулю два.

Приведенную в [1] нейронную сеть можно использовать для построения многовходового сумматора по модулю, но это приведет к увеличению числа слоев и, следовательно, к повышению схемных затрат. Так при реализации n-разрядного сумматора по модулю два потребуется ⎡log2 n⎤ подсетей, каждая из которых будет реализовать модель нейросетевого сумматора по модулю два, представленную в [1].

Таким образом, недостатком многовходового сумматора по модулю два, использующего каскадную реализацию на базе двухвходового нейросетевого сумматора, приведенного в [1], являются значительные схемные затраты.

Основной задачей предлагаемого изобретения является снижение схемных затрат на реализацию многовходового сумматора по модулю два.

Техническим результатом, достигнутым при осуществлении заявленного изобретения, является снижение схемных затрат, необходимых на реализацию многовходового сумматора по модулю два.

Указанный технический результат достигается за счет использования новой функции активации в скрытом слое, применения синаптических весов ωij, равных единице, что позволяют исключить из структуры формального нейрона умножители синаптических весов, а также исключения из структуры нейрона выходного слоя блока, реализующего вычисления функции активации.

Многовходовый сумматор по модулю два представляет собой трехслойную нейронную сеть, являющуюся многослойным персептроном. Входной слой содержит n нейронов, где n - количество входов, которые в вычислениях не участвуют, а предназначены для распределения входного вектора на нейроны скрытого слоя. Скрытый слой содержит нейронов. Выходы нейронов скрытого слоя соединены со входами нейрона выходного слоя. Выход данного нейрона является выходом многовходового сумматора по модулю два. Таким образом, нейронная сеть имеет структуру

На фиг.1 приведена структура нейросетевого 8-входового сумматора по модулю два. Данный сумматор содержит восемь нейронов входного слоя 1-8, по которым поступает входной вектор, представленный в двоичном коде. Скрытый слой содержит четыре нейрона 9.1-9.4, каждый из которых содержит сумматор 10.i и блок вычисления функции активации 11.i, где i=1, 2, 3, 4. Выход блока вычисления функции активации является выходом нейрона скрытого слоя. Выходы нейронов 9.1-9.4 скрытого слоя подключены ко входу сумматора 12 нейрона выходного слоя. Выход сумматора 12 является выходом восьмивходового сумматора по модулю два.

Каждый сумматор 10.i нейрона 9.i, где i=1, 2, 3, 4, скрытого слоя имеет n+1 входов, где n=8. Первые n входов используются для принятия двоичного кода входного вектора X=[x1, x2, x3, x4, x5, x6, x7, x8]. На n+1 вход подается сигнал, который является смещением.

Входы сумматоров 10.i, входящих в состав нейрона 9.i скрытого слоя, где i=1, 2, 3, 4, подключены к выходам нейронов 1-8 входного слоя. Выход сумматора 10.i подсоединен к входу блока вычисления функции активации 11.i, выход которого является выходом нейрона 9.i скрытого слоя. Выходы нейронов 9.1-9.4 скрытого слоя подсоединены к входам сумматора 12 нейрона выходного слоя, выход которого является выходом многовходового сумматора по модулю два.

При этом выходы нейронов 1-8 входного слоя подключены к входам сумматоров 10.1-10.14 нейронов 9.1-9.4 скрытого слоя, которые реализуют операцию

где ωji=1 - синаптические веса i-го нейрона скрытого слоя; хj - значение, поступающее на вход j-го нейрона входного слоя; ω0i - смещение i-го нейрона скрытого слоя.

Для первого нейрона 9.1 скрытого слоя, значение ω01=-1. Для второго нейрона 9.2 скрытого слоя ω02=-3. Для третьего нейрона 9.3 скрытого слоя ω03=-5. Для четвертого нейрона 9.4 скрытого слоя ω04=-7.

Результат свертки net10.i, реализованный согласно (4), поступает на вход блока вычисления функции активации 11.i, где i=1, 2, 3, 4.

В прототипе [1] была использована пороговая функция активации, определяемая выражением (2). Чтобы сократить схемные затраты предлагается в качестве функции активации использовать функцию «стрелка Пирса», которая имеет на выходе единичное значение, если на вход подаются нулевые значения, а на остальных входных наборах ее значение равно нулю. С выхода сумматоров 10.i, i=1÷4, трехразрядный параллельный код, представляющий собой сумму (4), поступает на вход блока вычисления функции активации 11.i.

На выходе первого блока вычисления функции активации 11.1 нейрона 9.1 скрытого слоя появится единичный сигнал, если во входном векторе X=[х1, х2, х3, х4, х5, х6, х7, х8] содержится одна единица.

На выходе второго блока вычислений функции активации 11.2 нейрона 9.2 скрытого слоя появится единичный сигнал, если во входном векторе X=[x1, х2, х3, х4, х5, х6, х7, х8] содержится 3 единицы.

На выходе третьего блока вычисления функции активации 11.3 нейрона 9.3 скрытого слоя появится единичный сигнал, если во входном векторе X=[ х1, х2, х3, х4, х5, х6, х7, х8] содержится 5 единиц.

На выходе четвертого блока вычисления функции активации 11.4 нейрона 9.4 скрытого слоя появится единичный сигнал, если во входном векторе X=[ х1, х2, х3, х4, х5, х6, х7, х8] содержится 7 единиц.

Выходные сигналы 0 или 1 с выходов нейронов 9.1-9.4 скрытого слоя подаются на входы сумматора 12 нейрона выходного слоя. Результат суммы поступает на выход многовходового сумматора по модулю 2.

Рассмотрим работу многовходового сумматора по модулю два. Пусть на вход поступает вектор X=[1,1,0,0,0,0,0,0], который содержит четное число единиц. Данный вектор подается с выхода нейронов 1-8 входного слоя на входы нейронов 9.1-9.4 скрытого слоя. Сумматоры этих нейронов производят вычисления

Вычисляемые ненулевые результаты net10.i, где i=1, 2, 3, 4, поступают на входы блоков вычисления функции активации 9.i. Следовательно, с выходов последних будет сниматься нулевой результат, который поступает на входы сумматора 12. На выходе заданного сумматора будет получен сигнал

Следовательно, результат сложения двух единичных сигналов по модулю два равен нулю, т.е. 1⊕1=0.

Пусть на вход многовходового сумматора поступает вектор X=[1,1,0,0,0,0,0,1], который содержит нечетное количество единиц. Данный вектор подается с выходов нейронов 1-8 входного слоя на входы нейронов 9.1-9.4 скрытого слоя. Сумматоры этих нейронов производят вычисления

Нулевая кодовая комбинация с выхода сумматора 10.2 поступает на вход блока вычисления функции активации 9.2, который реализует функцию «стрелка Пирса». В результате этого на выходе нейрона 9.2 будет единичный сигнал. При этом на выходах всех оставшихся нейронов 9.1, 9.3, 9.4 скрытого слоя будет нулевой сигнал. Тогда на выходе сумматора 12 будет получен сигнал

Следовательно, 1⊕1⊕1=1.

Похожие патенты RU2614370C1

название год авторы номер документа
УСТРОЙСТВО ДЛЯ ОПРЕДЕЛЕНИЯ КОЛИЧЕСТВА ЕДИНИЦ В ДВОИЧНОМ ВОСЬМИРАЗРЯДНОМ ЧИСЛЕ 1991
  • Зурхаев А.А.
  • Исмаилов Ш.-М.А.
  • Кокаев О.Г.
  • Магомедов И.А.
RU2030783C1
УМНОЖИТЕЛЬ ПО МОДУЛЮ 2015
  • Калмыков Игорь Анатольевич
  • Саркисов Артем Брониславович
  • Гиш Татьяна Александровна
  • Дунин Андрей Валерьевич
  • Калмыков Максим Игоревич
RU2589361C1
УСТРОЙСТВО ДЛЯ ВЫЧИСЛЕНИЯ КОЭФФИЦИЕНТОВ ОБОБЩЕННОЙ ПОЛИАДИЧЕСКОЙ СИСТЕМЫ С КОРРЕКЦИЕЙ ОШИБОК 2015
  • Калмыков Игорь Анатольевич
  • Гиш Татьяна Александровна
  • Дунин Андрей Валерьевич
  • Калмыков Максим Игоревич
  • Макарова Алена Васильевна
  • Бондарева Елена Николаевна
RU2584495C1
Декодер кодов Боуза-Чоудхури-Хоквингема 1990
  • Лукоянов Виталий Павлович
  • Музыченко Олег Николаевич
SU1783627A1
Способ и устройство автоматического распознавания типа манипуляции радиосигналов 2016
  • Елизаров Вячеслав Владимирович
  • Касаткин Алексей Сергеевич
  • Наливаев Андрей Валерьевич
  • Смирнов Павел Леонидович
  • Шепилов Александр Михайлович
RU2619717C1
Устройство для цифровой фильтрации 1986
  • Каневский Юрий Станиславович
  • Куц Наталия Евгеньевна
SU1348815A1
Система оперативной идентификации морских целей по их информационным полям на базе нейро-нечетких моделей 2021
  • Пятакович Валерий Александрович
RU2763384C1
Способ и устройство автоматического распознавания типа манипуляции радиосигналов 2017
  • Елизаров Вячеслав Владимирович
  • Касаткин Алексей Сергеевич
  • Наливаев Андрей Валерьевич
  • Шепилов Александр Михайлович
  • Смирнов Павел Леонидович
RU2665235C1
ПОСТРОЕНИЕ НЕЙРОННОЙ СЕТИ НА ОСНОВЕ НЕЙРОНОВ С ФУНКЦИОНАЛЬНЫМ ПРЕОБРАЗОВАНИЕМ ПРОИЗВОЛЬНОГО ВИДА ДЛЯ ВХОДНЫХ СИГНАЛОВ 2018
  • Приезжев Иван Иванович
RU2727080C2
Система обнаружения и классификации морских целей на базе нейросетевых технологий и элементов искусственного интеллекта 2021
  • Пятакович Валерий Александрович
RU2780607C1

Реферат патента 2017 года Многовходовой сумматор по модулю два

Изобретение относится к вычислительной технике и может быть использовано в цифровых вычислительных устройствах, а также устройствах для формирования элементов конечных полей GF(2ν). Технический результат заключается в снижении схемных затрат, необходимых на реализацию многовходового сумматора по модулю два. Технический результат достигается за счет использования новой функции активации в скрытом слое, применения синаптических весов ωi,j, равных единице, что позволяет исключить из структуры формального нейрона умножители синатических весов, а также исключения из структуры нейрона выходного слоя блока, реализующего вычисления функции активации. 1 ил.

Формула изобретения RU 2 614 370 C1

Многовходовой сумматор по модулю два представляет собой трехслойную нейронную сеть, в которой входной слой содержит 8 нейронов, предназначенных для распределения входного вектора на входы нейронов скрытого слоя, скрытый слой - 4 нейрона, выходной слой - один нейрон, при этом нейрон скрытого слоя содержит сумматор и блок вычисления функции активации, реализующий функцию «стрелка Пирса», при этом каждый из сумматоров имеет n+1, где n=8, входов, первые n входов подключены к выходам нейронов входного слоя соответственно, а на n+1 вход подается сигнал смещения, величина которого для первого скрытого нейрона равна -1, для второго равна -3, для третьего равна -5, для четвертого равна -7, выход i-го сумматора, где i=1, 2, 3, 4, подключен ко входу i-го блока вычисления функции активации, выход которого является выходом i-го нейрона скрытого слоя, входы сумматора нейрона выходного слоя подключены соответственно к выходам всех нейронов скрытого слоя, а выход сумматора является выходом многовходового сумматора по модулю два.

Документы, цитированные в отчете о поиске Патент 2017 года RU2614370C1

МНОГОВХОДОВОЙ СУММАТОР 2013
  • Ядыкин Игорь Михайлович
RU2547625C2
МНОГОВХОДОВЫЙ ОДНОРАЗРЯДНЫЙ СУММАТОР 1992
  • Авгуль Леонид Болеславович[By]
  • Курносенко Сергей Васильевич[By]
  • Супрун Валерий Павлович[By]
RU2047216C1
ПАРАЛЛЕЛЬНЫЙ СУММАТОР-ВЫЧИТАТЕЛЬ НА НЕЙРОНАХ 2003
  • Шевелев С.С.
RU2246752C1
Многовходовой сумматор 1989
  • Тарануха Виталий Модестович
SU1679483A1
Катодный генератор или усилитель 1930
  • Бонч-Бруевич М.А.
SU20156A1

RU 2 614 370 C1

Авторы

Калмыков Игорь Анатольевич

Гиш Татьяна Александровна

Саркисов Артем Брониславович

Калмыков Максим Игоревич

Макарова Алена Васильевна

Бондарева Елена Николаевна

Даты

2017-03-24Публикация

2015-10-12Подача