ИСКУССТВЕННЫЙ НЕЙРОН Российский патент 2016 года по МПК G06N3/63 

Описание патента на изобретение RU2579958C1

Изобретение относится к вычислительной технике и может быть использовано при построении систем обработки информации в нейросетевом базисе, в том числе для распознавания образов (классификации).

Наиболее близким по выполнению устройством является искусственный нейрон [Хайкин С. Нейронные сети: полный курс, 2e издание: пер. с англ. /С. Хайкин. - М.: Издательский дом «Вильямс», 2006. - 1104 с., с. 42-43], включающий входные сигналы, набор весовых коэффициентов, умножители входного сигнала на весовой коэффициент, сумматор, блок функции активации.

Недостатком известного устройства является использование заданных на этапе обучения и неизменяемых в процессе функционирования значений весовых коэффициентов, что приводит к ограниченным вычислительным возможностям и требует совместного использования нескольких нейронов в одном аппаратном устройстве при решении задач многопараметрической классификации.

Техническим результатом является возможность использования одного нейрона в одном вычислительном блоке при решении задач многопараметрической классификации за счет использования в процессе функционирования искусственного нейрона, изменяемых в зависимости от величины входного сигнала весовых коэффициентов.

Технический результат достигается тем, что устройство включает блок входных сигналов, соединенный с одним или несколькими узлами умножения входной величины на весовой коэффициент, каждый из которых соединен с сумматором, выход которого соединен со входом блока функции активации, каждый узел умножения входной величины на весовой коэффициент включает умножитель входного сигнала на весовой коэффициент и блок формирования весового коэффициента, включающий блок сравнения входной и пороговых величин, один из входов которого соединен с одним из выходов блока входных сигналов, подключенным к одному из входов умножителя входного сигнала на весовой коэффициент, другие входы блока сравнения соединены с выходами ячеек памяти постоянного запоминающего устройства, с записанными в них пороговыми величинами, выход блока сравнения подключен ко входу коммутатора, другие входы которого соединены с выходами ячеек памяти постоянного запоминающего устройства с записанными в них весовыми коэффициентами, выход коммутатора подключен к другому входу умножителя входного сигнала на весовой коэффициент, выход которого соединен с одним из входов сумматора.

Отличием предлагаемого устройства является наличие, между блоком входных сигналов и умножителем входного сигнала на весовой коэффициент, блока формирования весового коэффициента, включающего блок сравнения входной и пороговых величин, связанный с блоком входных сигналов и с постоянным запоминающим устройством с записанными в его ячейках памяти пороговыми величинами, а также коммутатором, связанным с постоянным запоминающим устройством с записанными в ячейках памяти весовыми коэффициентами.

Наличие блока сравнения входной и пороговых величин позволяет сравнить каждое значение входного сигнала с заблаговременно задаваемыми пороговыми величинами и по результатам сравнения выбрать с помощью коммутатора весовой коэффициент, соответствующий данному входному сигналу.

Наличие коммутатора позволяет считывать из ячеек памяти постоянного запоминающего устройства весовой коэффициент, соответствующий данному входному сигналу.

Таким образом, наличие блока формирования весового коэффициента позволяет сравнить каждое значение входного сигнала с заблаговременно задаваемыми пороговыми величинами и выбрать соответственно результату сравнения один из множества заранее определенных весовых коэффициентов для последующего его умножения на величину входного сигнала (то есть весовые коэффициенты являются изменяемыми в зависимости от величины входного сигнала).

На фиг. 1 представлена схема предлагаемого искусственного нейрона, где:

Mi - узел умножения входной величины на весовой коэффициент;

Fi - блок формирования весового коэффициента;

Ti - постоянное запоминающее устройство с записанными в ячейках памяти пороговыми величинами;

Wi - постоянное запоминающее устройство с записанными в ячейках памяти весовыми коэффициентами;

1 - блок входных сигналов;

{ 1 .1 , ,1 .i , 1 .m } - выходные сигналы блока входных сигналов, поступающие на разные узлы умножения входной величины на весовой коэффициент;

1.i.1 - выходной сигнал блока входных сигналов, поступающий на блок формирования весового коэффициента одного из узлов умножения входной величины на весовой коэффициент;

1.i.2 - выходной сигнал блока входных сигналов, поступающий на умножитель одного из узлов умножения входной величины на весовой коэффициент;

{ θ i ( 1 ) , , θ i ( n ) } - ячейки памяти постоянного запоминающего устройства Ti, с записанными пороговыми значениями;

{ 2.1, ,2. n } - группа линий связи между ячейками памяти постоянного запоминающего устройства Ti и блоком 3 сравнения входной и пороговых величин;

4 - линия связи между блоком 3 сравнения входной и пороговых величин и коммутатором 5;

{ w i ( 1 ) , , w i ( z ) } - ячейки памяти постоянного запоминающего устройства Wi, с записанными весовыми коэффициентами;

{ 6.1, ,6. z } - группа линий связи между ячейками памяти постоянного запоминающего устройства Wi и коммутатором 5;

7 - линия связи между коммутатором 5 и умножителем 8 входного сигнала на весовой коэффициент;

8 - умножитель входного сигнала на весовой коэффициент;

{ 9.1, ,9. i , ,9. m } - группа линий связи между узлами M умножения входной величины на весовой коэффициент и сумматором 10;

11 - линия связи между сумматором 10 и блоком функции активации 12;

13 - вывод выходного значения.

В предлагаемом устройстве блок 1 входных сигналов связан линиями связи { 1.1, ,1. i , ,1. m } через узлы M умножения входной величины на весовой коэффициент с одной из m-групп { 9.1, ,9. i , ,9. m } входов сумматора 10, выход 11 которого поступает на блок 12 функции активации, выход 13 из которого является выходом устройства.

Устройство работает следующим образом. Перед включением информационный сигнал преобразуется в форму, воспринимаемую устройством, и заносится в блок 1 входных сигналов. При включении устройства входной сигнал блока 1 по группе линий связи { 1.1, ,1. i , ,1. m } поступает на соответствующий вход блока 3 сравнения входной и пороговых величин, где осуществляется сравнение величины одного из входных сигналов блока 1 с множеством пороговых значений, заданных в ячейках { θ i ( 1 ) , , θ i ( n ) } памяти и поступающих по линиям связи { 2.1, ,2. n } . В зависимости от произведенного сравнения на выходе 4 блока 3 сравнения входной и пороговых величин формируется сигнал, определяющий адрес считываемого значения весового коэффициента из ячеек памяти { w i ( 1 ) , , w i ( z ) } .

Принцип определения считываемого весового коэффициента заключается в сопоставлении в каждом блоке Мi входной величины одного из входных сигналов блока 1 в с заданными заранее порогами { θ i ( 1 ) , , θ i ( n ) } в блоке 3 сравнения входной и пороговых величин и выборе коммутатором 5 соответствующего для данного входного сигнала весового коэффициента в постоянном запоминающем устройстве Wi. В обобщенном виде соотношение, описывающее получение весовых коэффициентов, имеет вид:

W i = { w i ( 1 ) , если x i > θ 1 , w i ( j + 1 ) , если θ j < x i < θ j + 1 , w i ( z ) , если x i < θ n ;

где i - номер узла умножения; x i - выходное значение блока входных сигналов, связанное с i -м узлом умножения; j - номер ячейки памяти постоянного запоминающего устройства Тi; z = ( n + 1 ) - количество ячеек памяти с записанными в них весовыми коэффициентами постоянного запоминающего устройства Wi; n - количество ячеек памяти с записанными в них пороговыми величинами постоянного запоминающего устройства Ti.

Считываемое значение весового коэффициента, поступающее по линиям связи { 6.1, ,6. z } , поступает по линии связи 7 на умножитель 8, где умножается на значение входной величины 1.i, поступающее по линии связи 1.i.2. Полученный после умножения результат передается с выхода умножителя 8 через одну из линий связи группы { 9.1, ,9. i , ,9. m } на сумматор 10. В сумматоре 10 происходит суммирование взвешенных входных значений, поступивших с разных узлов M умножения входной величины на весовой коэффициент. Результат 11 суммирования поступает на блок 12 функции активации, в котором формируется выходной сигнал, поступающий на вывод 13, откуда сигнал преобразуется в форму, пригодную для последующей передачи и обработки.

Ниже иллюстрируется осуществление изобретения на примере задачи «Ирисы Фишера» [Бэстенс Д.-Э. Нейронные сети и финансовые рынки: принятие решений в торговых операциях /Д.-Э. Бэстенс, В.-М. ван ден Берг, Д. Вуд. - М.: ТВП, 1997. - 236 с., с. 35-37].

Набор данных для задачи классификации «Ирисы Фишера» состоит из данных о 150 экземплярах ириса, по 50 экземпляров из трех видов растений - ирис щетинистый (iris setosa), ирис виргинский (iris virginica), ирис разноцветный (iris versicolor). Для каждого экземпляра применяются четыре характеристики: длина чашелистика, ширина чашелистика, длина лепестка и ширина лепестка. На основании данного набора данных требуется обеспечить классификацию видов растений по данным измерений.

На первом этапе поступающая измерительная информация преобразуется в форму, пригодную для обработки искусственным нейроном. Задаваемые характеристики экземпляров ирисов определяются как множество масштабированных в интервале [0,1] входных значений X = { x , 1 x 2 ,x 3 ,x 4 } . Устройство имеет один выход y , поэтому для определения класса ирисов выделим для каждого сорта ирисов уровень выходной величины в интервале [0,1]: y > 0,75 - первый сорт ирисов (ирис щетинистый), 0,5 < y < 0,75 - второй сорт ирисов (ирис виргинский), y < 0,35 - третий сорт ирисов (ирис разноцветный). С учетом данных выходных уровней сигналов перед включением устройства в ячейки памяти постоянных запоминающих устройств T1-T4 и W1-W4 заносятся соответствующие значения порогов и весовых коэффициентов. В конкретном случае для каждого входного параметра записываются следующие величины порогов: T 1 = { 0.7 ; 0.75 } , T 2 = { 0.37 ; 0.38 } , T 3 = { 0.25 ; 0.64 } , T 4 = { 0.05 ; 0.2 } . Соответственно, для решения данной задачи весовые коэффициенты, записанные в соответствующие ячейки памяти блоков W1-W4 для каждой из трех категорий входных сигналов, составят следующие значения:

W 1 = { w 1 ( 1 ) = 0.7930, если x 1 > 0.75, w 1 ( 2 ) = 0.8247, если 0.7 < x 1 < 0.75, w 1 ( 3 ) = 0.8415, если x 1 < 0.7 ; W 2 = { w 2 ( 1 ) = 0.5370, если x 2 > 0.3846, w 2 ( 2 ) = 0.4884, если 0.3718 < x 2 < 0.3846, w 2 ( 3 ) = 0.4802, если x 2 < 0.3718 ;

W 3 = { w 3 ( 1 ) = 1.610, если x 3 > 0.64, w 3 ( 2 ) = 1.480, если 0.25 < x 3 < 0.64, w 3 ( 3 ) = 2.0608, если x 3 < 0.25 ; W 4 = { w 4 ( 1 ) = 1.3034, если x 4 > 0.2, w 4 ( 2 ) = 0.1207, если 0.05 < x 4 < 0.2, w 4 ( 3 ) = 1.3622, если x 4 < 0.05 ;

С учетом сделанных настроек устройство готово к работе. Зададимся конкретными значениями информационных входных сигналов из набора данных «Ирисы Фишера», например: длина чашелистика - 6,3 см; ширина чашелистика - 3,3 см; длина лепестка - 6,0 см; ширина лепестка - 2,5 см, которые соответствуют третьему сорту ирисов - ирис разноцветный. После масштабирования информационных сигналов в интервал [0,1] набор входных значений принимает вид: X = { 0.7949 ; 0.4103 ; 0.7564 ; 0.3077 } .

На фиг. 2 представлен искусственный нейрон, реализованный в одном вычислительном блоке, реализующий решение задачи «Ирисы Фишера». После включения устройства соответствующие входные сигналы 1.1, 1.2, 1.3, 1.4 из блока 1 входных сигналов поступают на соответствующие блоки сравнения 3.1, 3.2, 3.3, 3.4, где сравниваются с заранее заданными пороговыми значениями, записанными в ячейки памяти постоянных запоминающих устройств T1, T2, T3, T4. По результатам сравнения коммутаторы 5.1, 5.2, 5.3, 5.4 считывают из ячеек памяти постоянных запоминающих устройств W1, W2, W3, W4 соответствующие значения весовых коэффициентов - w 1 ( 1 ) = 0.7930 , w 2 ( 1 ) = 0.5370 , w 3 ( 1 ) = 1.610 , w 4 ( 1 ) = 1.3034 . Считанные значения весовых коэффициентов по соответствующим линиям связи 7.1, 7.2, 7.3, 7.4 поступают на умножители 8.1, 8.2, 8.3, 8.4, куда так же по линиям связи 1.1.2, 1.2.2, 1.3.2, 1.4.2 поступают значения соответствующих входных сигналов 1.1, 1.2, 1.3, 1.4. В умножителях происходит умножение входных сигналов на соответствующие им весовые коэффициенты, после чего взвешенные значения сигналов поступают на сумматор 11, где происходит их суммирование. Выходное значение сумматора поступает на блок 13 функции активации. Полученное вычисленное выходное значение составляет y = 0.3143 , что соответствует, как показано выше, третьему сорту ирисов и совпадает с исходным набором данных.

Таким образом, предлагаемое устройство позволяет в одном вычислительном блоке решить задачу многопараметрической классификации, за счет использования в составе искусственного нейрона изменяемых в зависимости от величины входного сигнала весовых коэффициентов. При этом сохраняется присущее нейросетевой технологии свойство обобщения входной информации.

Похожие патенты RU2579958C1

название год авторы номер документа
Комплексное устройство обнаружения в многопозиционной радиолокационной станции 2021
  • Жиронкин Сергей Борисович
  • Макарычев Александр Викторович
  • Слободянюк Александр Валерьевич
RU2778247C1
НЕЙРОПРОЦЕССОР, УСТРОЙСТВО ДЛЯ ВЫЧИСЛЕНИЯ ФУНКЦИЙ НАСЫЩЕНИЯ, ВЫЧИСЛИТЕЛЬНОЕ УСТРОЙСТВО И СУММАТОР 1998
  • Черников В.М.
  • Виксне П.Е.
  • Фомин Д.В.
  • Шевченко П.А.
  • Яфраков М.Ф.
RU2131145C1
Комплексное устройство обнаружения воздушных объектов 2023
  • Грошев Эдуард Иванович
  • Макарычев Александр Викторович
  • Георгиевская Анна Андреевна
RU2816190C1
Анализатор спектра 1979
  • Яремчук Анатолий Антонович
  • Орнатский Петр Павлович
  • Тарабан Николай Евгеньевич
  • Поворознюк Назар Иванович
SU851282A1
Арифметическое устройство для цифровой фильтрации с автоматической регулировкой усиления 1979
  • Диденко Любовь Петровна
  • Ицкович Юрий Соломонович
SU881987A1
Цифровой нерекурсивный фильтр 1985
  • Витязев Владимир Викторович
  • Муравьев Сергей Иванович
SU1270876A1
Цифровой ранговый фильтр видеосигнала телевизионного изображения 1989
  • Паленичка Роман Мирославович
SU1700767A1
Устройство для приема узкополосных телеграфных сигналов 1987
  • Белов Павел Владимирович
  • Быстров Игорь Иванович
  • Иванов Геннадий Николаевич
  • Кельмишкейт Виктор Эдуардович
  • Кержанович Светлана Владимировна
  • Орлов Вадим Ильич
  • Семенов Андрей Викторович
SU1587651A1
Способ и устройство определения угловой ориентации летательных аппаратов 2020
  • Давыденко Антон Сергеевич
  • Кудряшева Полина Андреевна
  • Ошуев Анатолий Михайлович
  • Смирнов Павел Леонидович
  • Терентьев Алексей Васильевич
  • Царик Олег Владимирович
  • Шмидт Максим Васильевич
RU2740606C1
Перестраиваемый цифровой фильтр с программируемой структурой 2016
  • Белоногов Виктор Дмитриевич
RU2631976C2

Иллюстрации к изобретению RU 2 579 958 C1

Реферат патента 2016 года ИСКУССТВЕННЫЙ НЕЙРОН

Изобретение относится к вычислительной технике и может быть использовано при построении систем обработки информации в нейросетевом базисе, в том числе для распознавания образов (классификации). Техническим результатом является возможность обеспечения многопараметрической классификации. Устройство содержит блок входных сигналов, узлы умножения входной величины на весовой коэффициент, сумматор, блок функции активации, каждый узел умножения входной величины на весовой коэффициент включает умножитель входного сигнала на весовой коэффициент и блок формирования весового коэффициента, включающий блок сравнения входной и пороговых величин, ячейки памяти постоянного запоминающего устройства, с записанными в них пороговыми величинами, коммутатор, ячейки памяти постоянного запоминающего устройства с записанными в них весовыми коэффициентами. 2 ил.

Формула изобретения RU 2 579 958 C1

Искусственный нейрон, характеризующийся тем, что включает блок входных сигналов, соединенный с одним или несколькими узлами умножения входной величины на весовой коэффициент, каждый из которых соединен с сумматором, выход которого соединен со входом блока функции активации, каждый узел умножения входной величины на весовой коэффициент включает умножитель входного сигнала на весовой коэффициент и блок формирования весового коэффициента, включающий блок сравнения входной и пороговых величин, один из входов которого соединен с одним из выходов блока входных сигналов, подключенным к одному из входов умножителя входного сигнала на весовой коэффициент, другие входы блока сравнения соединены с выходами ячеек памяти постоянного запоминающего устройства, с записанными в них пороговыми величинами, выход блока сравнения подключен ко входу коммутатора, другие входы которого соединены с выходами ячеек памяти постоянного запоминающего устройства с записанными в них весовыми коэффициентами, выход коммутатора подключен к другому входу умножителя входного сигнала на весовой коэффициент, выход которого соединен с одним из входов сумматора.

Документы, цитированные в отчете о поиске Патент 2016 года RU2579958C1

Устройство для затылования фрез 1939
  • Поляков В.С.
SU62314A1
RU 2059290 C1, 27.04.1996
УСТРОЙСТВО ДЛЯ МОДЕЛИРОВАНИЯ НЕЙРОНА 1991
  • Брюхомицкий Ю.А.
  • Галуев Г.А.
  • Чернухин Ю.В.
RU2029368C1
Дорожная спиртовая кухня 1918
  • Кузнецов В.Я.
SU98A1
US 2009132452 A1, 21.05.2009
US 5671337 A, 23.09.1997
JP 7129530 A, 19.05.1995.

RU 2 579 958 C1

Авторы

Долгов Александр Иванович

Маршаков Даниил Витальевич

Даты

2016-04-10Публикация

2014-12-25Подача