МОДЕЛЬ НЕЙРОННОЙ СЕТИ Российский патент 2007 года по МПК G06N3/06 G06G7/60 

Изобретение относится к нейроподобным вычислительным структурам и может найти применение в области вычислительной техники в качестве процессора вычислительных систем с высоким быстродействием.

Известна оптоэлектронная модель нейронной сети (патент RU 2074417, МПК G06G 7/60, опубл. 27.02.1997), содержащая первую группу оптоэлектронных модулей, каждый из которых содержит последовательно включенные первый входной фотоприемный узел, интегрирующий узел и первый выходной узел светоизлучателей. В модель введена вторая группа оптоэлектронных модулей, каждый из которых содержит последовательно включенные второй входной фотоприемный узел, кодирующий узел и второй выходной узел светоизлучателей, при этом оптические входы первых входных фотоприемных узлов оптоэлектронных модулей первой группы оптически связаны с оптическими выходами вторых выходных узлов светоизлучателей оптоэлектронных модулей второй группы, а оптические входы вторых входных фотоприемных узлов оптоэлектронных модулей второй группы связаны с оптическими выходами первых выходных узлов светоизлучателей оптоэлектронных модулей первой группы.

Однако известная модель нейронной сети обладает следующими недостатками: нелинейное преобразование входного сигнала в дискретный (импульсный), не образуя дополнительных каналов связи между нейронами, не повышает степени распараллеливания вычислительных процессов и скорости обработки информации в сети; уровень энергопотребления высокий и не связан с характером вычислительных процессов в сети; имеются значительные технологические трудности при создании сетей с большим числом нейронов или в микросхемном исполнении.

Из всех известных моделей нейронной сети наиболее близкой к заявляемой является оптоэлектронная модель нейронной сети (патент RU 2070334, МПК G06G 7/60, опубл. 10.12.1996), содержащая два взаимосвязанных оптоэлектронных операционных блока распределенной моделирующей среды, блок опорных напряжений, оптоэлектронный узел обратной связи, электрооптические индикаторы, группу аксоноподобных интегрирующих узлов нелинейной связи, в которых производится преобразование оптических непрерывных сигналов в оптические дискретные сигналы, синапсоподобные интегрирующие узлы, где производится преобразование оптических дискретных сигналов в непрерывные оптические сигналы. Оптические выходы электрооптических индикаторов оптоэлектронных узлов обратной связи, установленные на плоском фоторезисторе, моделирующем дивергенцию выходных сигналов, оптически связаны с оптическими входами плоского операционного фоторезистора, моделирующего конвергенцию входных сигналов, что позволяет реализовать функции адаптации и обучения в нейронных сетях.

Однако известная модель нейронной сети обладает следующими недостатками: нелинейное преобразование входного сигнала в дискретный (импульсный), не образуя дополнительных каналов связи между нейронами, данное преобразование не повышает степени распараллеливания вычислительных процессов и не обеспечивает повышения скорости обработки информации в сети; уровень энергопотребления известной модели нейтронной сети высокий и не связан с характером вычислительных процессов в сети; имеются значительные технологические трудности при создании сетей с большим числом нейронов или в микросхемном исполнении.

Задачей изобретения является повышение скорости обработки информации в искусственной нейронной сети.

Эта задача решается за счет того, что модель нейронной сети содержит, по меньшей мере, один узел обратной связи, по меньшей мере, один блок напряжений, группу аксоноподобных узлов нелинейной связи, включающих преобразователи потока излучения и локальные излучатели, причем каждый аксоноподобный узел дополнительно содержит, по меньшей мере, одну цепь последовательно соединенных схемы согласования и выделения огибающей радиоимпульса на входе и на выходе аксоноподобного узла, автогенератора со схемой самогашения и отрезка коаксиальной линии.

Сущность изобретения заключается в том, что в модель нейронной сети вводится такое нелинейное преобразование входного сигнала в дискретный (импульсный), которое позволит создать дополнительные каналы связи между нейронами (т.е. повысит степень распараллеливания вычислительных процессов и, соответственно, повысит скорость обработки информации в сети), снизит энергопотребление, уровень которого связан с характером вычислительных процессов в сети; снизит технологические трудности при создании сетей с большим числом нейронов или в микросхемном исполнении.

На фиг.1 изображена структурная схема предлагаемой модели нейронной сети, на фиг.2 - структурная схема аксоноподобного узла нейрона.

Модель нейронной сети (фиг.1) содержит искусственную нейронную сеть из аналоговых нейронов 1, блок аксоноподобных узлов 2, регулируемые блоки напряжений 3, нерегулируемый блок напряжений 4.

Аксоноподобный узел нейрона (фиг.2) состоит из цепочек последовательно включенных схемы согласования и выделения огибающей радиоимпульса 5, автогенератора 6 со схемой самогашения 8 и с выводом сигнала управления регулируемыми блоками напряжений 9, отрезка коаксиальной линии 7, шины питания аксоноподобного узла 10. Дополнительная схема согласования и выделения огибающей радиоимпульса 5 включена на выходе аксоноподобного узла.

Модель нейронной сети работает следующим образом. Информация, предназначенная для обработки, в виде сигналов поступает на вход искусственной нейронной сети из аналоговых нейронов 1, функционирующих на известных принципах биологического нейрона. Когда сумма сигналов на входе аналогового нейрона превышает уровень заданного порога, то на его выходе формируется последовательность частотно-модулированных импульсов (импульсов активации или спайков), частота следования которых зависит от суммарного уровня входных сигналов нейрона. Далее последовательность частотно-модулированных импульсов поступает на вход аксоноподобного узла 2.

Аксоноподобный узел работает следующим образом (см. фиг.2). Импульс активации - спайк (далее - видеоимпульс), поступающий на схему согласования и выделения огибающей радиоимпульса 5, осуществляет «безударный» (без коммутации цепей постоянного тока) периодический запуск автогенератора 6 для реализации условий приема внешних электромагнитных колебаний. В момент генерации радиоимпульс, возбужденный в колебательной системе автогенератора 6 - коаксиальной линии 7, излучается в пространство этой же коаксиальной линией, выполняющей функции антенны, и одновременно поступает на вход следующей схемы согласования и выделения огибающей радиоимпульса 5. С выхода схемы согласования и выделения огибающей радиоимпульса 5 выделенный видеоимпульс поступает на запуск следующего автогенератора 6 и процесс повторяется вновь. С выхода последней в цепочке схемы согласования и выделения огибающей радиоимпульса 5 выделенный видеоимпульс поступает на вход следующего нейрона или непосредственно на выход искусственной нейронной сети.

Излученный же в пространство радиоимпульс может быть принят другим аксоноподобным узлом, расположенным на значительном расстоянии от 1-го. Поскольку осуществляется «безударный» запуск автогенератора, то реализуются условия приема внешних электромагнитных колебаний (т.е. автогенератор в данном случае является приемопередающим устройством) и 1-й аксоноподобный узел способен принять радиоимпульсы от других аксоноподобных узлов, входящих в состав других нейронов сети. Таким образом, может осуществляться взаимная синхронизация частот излучения радиоимпульсов между большим числом нейронов. Наличие схемы самогашения в каждом автогенераторе приводит к тому, что синхронизируются не только частоты излучения радиоимпульсов, но частоты следования этих радиоимпульсов, т.е. путем преобразования исходной последовательности видеоимпульсов с выходов нейронов в радиоимпульсы, в процессе синхронизации осуществляется обмен информацией между нейронами. Кроме того, наличие схемы самогашения приводит к тому, что в процессе синхронизации ведущую роль играют те нейроны, частота импульсов на выходе которых выше, т.е. более «быстрые» подстраивают под себя более «медленные».

Отличительными особенностями предлагаемой модели нейронной сети, позволяющими реализовать новые полезные качества, является следующее.

Поскольку обмен информацией между нейронами дополнительно происходит посредством электромагнитного поля, то скорость обмена равна скорости распространения электромагнитных волн, а так как электромагнитное поле может обеспечить обмен информацией с большим числом нейронов (потенциально возможно соединение по принципу «все со всеми»), то степень распараллеливания вычислительных процессов и, соответственно, скорость обработки информации повышаются.

Цепями обратной связи 9 аксоноподобных узлов с выходов схем самогашения 8 (фиг.2) на блоки регулируемых напряжений 3 (фиг.1) осуществляется саморегуляция активности нейронов сети в зависимости от характера вычислительных процессов.

Последовательное включение нескольких цепочек схемы согласования и выделения огибающей радиоимпульса, автогенератора со схемой самогашения, отрезка коаксиальной линии повышает вероятность обмена информацией между нейронами за счет увеличения числа излученных радиоимпульсов при передаче информации с выхода аналогового нейрона через аксоноподобный узел на выход нейронной сети. Также повышается надежность работы сети, поскольку при неисправности какого-либо нейрона функции обработки информации могут взять на себя другие нейроны, способные возбудиться в данный момент времени.

Предлагаемая модель реализуется средствами аналоговой электроники, технологически пригодна к микросхемному исполнению, в том числе и средствами нанотехнологий.

Эти свойства заявляемой модели нейронной сети являются существенными отличиями по сравнению с уже известными моделями.

Изобретение относится к нейроподобным вычислительным структурам и может быть использовано в качестве процессора вычислительных систем с высоким быстродействием. Техническим результатом является повышение скорости обработки информации за счет повышения степени распараллеливания вычислительных процессов. Устройство содержит искусственную нейроподобную сеть из аналоговых нейронов, по меньшей мере, один блок регулируемых напряжений, группу аксоноподобных узлов нелинейной связи, каждый из которых содержит последовательно соединенные схему согласования и выделения огибающей радиоимпульса, автогенератор со схемой самогашения, отрезок коаксиальной линии, выполняющий функции антенны, дополнительную схему согласования и выделения огибающей радиоимпульса. 2 ил.

Модель нейронной сети, содержащая искусственную нейронную сеть из аналоговых нейронов, на вход которой поступает информация, предназначенная для обработки, по меньшей мере один блок регулируемых напряжений, группу аксоноподобных узлов нелинейной связи, отличающаяся тем, что каждый из аксоноподобных узлов нелинейной связи содержит последовательно соединенные схему согласования и выделения огибающей радиоимпульса, автогенератор со схемой самогашения и отрезок коаксиальной линии, выполняющий функции антенны, схема самогашения соединена с блоком регулируемых напряжений для осуществления саморегуляции активности нейронов в зависимости от характера вычислительных процессов, дополнительная схема согласования и выделения огибающей радиоимпульса включена на выходе каждого аксоноподобного узла, выход которой соединен с входами следующих нейронов, выходы нейронов, на которых формируется импульс активации, соединены с входами схем согласования и выделения огибающей радиоимпульса на входах соответствующих аксоноподобных узлов.