ОПТОЭЛЕКТРОННАЯ МОДЕЛЬ НЕЙРОННОЙ СЕТИ Российский патент 1997 года по МПК G06G7/60 

Устройство относится к области вычислительной техники, а именно к нейроподобным сетевым вычислительным структурам, применяемым для моделирования процессов передачи и обработки информации в распределенных системах.

Известны различные оптоэлектронные нейроподобные структуры, моделирующие процессы передачи и обработки информации в нейронах и нейронных сетях [1 3] Такие нейроподобные оптоэлектронные структуры выполнены из оптоэлектронных модулей, на входе которых имеются фотоприемные элементы, а на выходе имеются источники излучения, между источниками излучения одних оптоэлектронных модулей и фотоприемниками других оптоэлектронных модулей имеются оптические связи.

Наиболее близким аналогом заявленному устройству является оптоэлектронная модель нейронной сети [1] состоящая из оптоэлектронных модулей, каждый из которых состоит из нескольких фотоприемников и источников излучения, причем источник излучения одного модульного элемента оптически связан с фотоприемниками других модулей сетевой структуры.

Однако такие мономодульные оптоэлектронные модели нейронной сети с однотипными модульными элементами довольно приближенно моделируют процессы передачи и преобразования информации, которые имеют место в реальных нейронных сетях, и недостаточно наглядны для изучения особенностей этих процессов на моделирующих средствах.

Задачей изобретения является повышение точности и наглядности моделирования процессов передачи и обработки информации в нейронных сетях.

Решение задачи предполагает выполнение нейроподобной сетевой структуры в виде полимодульной модели нейронной сети, набранной из нейроподобных и синапсоподобных оптоэлектронных модулей и имеющей более полную морфологическую и функциональную аналогию с реальными нейронными сетями. Предлагается при построении архитектуры нейроподобной сети применять два типа оптоэлектронных модулей. Первый из которых нейроподобный модуль, в котором моделируются процессы передачи и преобразования информации (сигналов) в элементах самого нейрона дендритах, соме, аксоне и его терминалях. Второй тип модулей - синапсоподобный модуль, в котором моделируются процессы передачи и преобразования сигналов в синаптическом узле пресинапсе, синаптической щели, постсинапсе.

Кроме того, при выборе операционных элементов нейроподобной сетевой вычислительной структуры предпочтение отдано гибридным оптоэлектронным модульным элементам с аналого-цифровым преобразованием передаваемых сигналов в нейроподобных модулях и с цифроаналоговым преобразованием сигналов в синапсоподобных модулях. Применение разных принципов обработки непрерывных и дискретных сигналов в нейроподобных и синапсоподобных модулях нейроподобной сети заимствовано у реальных нейронных сетей, где в соме каждого нейрона в соответствии с пороговым уровнем возбуждения нейрона производится преобразование входных непрерывных сигналов в набор квантованных дискретных сигналов (спайков), которые по аксонам передаются синаптическим узлам, и затем в этих узлах происходит обратное преобразование дискретных сигналов в непрерывные электрические сигналы, поступающие на "суммирующие" входы-дендриты нейронов.

На фиг. 1 приведен фрагмент структуры оптоэлектронной модели нейронной сети, выполненной из оптоэлектронных нейроподобных и синапсоподобных модулей; на фиг.2 и 3 варианты схем оптоэлектронных нейроподобных и синапсоподобных модулей (нейрочипов) модели нейронной сети.

Оптоэлектронная модель нейронной сети (фиг.1) содержит две группы оптоэлектронных модулей: группу 1 (нейроподобных) и группу 2 (синапсоподобных) оптоэлектронных модулей. Каждый нейроподобный оптоэлектронный модуль 1 (фиг. 1 и 2) содержит дендритоподобный узел конвергенции входных сигналов, выполненный в виде входного фотоприемного узла 3, сомоподобный узел интегральной обработки передаваемых сигналов, выполненный в виде нелинейного кодирующего узла 4, и аксоноподобный узел дивергенции однонаправленных выходных сигналов, выполненный в виде выходного узла 5 светоизлучателей (излучателей). Синапсоподобный модуль 2 (фиг.1 и 3) содержит узел конвергенции пресинаптических сигналов, выполненный в виде входного фотоприемного узла 6, узел интегральной обработки синаптических сигналов, выполненный в виде интегрирующего узла 7, узел дивергенции постсинаптических сигналов, выполненный в виде выходного узла светоизлучателей. Посредством шин 9 и 10, собранных из электропроводящих и светопроводящих волоконных шин, подаются к оптоэлектронным модулям 1 и 2 опорные и управляющие электрические и оптические сигналы.

На фиг.2 и 3 приведены схемы простейших вариантов технической реализации нейроподобных и синапсоподобных модулей. Схемы выполнены на простых оптоэлектронных элементах, в качестве интегрирующего элемента применен конденсатор, но для некоторых схем таким интегрирующим элементом может быть интегратор на операционном усилителе.

В схеме нейроподобного модуля (фиг.2) входной фотоприемный узел 3 содержит фотоприемники (фоторезисторы) 11.1 11.М, кодирующий узел 4 выполнен на интегрирующем элементе конденсаторе 12 и оптоэлектронном ключе 13 14 (источник излучения 13 и фотодиод 14) и на фоторезисторе 15, выходной узел 5 светоизлучателей выполнен на фотоприемнике 16 и источнике излучения 17. Выходной узел 5 светоизлучателей может быть выполнен в виде группы последовательно соединенных фотоприемников 16 и источников излучения 17.

В схеме синапсоподобного модуля (фиг.3) входной фотоприемный узел 6 содержит фотоприемники (фоторезисторы) 18.1 18.К, интегрирующий узел 7 содержит интегрирующий элемент конденсатор 19, выходной узел светоизлучателей 8 содержит группу источников излучения 20.1 20.К и группу фоторезисторов 21.1 21.К.

На фиг.2 и 3 приведены самые простые варианты оптоэлектронных схем нейроподобных и синапсоподобных модулей, которые могут иметь интегральное исполнение на дискретных оптоэлектронных операционных элементах. Такие оптоэлектронные модули могут быть выполнены в виде микрочипов сферической и плоской формы.

Работает предлагаемая модель нейронной сети следующим образом.

В соответствии с условиями решаемой задачи задается топология связей оптоэлектронных модулей 1 и 2 нейроподобной сети, задаются синаптические веса коэффициентов связи, пороговые уровни, обратные cвязи. Эти процедуры осуществляются следующим образом. Посредством управляющих оптических сигналов, излучаемых от внешних источников излучения либо от локальных источников излучения, задаются в нейроподобных модулях 1 значения проводимостей фоторезисторов 15 и 16, соответствующие уровню порога возбуждения нейронов и в синапсоподобных модулях 2 задаются значения проводимости фоторезисторов 21.1 - 21. К, соответствующие локальным значениям коэффициентов межнейронной связи. Задание значений проводимости фоторезисторов 15 и 16, в нейроподобных модулях 1 и фоторезисторов 21.1 21.К в синапсоподобных модулях 2 осуществляется формирователями распределенных световых потоков (управляемыми оптическими транспорантами со светоизлучающими экранами, матрицами голограмм и т.п.) и локальными излучателями (управляемые дискретные источники излучения с аналоговым и цифровым управлением, оптические выходы волоконных световодов и т. п.).

При подключении к шинам опорных потенциалов 9 и 10 напряжений, величина которых определена условиями моделирования процессов передачи и преобразования информации в нейронной сети, через электронные элементы нейроподобных и синапсоподобных модулей потекут соответствующие токи, и за счет высвечивания оптических сигналов с источников излучения 17 и 20.1 20.К образуется оптическая взаимосвязь этих модулей во всей нейроподобной сетевой структуре в соответствии с задаваемой топологией межнейронной связи.

После задания параметров нейроподобного модуля 1 значений проводимости фоторезисторов 15, 16 и значений опорных потенциалов, может возникать при малых темновых значениях проводимости фоторезисторов 11.1 11.М режим инактивации, когда нейроподобный модуль 1 может оставаться значительное время "неактивным", т.е. слабо реагировать на внешние возмущения и не генерировать выходные сигналы "спайки". Для "запуска" нейроподобного модуля необходимо либо увеличить величину проводимости фоторезисторов 11.1 11.М (это можно осуществить кратковременным освещением одного или нескольких из этих фоторезисторов), либо задать соответствующие начальные условия путем зарядки конденсатора 12. Если этих мер недостаточно, то можно снизить порог возбуждения, увеличивая величину проводимости фоторезистора 15 и тем самым увеличивая величину напряжения на источнике излучения 13. При этом для "запуска" нейроподобного модуля 1 необходимо создать на источнике излучения 13 такое напряжение, величина которого обеспечивала бы высвечивание оптического сигнала с яркостью, необходимой для открывания фотодиода 14. При этом величина проводимости последнего резко возрастет и открывается канал разряда (сброса) заряда, аккумулированного на конденсаторе 12, через фоторезистор 16 (либо разрядный резистор) и источник излучения 17. С последнего высвечивается импульсный оптический сигнал, передаваемый на оптические входы фотоприемников 21 синапсоподобного модуля 2.

Импульсный характер высвечивания оптического сигнала, имитирующего "спайк", обусловлен импульсным разрядом через цепочку последовательно соединенных фотодиода 14, резистора 16 и источника излучения 17. При "открывании" фотодиода 14 происходит разряд конденсатора 12 и снижается потенциал заряда на этом конденсаторе, при этом значение этого потенциала становится меньше того значения, которое необходимо для срабатывания оптоэлектронного ключа оптоэлектронной пары (светодиод 13 фотодиод 14) и происходит запирание (закрывание) разрядной (выходной) цепочки нейроподобного модуля. Следующее "срабатывание" нейроподобного модуля 1 произойдет при зарядке конденсатора 12 до того значения, при котором происходит "открывание" разрядной (выходной) цепочки. Скорость и величина заряда конденсатора 12 зависит от значений опорных потенциалов, проводимостей фоторезисторов 11.1 - 11. М и от значения проводимости цепочки источника излучения 13 и фоторезистора 15. Значения опорных потенциалов, подаваемых на входы фоторезисторов 11.1 11.М, могут иметь положительные значения для задания каналов возбуждения (активации), и отрицательные значения для задания каналов торможения (инактивации). Значения проводимостей фоторезисторов 11.1 11.М определяются интенсивностью световых потоков, падающих на рабочие поверхности этих фоторезисторов от источников излучения 21.1 21.К, включенных в выходные узлы 8 синапсоподобных модулей 2.

Импульсные оптические сигналы, высвечиваемыми источниками излучения 17 в нейроподобных модулях 1, подаются на вход фотоприемников 18.1 18.К синапсоподобных модулей 2, которые могут быть выполнены на фоторезисторах, фототранзисторах и фотодиодах, и их основное функциональное назначение - производить импульсный заряд конденсатора 19 при освещении фотоприемников 18.1 18. К. Разряд конденсатора 19 осуществляется через фоторезисторы 21.1 21.К, величина проводимости которых задается в соответствии с величиной синаптических весов межнейронной связи. При этом с источников излучения 20.1 - 20.К разрядных цепочек происходит высвечивание непрерывных оптических сигналов с яркостью излучения пропорциональной величине потенциала заряда, аккумулированного на емкостном элементе 19, и величине проводимости фоторезистора 21 в этой цепочке. Эти непрерывные оптические сигналы высвечиваются в направлении фоторезисторов 11.1 11.М нейроподобных модулей 1 и при освещении их рабочей поверхности открывают их увеличивают их проводимость в соответствии с яркостью проецируемых оптических сигналов.

Таким образом импульсные оптические сигналы с выхода нейроподобных модулей 1 инициируют возбуждение синапсоподобных модулей 2, а те в свою очередь излучают непрерывные оптические сигналы, которые поступают на оптические входы нейроподобных модулей 1, расположенных в других слоях нейросетевой структуры, и активируют их.

Такой вариант бимодульной нейросетевой структуры, во-первых, подсказан самой природой нейросинаптическим механизмом передачи информации в реальных нейронных сетях, а также необходимостью применять так же, как и в реальных нейронных сетях гибридные методы передачи и преобразования обрабатываемой информации и носители информации разной физической природы. Применение для обмена информационными потоками между нейроподобными 1 и синапсоподобными 2 модулями оптических сигналов с различными спектральными характеристиками позволяет осуществлять дифференцированную связь между такими модулями модели нейронной сети и создавать трехмерные нейросетевые модели в виде чередующихся слоев из нейроподобных и синапсоподобных оптоэлектронных модулей, имеющих оптическую взаимосвязь между собой в соответствии с моделируемой топологией нейронной сети.

Для моделирования процессов передачи обработки информации в нейросетевых структурах одновременно применяются цифровые и аналоговые методы обработки дискретных (квантованных) и непрерывных сигналов. Причем применение цифровых методов оказалось необходимым для квантования информационных потоков, передаваемых от нейроподобных модулей 1 к синапсоподобным модулям 2, при этом повышается эффективность применяемых аналоговых методов за счет автоматической синхронизации передачи сигналов в многосвязной сетевой структуре и за счет циклического изменения аналоговых переменных в определенном диапазоне моделируемых переменных (напряжений).

В основу работы предлагаемой модели нейронной сети заложены принципы гибридной обработки передаваемой информации, принципы гибридной технической реализации нейроподобной структуры и гибридные (смешанные) носители информации.

Применение в модели смешанных носителей информации позволяет обеспечить достижение дополнительных положительных эффектов. Так, применение оптических сигналов связи позволяет применять их не только по прямому назначению для организации развитой межмодульной связи в нейросетевой структуре, но и для функций визуального контроля за моделируемыми процессами передачи и преобразования информации в таких нейросетевых моделирующих средствах, что делает такие оптоэлектронные модели нейросетей удобным и наглядным инструментом для учебных целей при изучении основ нейроинформатики.

Использование: оптоэлектронная модель нейронной сети относится к оптоэлектронным нейроподобным вычислительным структурам и предназначена для применения в качестве сопроцессоров в нейрокомпьютерных системах. Сущность изобретения: предлагается в оптоэлектронную модель нейронной сети, содержащую группу 1 нейроподобные модули, ввести дополнительно группу 2 оптоэлектронных модулей, при этом предлагается в нейроподобных модулях производить преобразование оптических непрерывных сигналов в оптические дискретные сигналы, а в оптоэлектронных модулях производить преобразование оптических дискретных сигналов в непрерывные оптические сигналы. При этом расширяются функциональные возможности нейроподобных вычислительных систем, повышается наглядность результатов моделирования, появляется возможность моделировать сложные нейроинформационные системы. 3 з.п. ф-лы, 3 ил.

1. Оптоэлектронная модель нейронной сети, содержащая первую группу оптоэлектронных модулей, каждый из которых содержит последовательно включенные первый входной фотоприемный узел, интегрирующий узел и первый выходной узел светоизлучателей (источников излучения), отличающаяся тем, что в модель введена вторая группа оптоэлектронных модулей, каждый из которых содержит последовательно включенные второй входной фотоприемный узел, кодирующий узел и второй выходной узел светоизлучателей, при этом оптические входы первых входных фотоприемных узлов оптоэлектронных модулей первой группы оптически связаны с оптическими выходами вторых выходных узлов светоизлучателей оптоэлектронных модулей второй группы, а оптические входы вторых входных фотоприемных узлов оптоэлектронных модулей второй группы оптически связаны с оптическими выходами первых выходных узлов светоизлучателей оптоэлектронных модулей первой группы. 2. Модель по п. 1, отличающаяся тем, что каждый входной фотоприемный узел содержит группу фотоприемников, первые выводы которых подключены к шине опорных потенциалов узлов, вторые выводы фотоприемников группы объединены и являются выходом узла. 3. Модель по п. 1, отличающаяся тем, что каждый выходной узел светоизлучателей содержит группы последовательно включенных источников излучения и фотоприемников, выводы которых подключены к шине нулевого потенциала узла, выходы источников излучения объединены и являются входом узла. 4. Модель по п. 1, отличающаяся тем, что кодирующий узел состоит из емкостного элемента, оптоэлектронного ключа, выполненного в виде оптоэлектронной пары источник излучения фотодиод, и фотоприемника, первый вывод последнего соединен с вторым выводом источника излучения оптоэлектронного ключа, причем вход узла подключен к первым выводам емкостного элемента, источника излучения и фотодиода оптоэлектронного ключа, вторые выводы емкостного элемента и фотоприемника подключены к шине нулевого потенциала, второй вывод фотодиода является выходом узла.