УСТРОЙСТВО ДЛЯ МОДЕЛИРОВАНИЯ САМООРГАНИЗУЮЩИХСЯ СЕТЕЙ НЕФОРМАЛЬНЫХ НЕЙРОНОВ Российский патент 2013 года по МПК G06N3/06 

Область техники, к которой относится изобретение

Изобретение относится к медицинской кибернетике, бионике, нейроинформатике, в частности к области разработки сетевых систем для моделирования нейрофизиологических процессов, а также созданию информационно-управляющих устройств и биотехнических комплексов двигательной регуляции.

Уровень техники

Аналогом изобретения является устройство для моделирования нейронных сетей, представляющее собой группу синаптически связанных между собой формальных нейронов, имитирующих свойства реальной (биологической) нервной системы [1, 2]. Каждый из формальных нейронов сети обладает набором однонаправленных входных связей (синапсов), а также имеет выходную связь (аксон), через которую сигнал от него поступает на синапсы следующих нейронов или на вход исполнительных элементов (аналогов двигательных единиц). Каждый синаптический вход умножается на определенный вес, соответствующий величине эффективности синапса, затем все произведения суммируются и подаются на один из входов компаратора, порог срабатывания которого определяется амплитудой управляющего сигнала, подаваемого на другой его вход. Общий вид формального нейрона, реализующего набор указанных свойств, приведен на фиг.1. Здесь множество входных сигналов обозначены вектором X. Каждый вес W_i (1) соответствует эффективности одной синаптической связи. Выход сумматора 2 подключен к одному из входов компаратора 3, пороговые характеристики которого задаются сигналом X₀, подаваемым на другой (управляющий) его вход. Преобразователь 4 определяет терминальные параметры процесса генерации нейроном потенциалов действия [f(u)].

С существенными признаками изобретения совпадает следующая совокупность признаков аналога: «каждый из нейронов сети обладает набором однонаправленных входных связей (синапсов), а также имеет выходную связь (аксон), через которую сигнал от него поступает на синапсы следующих нейронов или на вход исполнительных элементов (аналогов двигательных единиц). Каждый синаптический вход умножается на определенный вес, соответствующий величине эффективности синапса, затем все произведения суммируются и подаются на один из входов компаратора, порог срабатывания которого определяется амплитудой опорного сигнала, подаваемого на другой (управляющий) его вход».

Недостатком аналога является неполнота моделирования биологического прототипа, а именно, отсутствие у формальной модели нейрона ряда базовых функциональных свойств реальной нервной клетки. Особого внимания в этом плане заслуживают: стохастический (вероятностный) характер зависимости импульсной активности биологического нейрона от параметров поступающего к нему синаптического притока [3], наличие функциональных обратных связей в центральных и периферических синапсах химического типа [4]; существование внутринейронных (эндогенных) механизмов генерации потенциалов действия [5]; оперантная детерминированность процесса формирования эндогенных паттернов нейронной активности [6]; системообразующая роль суммарного результата деятельности системы в детерминации функций отдельных ее элементов [7].

Прототипом изобретения является «Устройство для моделирования нейрона» (Брюхомицкий Ю.А. Авт. свид. N1709356 A1, (SU) G06G 7/60 (1989)) [8], которое позволяет повысить достоверность моделирования нейронных сетей за счет представления протекающих в них процессов в виде переменных стохастических последовательностей.

С существенными признаками изобретения совпадает следующая совокупность признаков прототипа: «в устройство, содержащее блоки изменения синаптических весов, первые входы которых являются входами устройства, пространственный сумматор, входы которого подключены к выходам блоков изменения синаптических весов, введены … компаратор, логический блок и генератор случайных чисел».

Недостатком прототипа также является несоответствие ряда существенных его характеристик основополагающим принципам функционирования реальных нейронов и их сетей. Прежде всего, это игнорирование системообразующей роли суммарного результата деятельности мультинейронных систем в процессах их формирования [7] и исключение механизма синаптических обратных связей [4].

Устранение недостатка может быть достигнуто за счет того, что на вход порогового устройства (компаратора) подается сигнал не с выхода сумматора синаптических весов, а с выхода умножителя, осуществляющего функцию модуляции синаптического сигнала стохастическим потоком случайных чисел. Соответственно, на другой (управляющий) вход компаратора подается стробированный потенциалами действия нейрона сигнал с выхода второго (системного) сумматора, на N входов которого поступают потенциалы действия всех N нейронов сети. В результате, на выходе каждого из нейронов формируется последовательность потенциалов действия, вероятность генерации каждого из которых зависит не только от текущих параметров синаптического притока, но и от амплитуды терминальной активности всей нейронной сети в целом.

Сущность изобретения

Задачей, на решение которой направлено изобретение, является разработка биологически правдоподобной модели нейронной сети («сети неформальных нейронов»), учитывающей весь комплекс существенно значимых функциональных признаков биологического прототипа.

При осуществлении изобретения могут быть получены следующие результаты:

А. Повышение точности нейросетевого моделирования с учетом реальных свойств нейронов головного мозга человека и животных.

Б. Лучшее понимание процессов, происходящих в нейроне-прототипе.

В. Использование воспроизведенных процессов обработки сигналов в нейроне для создания искусственных интеллектуальных систем.

Указанные технические результаты достигаются за счет того, что в состав известного устройства, содержащего блоки изменения синаптических весов 1, сумматор 2, компаратор 3, преобразователь 4, генератор случайных чисел 5, вводят умножитель 6 и второй (системный) сумматор 9, на N входов которого поступают выходные сигналы N нейронов (поз.А), а выход сумматора через индивидуальный для каждого нейрона блок импульсного стробирования 7 и блок пролонгации 8 подключают к управляющему входу компаратора 3 (фиг.2).

Признаки, отличающие изобретение от наиболее близкого аналога, выражаются следующей совокупностью признаков: «в состав известного устройства вводят умножитель и второй (системный) сумматор, на N входов которого поступают выходные сигналы N неформальных нейронов, а выход сумматора через блок импульсного стробирования и блок пролонгации подключают к управляющему входу компаратора».

С целью повышение эффективности моделирования, а также максимально точного отражения в рамках предлагаемой модели основных признаков ее биологического прототипа, предусмотрена возможность как избирательного, так и генерализованного синаптического воздействия на все нейроны сети.

Таким образом, задача изобретения решена.

Сведения, подтверждающие возможность осуществления изобретения

Возможность осуществления изобретения подтверждается результатами мультипараметрического компьютерного анализа [9], проведенного в среде объектно-ориентированного моделирования LabView 2010.

Полная блок-схема устройства для моделирования самоорганизующихся сетей неформальных нейронов в среде LabView представлена на фиг.3. Схема включает в себя 4 основных сектора. Первый из них (фиг.3.1) объединяет двадцать неформальных нейронов 1, выходной сигнал каждого из которых поступает на вход центрального сумматора 2 через преобразователь 3. Второй сектор блок-схемы (фиг.3.2) представляет собой устройство формирования внешнего («синаптического») сигнала управления вероятностью генерации нейроном потенциалов действия. Основным элементом здесь является «Simulate Sig» 4. Его работой через контур положительной обратной связи, идущей с выхода центрального сумматора 2 управляет виртуальный субприбор «Select» 5. Подача на его центральный (управляющий) вход сигнала логической единицы приводит к его отключению от нулевой точки (OffSet 3) и коммутации с цифровым генератором постоянного уровня синаптического притока (t).

Функцией третьего сектора (фиг.3.3) является автоматическое выключение всей системы после достижения ею результата (т.е. после формирования на выходе центрального сумматора 2 определенного паттерна эфферентных импульсов). Основным функциональным элементом здесь является RS-триггер, собранный на двух Boolean элементах «Not And» 6. Включение режима «готовность к работе» осуществляется Boolean-сигналом, идущим от включателя 7. Переход RS-триггера в альтернативное устойчивое состояние производится импульсом, поступающим с компаратора 8. И, наконец, четвертый сектор (фиг.3.4) - это усилитель-формирователь звуковых сигналов, соответствующих выходным импульсам всей системы в целом. Реализация этой функции осуществляется двумя встроенными в LabView субприборами: Simulate Sig 9 и Play Waveform 10.

Устройство работает следующим образом.

В каждой итерации каждым неформальным нейроном сети 1 (фиг.3. 1), полная внутренняя схема которого представлена на фиг.4, формируется одно случайное число и, соответственно, производится одно действие сравнения этого числа с величиной управляющего сигнала. В том случае, если случайное число оказывается меньше или равно ему, на выходе компаратора появляется короткий импульс логической единицы. В противном случае - на его выходе сохраняется логический нуль. Для формирования стохастической последовательности импульсов используется генератор потока случайных чисел двойной точности {Random Number} 2, величиной от 0 до 1 (фиг.4). Выход Random-генератора 2 через умножитель 3 подключен к компаратору 4 {Less or Equal}, на другой вход которого через блок Select 5 подается управляющий (пороговый) сигнал.

После запуска устройства, в какие-то моменты в результате случайного совпадения во времени генерации потенциалов действия разными нейронами сети на ее выходе появляются высокоамплитудные суммарные импульсы. Автоматическая регистрация моментов их появления и положительное «подкрепление» создающих эти числовые аномалии элементов системы осуществляется с помощью логического блока 6. Суть его работы сводится к тому, что каждый нейрон сети каждым генерируемым им импульсом не только привносит свой микро вклад в общий суммарный выход системы, но и всякий раз стробирует («прозванивает») текущее состояние этого выхода. В результате, возникновение любой высокоамплитудной флуктуации регистрируется только теми элементами, импульсная активность которых и привела к ее формированию.

При определении режима обратной связи учитывались результаты экспериментов по оперантному обусловливанию разрядной деятельности отдельных нервных клеток [6]. В рассматриваемом устройстве (фиг.4) реализация принципа оперантной детерминации осуществлялась следующим образом. До момента достижения амплитуды выходного сигнала верхнего порогового значения 8 система работает в своем обычном режиме генерации стохастического потока импульсов. В случае любого его превышения, собранный на двух элементах «Not And» RS-триггер 6 переводится потенциалом действия нейрона в альтернативное устойчивое состояние. В результате на управляющем входе соответствующего компаратора, вместо непрерывно меняющегося сигнала суммарного выхода системы, пролонгируется («зависает») его пиковый уровень, который сохраняется до момента генерации нейроном очередного потенциала действия, но уже на низком уровне 7 сетевой активности. Одновременное развитие указанных процессов в разных каналах устройства приводит к тому, что образующие систему элементы переходят в режим кооперативной (согласованной) деятельности. На уровне входного звена нейросети это проявляется в форме возникновения особой функциональной обратной связи, в рамках которой импульсный выход неформальных нейронов начинает активно влиять на весовые параметры поступающих к ним внешних сигналов.

Возможность осуществления изобретения с реализацией указанного назначения подтверждается известностью средств и методов получения устройств. Результаты тестирования рассмотренной выше модели, а также ряда других разработанных на ее основе приборов, представлены в монографии «Основы квантовой синергетики функциональных систем, ч.II» (ISBN 078-5-91506-026-4. Москва. 2011 г. автор: Бобровников Л.В.).

Таким образом, подтверждена возможность осуществления изобретения.

Техническими результатами изобретения являются: повышение точности нейросетевого моделирования с учетом реальных свойств нейронов головного мозга человека и животных; лучшее понимание процессов, происходящих в нейроне-прототипе, а также использование воспроизведенных процессов обработки сигналов в нервных клетках для создания искусственных интеллектуальных систем.

Источники информации

1. Мак-Каллок У., Питтс В. Логическое исчисление идей, относящихся к нервной активности // Нейронные сети: история развития теории. Под ред. Галушкина А.И., Цыпкина Я.З. ИПРЖР. 2001. С.5-22.

2. Редько В.Г., Янушевский И.А. Формальный нейрон. Авт. свид. N1013984 A (SU) 00667/60 (1983).

3. Burns B.D. The uncertain nervous system. 1968. London. Ed.: E.Arnold. 263 p.

4. Матюшкин Д.П. Обратные связи в синапсе. Л.: Наука. 1989.

5. Пейсмекерный потенциал нейрона. Под ред. Соколова Е.Н. Тбилиси. 1975.

6. Stein L, Belluzzi J.D. Operant conditioning of individual neurons. In: M.L.Commons, R.M.Church, J.R.Stellar, A.R.Wagner (Eds.). Quantitative analyses of behavior. V.7. Biological determinants of reinforcement and memory 1988. (pp.249-264). Hillsdale, NJ: Erlbaum.

7. Анохин П.К. Системный анализ интегративной деятельности нейрона - Успехи физиологических наук. 1974. Т.5. №2. с.5-92.

8. Брюхомицкий Ю.А. Устройство для моделирования нейрона. Авт. св. N1709356 A1 (SU) G06G 7/60 (1989).

9. Бобровников Л.В. Основы квантовой синергетики функциональных систем, ч.II». ISBN 078-5-91506-026-4. Москва. 2011. 162 с.

Изобретение относится к медицинской кибернетике, бионике, нейроинформатике, в частности к области разработки сетевых систем для моделирования нейрофизиологических процессов, а также к созданию информационно-управляющих устройств и биотехнических комплексов двигательной регуляции. Техническим результатом является повышение точности нейросетевого моделирования с учетом реальных свойств нейронов головного мозга человека и животных; лучшее понимание процессов, происходящих в нейроне-прототипе, а также использование воспроизведенных процессов обработки сигналов в нервных клетках для создания искусственных интеллектуальных систем. Устройство содержит совокупность нейроподобных элементов, каждый из которых содержит блоки изменения синаптических весов, сумматор, компаратор, преобразователь, генератор случайных чисел, умножитель, блок импульсного стробирования и блок пролонгации, управляющий компаратором, а также сумматор с контуром положительной обратной связи. 4 ил.

Устройство для моделирования самоорганизующихся сетей неформальных нейронов, включающее в себя совокупность нейроподобных элементов, каждый из которых содержит блоки изменения синаптических весов, сумматор, компаратор, преобразователь и генератор случайных чисел, отличающееся тем, что в состав каждого элемента сети входит умножитель, который модулирует синаптический сигнал импульсами генератора случайных чисел и направляет образующийся таким способом стохастический импульсный поток на вход общего для всех сетевых нейронов сумматора с контуром положительной обратной связи, через которую общий выходной сигнал системы после его индивидуального стробирования потенциалами действия отдельных нейронов с последующей программируемой пролонгацией распределяется по управляющим входам их компараторов.