Table Of ContentМИНИСТЕРСТВООБРАЗОВАНИЯИНАУКИ
РОССИЙСКОЙФЕДЕРАЦИИ
ФЕДЕРАЛЬНОЕАГЕНТСТВОПОАТОМНОЙЭНЕРГИИ
РОССИЙСКАЯАКАДЕМИЯНАУК
РОССИЙСКАЯАССОЦИАЦИЯНЕЙРОИНФОРМАТИКИ
МОСКОВСКИЙИНЖЕНЕРНО-ФИЗИЧЕСКИЙИНСТИТУТ
(ГОСУДАРСТВЕННЫЙУНИВЕРСИТЕТ)
НАУЧНО-ИССЛЕДОВАТЕЛЬСКИЙИНСТИТУТ
СИСТЕМНЫХИССЛЕДОВАНИЙРАН
НАУЧНАЯСЕССИЯ МИФИ–2008
НЕЙРОИНФОРМАТИКА–2008
X ВСЕРОССИЙСКАЯ
НАУЧНО-ТЕХНИЧЕСКАЯ
КОНФЕРЕНЦИЯ
ЛЕКЦИИ
ПО НЕЙРОИНФОРМАТИКЕ
Часть 1
По материаламШколы-семинара
«Современныепроблемынейроинформатики»
Москва2008
УДК 001(06)+004.032.26(06) Нейронные сети
ББК 72я5+32.818я5
М82
НАУЧНАЯСЕССИЯМИФИ–2008.XВСЕРОССИЙСКАЯНАУЧНО-ТЕХНИ-
ЧЕСКАЯ КОНФЕРЕНЦИЯ «НЕЙРОИНФОРМАТИКА–2008»: ЛЕКЦИИ ПО
НЕЙРОИНФОРМАТИКЕ.Часть1.–М.:МИФИ,2008.–152с.
В книге публикуются тексты лекций, прочитанных на Школе-семинаре
«Современныепроблемынейроинформатики»,проходившей22–25января
2008годавМИФИврамкахXВсероссийскойконференции«Нейроинфор-
матика–2008».
Материалы лекций связаны с рядом проблем, актуальных для совре-
менного этапа развития нейроинформатики, включая ее взаимодействие с
другиминаучно-техническимиобластями.
Ответственный редактор
Ю.В.Тюменцев,кандидат технических наук
ISBN 978–5–7262–0881–7
c Московскийинженерно-физическийинститут
(cid:13)
(государственныйуниверситет),2008
Оригинал-макетподготовленЮ.В.Тюменцевым
с использованиемиздательскогопакета LATEX2ε
и набораPostScript–шрифтовPSCyr
Подписанов печать12.11.2007г.Формат60 841/16
×
Печ.л. 9,5.Тираж170экз. Заказ№490
Московскийинженерно-физическийинститут
(государственныйуниверситет)
ТипографияМИФИ
115409,Москва,Каширскоешоссе,31
Содержание
Предисловие 6
В.Л.Дунин-Барковский. О международной инициативе «Десятиле-
тиеразума (Decadeofthe Mind)» 13
K.Кавамура, С.Б.Парин, С.А.Полевая, В.Г.Яхно. Возможность по-
строения симуляторов осознания сенсорных сигналов: Иерар-
хия «распознающих ячеек», нейроархитектура, психофизиче-
скиеданные 23
Введение . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24
Варианты базовыхмоделей нейроноподобныхсистем для описа-
ния процессовосознания . . . . . . . . . . . . . . . . . . . . 25
Особенности динамических режимовв модели«адаптивной рас-
познающей ячейки» и вариантах иерархическойвзаимосвя-
зитаких «распознающихячеек» . . . . . . . . . . . . . . . . 30
Нейроанатомическое обоснование для модели «адаптивной рас-
познающейячейки» . . . . . . . . . . . . . . . . . . . . . . . 35
Методполучения психофизическихданных для симулятора . . . 41
Психофизическаяоценкавлиянияэмоциональнойсистемынаосо-
знание сенсорныхсигналов. . . . . . . . . . . . . . . . . . . 42
Психофизическая оценка влияния вегетативной системы на осо-
знание сенсорныхсигналов. . . . . . . . . . . . . . . . . . . 47
Выводы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51
Литература . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 52
A.Yu.Khrennikov. Psycho-robots 58
1. Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 59
2. Metricspaces . . . . . . . . . . . . . . . . . . . . . . . . . . . . 62
3. Dynamicalthinkingin mentalspace . . . . . . . . . . . . . . . . 62
4. Transformationofunconsciousmentalflowsintoconsciousflows. 63
4.1. Model1: attractors. . . . . . . . . . . . . . . . . . . . . . 63
УДК 001(06)+004.032.26(06) Нейронныесети 3
ISBN 978–5–7262–0881–7 ЛЕКЦИИ ПО НЕЙРОИНФОРМАТИКЕ
4.2. Model2: measureof interest . . . . . . . . . . . . . . . . 65
4.3. Model3: measureof interdiction . . . . . . . . . . . . . . 68
4.4. Model4: forbiddenwishesanddesires . . . . . . . . . . . 71
5. Repression . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 71
5.1. ComplexesandSymptoms . . . . . . . . . . . . . . . . . 72
5.2. Resistance force . . . . . . . . . . . . . . . . . . . . . . . 74
6. Otherapproachestopsycho-robots . . . . . . . . . . . . . . . . . 75
7. Conclusions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 77
8. References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 77
А.А.Фролов,В.Ю.Рощин.Интерфейс мозг-компьютер.Реальность
и перспективы. 82
Введение . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 84
Инвазивные ИМК . . . . . . . . . . . . . . . . . . . . . . . . . . . 89
Многоэлектродныематрицы . . . . . . . . . . . . . . . . . . 93
Проблема биологическойсовместимостии безопасности . . 93
Алгоритмыпреобразованияактивностимозгавкомандувнеш-
немуустройству . . . . . . . . . . . . . . . . . . . . . 95
Обучение навыку управления внешними объектами . . . . . 96
Неинвазивные ИМК . . . . . . . . . . . . . . . . . . . . . . . . . . 99
Зрительные вызванные потенциалы (ЗВП) . . . . . . . . . . 99
Медленные корковыепотенциалы . . . . . . . . . . . . . . . 100
Компонент Р300 . . . . . . . . . . . . . . . . . . . . . . . . . 101
ПаттерныЭЭГ,соответствующиеразличнымтипамменталь-
нойдеятельности . . . . . . . . . . . . . . . . . . . . 103
ИМК для непрерывного управления двумерными движени-
ямивнешних устройств . . . . . . . . . . . . . . . . 108
Заключение . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 113
Литература . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 117
С.А.Терехов. Случайные гауссовские процессы в задачах аппрок-
симацииданных 126
Введение: Практика байесова обучениямашин. . . . . . . . . . . 127
Задачааппроксимации (регрессии)данных . . . . . . . . . . . . . 129
Данные без шума . . . . . . . . . . . . . . . . . . . . . . . . 131
Данные с шумом . . . . . . . . . . . . . . . . . . . . . . . . . 135
Выбор моделигауссовскогопроцесса . . . . . . . . . . . . . . . . 137
Байесоваиндукция . . . . . . . . . . . . . . . . . . . . . . . 141
4 УДК 001(06)+004.032.26(06) Нейронныесети
ЛЕКЦИИ ПО НЕЙРОИНФОРМАТИКЕ ISBN 978–5–7262–0881–7
Моделирование. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 143
Что необходимодляпроведениявычислений? . . . . . . . . 144
Искусственные данные . . . . . . . . . . . . . . . . . . . . . 145
Регрессиявложения финансового временногоряда . . . . . 147
О прикладном значении условныхгауссовскихпроцессов . . . . 149
Благодарности . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 151
Литература . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 151
Задачи . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 152
Задача1.Матричныевычисления . . . . . . . . . . . . . . . 152
Задача2.Уклонение траекторийотнуля . . . . . . . . . . . 152
УДК 001(06)+004.032.26(06) Нейронныесети 5
ПРЕДИСЛОВИЕ
1. Вэтойкниге содержатсятекстырядалекций, прочитанныхнаВось-
мой Школе-семинаре «Современные проблемы нейроинформатики», про-
ходившей 22–25 января 2008 года в МИФИ в рамках X Всероссийской
научно-техническойконференции«Нейроинформатика–2008»,атакжетекст
однойизлекций(А.А.Фролов,В.Ю.Рощин),представленнойнаСедьмой
Школе-семинаре,иневошедшейпотехническимпричинамвсоставсбор-
ников[10,11](она включена вЧасть 1).
Приотбореиподготовкематериаловдлялекцийавторыиредакторсле-
довалипринципамиподходам,сложившимсяприпроведениисемипреды-
дущих Школ (см. [1–11]). А именно, основной целью Школы было, как
всегда, рассказать слушателям о современном состоянии и перспективах
развития важнейших направлений в теории и практике нейроинформати-
ки, о ееприменениях.
Основной задачей лекторов, приглашаемых из числа ведущих специа-
листов в области нейроинформатики и ее приложений, смежных областей
науки, было дать живую картину современного состояния исследований
и разработок, обрисовать перспективы развития нейроинформатики в ее
взаимодействиис другимиобластяминауки.
2. ВЧасти1данногосборникапубликуютсятекстычетырехлекций из
программы Восьмой Школы-семинара, а также упомянутая выше лекция
А.А.ФроловаиВ.Ю.Рощинаиз программыСедьмойШколы:
1. В.Л.Дунин-Барковский. О международной инициативе «Десятиле-
тие разума(DecadeoftheMind»).
2. K.Кавамура,С.Б.Парин,С.А.Полевая,В.Г.Яхно.Возможность по-
строениясимуляторовосознаниясенсорныхсигналов:Иерархия«рас-
познающих ячеек»,нейроархитектура,психофизические данные.
3. А.Ю.Хренников.Психо-роботы.
4. А.А.Фролов,В.Ю.Рощин.Чтотакое интерфейс мозг-компьютер.
5. С.А.Терехов.Случайные гауссовские процессы в задачахаппрокси-
мации данных.
3. В Части 2 опубликованы еще три доклада из программы Восьмой
Школы-семинара:
6 УДК 001(06)+004.032.26(06) Нейронныесети
Ю.В.ТЮМЕНЦЕВ
1. Б.В.Крыжановский.О топологии потенциальной поверхности и ве-
роятностях обнаружения локальных минимумов в задачах бинарной
оптимизации.
2. Я.Б.Казанович. Сегментация изображений с помощью динамиче-
ских нейронных сетей.
3. Ю.И.Нечаев.Нейронечеткая система поддержки принятия решений
приоценке поведениясложногодинамического объекта.
4. Лекция В.Л.Дунина-Барковского «О международной инициативе
“Десятилетие разума (Decade of the Mind”)» ставит своей целью ознако-
мить членовроссийскогонейросетевогосообществас последними иници-
ативамивобластипонимания механизмовмозга.Речьидет обинициативе
«Десятилетие разума», даются краткие сведения об авторах декларации,
обсуждаютсяпроблемы,охватываемыеинициативой.
5. В лекции K.Кавамуры, С.Б.Парина, С.А.Полевой, В.Г.Яхно
«Возможность построения симуляторов осознания сенсорных сигналов:
Иерархия“распознающихячеек”,нейроархитектура,психофизическиедан-
ные» рассмотрены варианты базовых моделей нейроноподобных систем
для описания динамических процессов обработки сенсорных сигналов.
Проведено сопоставление с данными о нейроархитектуре мозга. Рассмот-
рены некоторые основные динамические процессы в модельных нейро-
ноподобных системах и проведено сопоставление с экспериментальными
нейрофизическими данными осознания внешних стимулов и внутренних
состоянийчеловека.
6. В лекции А.Ю.Хренникова «Психо-роботы» предпринимается по-
пытка геометризации психологии, осуществляемая путем представления
ментальных состояний («идей») точками некоторого метрического про-
странства, именуемого ментальным пространством. Эволюция идей опи-
сываетсядинамическимисистемамивметрическомментальномпростран-
стве. Подход, основанный на использовании понятия ментального про-
странства,применяетсядлямоделированияпотоковбессознательнойисо-
знательной информации в человеческом мозге. Строится последователь-
ность моделей, с помощью которых рассматриваются когнитивные систе-
мыснарастающейсложностьюпсихологическогоповедения,определяемо-
го структуройпотоков идей. Поскольку предлагаемые модели фактически
относятся к классу моделей искусственного интеллекта (ИИ), они могут
бытьиспользованыдлясозданияИИ-систем,называемыхвданнойработе
УДК 001(06)+004.032.26(06) Нейронные сети 7
ISBN 978–5–7262–0881–7 ЛЕКЦИИ ПО НЕЙРОИНФОРМАТИКЕ
психо-роботами, в которых проявляются важные элементы человеческой
психики.
7. Лекция А.А.Фролов,В.Ю.Рощин«Чтотакоеинтерфейсмозг-ком-
пьютер» посвящена рассмотрению и анализу имеющихся данных по про-
блеме создания и испытания интерфейсов мозг-компьютер (ИМК). ИМК
являютсяновойсистемойкоммуникациичеловекасмашиной,основанной
на непосредственном преобразовании намерений человека, отраженных в
регистрируемыхсигналах мозга,вуправляющие команды. Сточкизрения
потенциальнодостижимыхуровнейинформационнойпроизводительности
для разработки ИМК изучаются три основные парадигмы: неинвазивный
ИМК, основанный на распознавании ментальных состояний, вызванных
воображаемым выполнением движений; неинвазивный ИМК, использую-
щийпринципнепрерывногоуправления;инвазивныйИМК,основанныйна
двусторонней связи мозг-компьютер посредством имплантируемых элек-
тродовипозволяющийполностьюинкорпорироватьвнешние технические
устройствавовнутреннююнейроннуюмодельсхемытелаи,соответствен-
но, оперировать с ними так же, как и с естественными исполнительными
органами.
8. Тематика лекции С.А.Терехова «Случайные гауссовские процессы
в задачах аппроксимации данных» связана с актуальной задачей аппрок-
симации данных. Особое внимание уделено гауссовским процессам, мо-
делирующим условнуюплотность вероятности. Методыописания данных
гауссовскимипроцессамипозволяютнадежнооцениватьнеопределенность
(риск) прогноза на новых данных. Основное внимание уделено методам
приближенияданныхгауссовскимипроцессамиитесносвязаннымсними
оценкам величины риска прогноза, определяемого такими приближения-
ми. Алгоритмы ориентированы на коллекции данных малых и средних
размеров (до 10000 примеров) и могут эффективно применяться при пла-
нировании экспериментов.
9. В лекции Б.В.Крыжановского «О топологии потенциальной по-
верхности и вероятностях обнаружения локальных минимумов в задачах
бинарнойоптимизации»обсуждаетсяпроблемабинарнойоптимизации.На
основеанализаобобщенноймоделиХопфилдаполученывыражения,уста-
навливающие связьмеждуглубинойлокальногоминимумаиширинойоб-
ласти притяжения, которую можно выразить в виде «глубже минимум –
шире область притяжения – больше вероятность обнаружения в процессе
случайногопоиска».Наоснованииэтого,вероятностьнахождениялокаль-
8 УДК 001(06)+004.032.26(06) Нейронныесети
Ю.В.ТЮМЕНЦЕВ
ного минимума при случайной инициализации нейронной сети удалось
представить как функцию глубины этого минимума. В практических оп-
тимизационных приложениях наличие таких выраженийпозволит поряду
уженайденных минимумовоценить вероятностьнахожденияболее глубо-
когоминимумаипринятьрешениенаостановкупрограммыпоискаилиее
продолжение.
10. Лекция Я.Б.Казановича «Сегментация изображений с помощью
динамическихнейронныхсетей»посвященарассмотрениюразличныхпод-
ходовкпостроениюмоделейсегментацииизображенийнаосновеисполь-
зования динамических процессов, колебаний и синхронизации нейронной
активности. Приводятся нейробиологические основы моделей, описыва-
ются принципы функционирования моделей и результаты их применения.
Обсуждаютсясравнительные качествамоделейи перспективы их улучше-
ния.
11. В лекции Ю.И.Нечаева «Нейронечеткая система поддержки при-
нятия решений при оценке поведения сложного динамического объекта»
Обсуждаетсяпроблеманейронечеткогомоделированияприразработкебор-
товойинтеллектуальнойсистемы(ИС)реальноговремени.Вкачествепрак-
тического приложения рассмотрены особенности взаимодействия судна с
ледовымполемразличнойинтенсивности. Определены принципы исполь-
зованиянейронечеткихтехнологийвзадачахповышениянадежностифунк-
ционированияИС.Представленырезультатымоделированиядинамикивза-
имодействияна базе различныхвычислительных технологий.
∗ ∗ ∗
Длятого,чтобыпродолжитьизучениевопросов,затронутыхвлекциях,
можно порекомендовать такой уникальный источник научных и научно-
технических публикаций, как цифровая библиотека ResearchIndex (ее на-
зывают также CiteSeer, см. позицию [12] в списке литературы в конце
предисловия). Эта библиотека, созданная и развиваемая отделением фир-
мы NEC в США, содержит уже более 900 тыс. публикаций, причем это
число постоянно и быстро увеличивается за счет круглосуточной работы
поисковоймашины.
Каждый из хранимых источников (статьи, препринты, отчеты, диссер-
тации и т.п.) доступен в полном объеме в нескольких форматах (PDF,
PostScript, DjVu и др.) и сопровождается очень подробным библиографи-
ческим описанием, включающим, помимо данных традиционного харак-
тера (авторы, заглавие, место публикации и/или хранения и др.), также
УДК 001(06)+004.032.26(06) Нейронныесети 9
ISBN 978–5–7262–0881–7 ЛЕКЦИИ ПО НЕЙРОИНФОРМАТИКЕ
и большое число ссылок-ассоциаций, позволяющих перейти из текуще-
го библиографического описания к другим публикациям, «похожим» по
теме на текущую просматриваемую работу. Это обстоятельство, в сочета-
ниисвесьмаэффективнымполнотекстовымпоискомвбазедокументовпо
сформулированномупользователем поисковому запросу, делает библиоте-
ку ResearchIndex незаменимым средством подбора материалов по требуе-
мойтеме.
Помимо библиотеки ResearchIndex, можно рекомендовать также бога-
тыйэлектронныйархивпубликаций[13],поисковыйсервисGoogleScholar
[14],а также порталнаучныхвычислений [15].
Перечень проблем нейроинформатики и смежных с ней областей, тре-
бующихпривлечениявниманияспециалистовизнейросетевогоиродствен-
ных с ним сообществ, далеко не исчерпывается, конечно, вопросами, рас-
смотреннымивпредлагаемомсборнике, атакже всборниках[1–11].
Вдальнейшемпредполагаетсярасширениеданногосписказасчетрас-
смотрениянасущныхпроблемсобственнонейроинформатики,проблем«по-
граничного»характера,особенноотносящихсяквзаимодействиюнейросе-
тевой парадигмы с другими парадигмами, развиваемыми в рамках кон-
цепции мягких вычислений, проблем использования методов и средств
нейроинформатикидлярешенияразличныхклассовприкладных задач.Не
будут забыты и взаимодействия нейроинформатики с такими важнейши-
ми ее «соседями», как нейробиология, нелинейная динамика, численный
анализ и т.п.
Замечания,пожеланияипредложенияпосодержаниюиформелекций,
перечнюрассматриваемыхтемит.п.просьбанаправлятьэлектроннойпоч-
тойпо адресу[email protected]ТюменцевуЮриюВладимировичу.
Литература
1. Лекции по нейроинформатике: По материалам Школы-семинара «Современ-
ные проблемы нейроинформатики» // III Всероссийская научно-техническая
конференция «Нейроинформатика-2001», 23–26 января 2001 г. / Отв. ред.
Ю.В.Тюменцев. –М.:Изд-воМИФИ,2001.–212с.
2. Лекции по нейроинформатике: По материалам Школы-семинара «Современ-
ные проблемы нейроинформатики» // IV Всероссийская научно-техническая
конференция «Нейроинформатика-2002», 23–25 января 2002 г. / Отв. ред.
Ю.В.Тюменцев.Часть1. –М.:Изд-воМИФИ,2002.–164с.
10 УДК 001(06)+004.032.26(06) Нейронные сети
