И. Пригожин и теория самоорганизации

Нейронные сети и  хаотическая динамика

Упоминая об аргументации, мы говорили о том, что человеку свойственно  принимать решения, руководствуясь системами аргументов, оценивая (аргументируя) различные альтернативы выбора. В  реальности, аргументация часто оказывается  многоступенчатой, иерархической и  многосвязной. Причем каждый аргумент, в свою очередь, формируется на основании  своей сети аргументов. При этом элементы оцениваемой ситуации оказываются  переплетенными множеством взаимных зависимостей, базирующихся на предшествующем опыте (т.к. в этих элементах уже заложен  предшествующий опыт, а не существует отдельно от них). Логические, формальные рассуждения часто заменяются многосвязной, динамичной, растущей сетью аргументов.

Нейронные сети (НС) построены по аналогичному принципу, подобно тому, как работают нейроны человеческого мозга. На вход каждого из элементов НС подается множество положительных и отрицательных импульсов, на выходе - разряд или тишина, в зависимости от того, достигнут ли порог срабатывания: 

Y=1, SkiXi > Sкр.;  
     0, SkiXi < Sкр.

Отдельные элементы НС (нейроны) соединяются друг с другом параллельно (по слоям) и последовательно (между  слоями). В практических реализациях  НС часто состоят из ряда слоев, объединенных множеством обратных связей. В процессе обучения находятся такие настроечные  коэффициенты Si,kj, что при подаче на вход сети определенного исходного  образа {Xвх}, на выходе формировался бы соответствующий ему образ {Xвых}.

До недавнего времени, основным техническим приложением  нейронных сетей были задачи классификации  и распознавания образов. Не вдаваясь в подробности, можно сказать, что  нейронные сети способны заменить различные  математико-статистические модели. И  главным образом потому, что НС являются системами с хаотической  динамикой (детерминированных хаосом). Результат работы НС может быть представлен  следующим образом: 
 
  ХАОС1+ХАОС2=Порядок, 
 
где ХАОС1 - входной набор данных, в котором мы пытаемся распознать закономерности; ХАОС2- соответствующим образом настроенный детерминированный хаос нейронной сети.

В самом деле, тот факт, что два различных хаоса могут  в сумме дать порядок, представляется очевидным. Порядок нельзя разложить  на другой порядок +хаос, потому, что, внося  порядок в хаос, мы получим хаос. Вместе с тем, с математической точки  зрения, можно разделить порядок  на две хаотические компоненты. Соединив их, мы получим, естественно, исходный упорядоченный процесс.

В процессе научения человеческого  мозга можно иногда сталкиваться с феноменами, соответствующими понятию "порядок из хаоса". Множество  разрозненных элементов нового знания атакуют сознание, пока вспышка "просветления" не приведет хаотическую картину  в состояние упорядоченного равновесия. Иногда, как при изучении иностранных  языков, процесс обучения с сопутствующим  ему "внутренним хаосом" может  продолжаться годами. В то же время  как порядок выкристаллизовывается  медленно, постепенно. Тем не менее, и это, несомненно, результатом обучения является скорее "ощущение" правильности тех или иных фактов или действий, чем способность их логического обоснования. Человеку свойственно, скорее "чувствовать" иностранный язык, чем формально пользоваться изученными языковыми конструкциями.

Обученные тем или иным способом (логически или методом  проб и ошибок) нейронные схемы  становятся частью человеческого мозга. Эти структуры вновь и вновь  используются для "записи" информации. Однако важной особенностью НС является способность записывать новую информацию без стирания старой. Как известно, переучиваться чему-либо всегда сложнее, чем учиться вновь - это свидетельствует  об отсутствии возможностей селективной  записи информации, в полном соответствии с нашим пониманием механизмов работы нейронных структур.

Одной из самых интересных способностей НС является (в отличие  от логических систем) возможность  работы в условиях противоречивости базовой модели знаний (исходного  аксиоматического набора). В некоторых  реализациях НС, в т.н. асимметричных  сетях Хопфилда, аналогом логической противоречивости является "энергия" неуравновешенных связей между элементами сети. В этом случае, абсолютно непротиворечивая модель знаний будет обладать нулевой  энергией, в то время как те или  иные противоречивые состояния характеризуются  различными ненулевыми значениями суммарной  энергии неуравновешенных связей.

В соответствии с законом  Больцмана, E=kT, то есть энергия-энтропия линейно пропорциональна температуре. Чем выше "температура" сети, тем  более противоречива модель знаний, тем более неуравновешенными  и нелогичными будут принимаемые  решения. Для понижения уровня противоречивости модели применяется метод, называемый simulated annealing, аналогичный закаливанию  металла: в модель закачивается дополнительная энергия (т.е. сеть как бы "нагревается"), после чего ей дают остыть, т.е. освободиться от лишней энергии внутренних связей. Повторяя процедуру N раз, выбирают состояние  с минимальной остаточной энергией, что соответствует наименьшей внутренней противоречивости модели.

Сети Хопфилда сконструированы  по аналогии с модельными системами  Изинга-Гейзенберга, служащими для  иллюстрации физических процессов  в магнитных материалах. Каждый элемент  сети характеризуется спином S={Ý,ß}, ориентированным условно "вверх" или "вниз" (в системах Изинга определяется только два состояния, в системах Гейзенберга - угол наклона 0…360°). Связи между узлами могут быть "ферромагнитными" АÝßB и "антиферромагнитными" АÝÝB. В случае ферромагнитных связей, энергия связи e_ij равна нулю, если спины в связываемых элементах разнонаправлены. Кроме температуры T=Se_ij , имеет физический смысл также параметр суммарного спина сети M=SS_i, который рассматривается как намагниченность. В результате, возникают некоторые интересные аналогии между логикой принятия решений и физическими процессами, имеющими термодинамическую и магнитодинамическую природу. Идеальная непротиворечивая модель знаний имеет свойства сверхпроводника. Внешние "магнитные" поля способны изменять конфигурацию спинов, следовательно, влиять на работу НС. Чем меньше сопротивление внешнему магнитному полю, тем выше чувствительность сети к внешним полям. Моделируется даже фазовый переход между состояниями ферромагнетика и парамагнетика ("точка Кюри"), являющийся точкой бифуркации по Пригожину. Поскольку связи в асимметричных сетях Хопфилда (АСХ) являются обычно разнотипными (ферромагнитными и антиферромагнитными), модель соответствует физическому аналогу спиновых стекол с растянутым фазовым переходом, то есть обладает типично хаотическим аттрактором. Таким образом, АСХ способна к самоорганизации, может обучаться и самообучаться, стремится к минимально противоречивому состоянию, и, к тому же, чувствительна ко внешним и внутренним полевым воздействиям.

От практической реализации такой сети можно было бы ожидать  удивительных результатов,… Однако на практике существует слишком много  препятствий, чтобы ожидать скорого  появления систем искусственного интеллекта, построенных на базе нейронных сетей, и, в частности, асимметричных сетей Хопфилда. Существующие образцы НС реализуются в основном программно, с использованием компьютеров, построенных по фон-Неймановской последовательной архитектуре. Различные аппаратные реализации НС оказались довольно ограниченными и не слишком эффективными, так что говорить о коммерческом развитии интеллектуальных систем на базе НС и тем более АСХ пока преждевременно. Что касается научных исследований… Они ведутся, но, к сожалению, в несколько иных направлениях: для распознавания образов (с перспективой использования в военных системах), для решения статистических задач (моделирование биржевого курса акций) и т.п. Проблема создания систем искусственного интеллекта, в общем-то, снята, вместе с рядом других фундаментальных проблем, таких, как использование термоядерной энергии или решение задачи единой теории поля. Эпоха научно-технической революции завершена. Мир уже не делится на "физиков" и "лириков".

Вселенная как  нейронная сеть (вместо эпилога)

В соответствии с законами термодинамики, существование Вселенной  когда-нибудь закончится тепловой смертью, когда температура каждой из точек  Вселенной окажется равной абсолютному  нулю(273, 16°С). Космологические теории расширяющейся Вселенной этого  не отрицают. Более того, последние  расчеты показали, что вещества во Вселенной, по-видимому, недостаточно для того, чтобы текущий этап ее расширения сменился сжатием, коллапсом  и новым Большим Взрывом.

Следуя принципам, изложенным в предыдущей главе, можно сказать, что Вселенная, охлаждаясь, становится все более разумной. Порядок возникает  из хаоса в результате охлаждения, рассеивания энергии. Приближаясь  к нулевой энергии и нулевой  температуре, уровень противоречивости и неопределенности мира будет уменьшаться. На последних этапах существования  мира, он, возможно, подойдет максимально  близко к абсолютной истине. Однако все это произойдет весьма нескоро, и свидетелями этих событий нам  не стать.

Литература

1.Теория самоорганизации 
И.Пригожин. Постижение реальности. 
И.Пригожин. Философия нестабильности 
Прав ли Пригожин? В. Губин. 
Ден Герцель. Работы по искусственному интеллекту и теории самоорганизации. 
Время, хаос, квант. К решению парадокса времени. Пригожин И., Стенгерс И. 2000. 256 с