Главная > Распознавание образов > Лекции по теории образов: Анализ образов
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

6.6. Вывод алгебры изображений

Для упрощения анализа начнем, как обычно, с одноатомных изображений, а расширение на многоатомный случай обсудил? позже.

Рассмотрим теперь сеть с насыщенным и устойчивым отображением памяти, на которую воздействует входной сигнал у. Пусть — некоторое высказывание, инициированное у, так что Если результирующий вектор у вводится в сеть то мы получаем сознательный ответ

в соответствии с предложением 6.4.1. Если, с другой стороны, у инициирует некоторое другое высказывание то ответ сети будет

Может оказаться, что ответы абсолютно не связаны, Сеть совершенно по-разному реагирует на векторы . С другой стороны, может оказаться, что внутреннее произведение т. е. реакции имеют нечто общее между собой. В результате возникает следующая формализация идеи обучения.

Определение 6.6.1. (i) будем говорить, что входной вектор у инициирует связь между двумя высказываниями если

(ii) Мы будем говорить, что входной вектор у обеспечивает запоминание существом высказывания С, если он инициирует возникновение связи с самим собой:

Будем говорить, что сеть установила посредством обучения связь между высказываниями если существует входной вектор, инициирующий эту связь. Аналогично мы говорим, что высказывание С установлено посредством обучения, если существует вектор у, обеспечивающий запоминание сетью высказывания С.

Следовательно, обучается связывать если , и обучается С, если

Это качественное определение можно превратить в количественное, заменив (6.6.3) и (6.6.4) величинами

и

соответственно.

Обучение, таким образом, представляется изменением геометрии с внутренним произведением, связанным с матрицей Здесь речь идет не о геометрии физического пространства, в котором расположена сеть но об -пространстве с новой геометрией.

Что же можно сказать относительно способностей к обучению, если задана структура образов Очевидно, во-первых, что достижимый уровень обучения зависит не только от потенциальной среды Здесь играет роль также частота (и продолжительность) предъявления различных объектов. Другими словами, именно опыт определяет, какие понятия будут сформированы в результате обучения, а какие нет.

Сформулируем это более точно.

Предложение 6.6.1. Существо обучится высказыванию С, если оно реализовано в

Доказательство. Если в имеется образующая для которой то из предложения 6.2.7 следует, что инициирует Это означает, что подпространство сознательной сферы Г будет содержать элемент Неформально это означает, что Г будет получать вклад пропорциональный и, следовательно, пропорционально

Операторы однако, имеют одно и то же ядро. Следовательно, неравенство (6.6.4) справедливо при обучилось С.

Если С — аналитическая то единица, так что и, следовательно, наверняка обучается понятиям, которые аналитически истинны.

Справедливо частичное обращение этого предложения.

Предложение 6.6.2. Существо обучится некоторому высказыванию С только тогда, когда оно реализуется в , расширенном так, что в него входят фиктивные объекты разд. 6.2.

Доказательство. Допустим, что высказывание С сформулировано посредством обучения, так что существует некоторый вектор у, удовлетворяющий условию (6.6.4). Отсюда следует, что

и, таким образом, у имеет ненулевую проекцию в подпространство сознательной сферы Г. Вектор однако, будет принадлежать и, следовательно, представляет некоторый объект в или некоторый фиктивный объект, который в обоих случаях удовлетворяет С.

Предложение 6.6.3. Если высказывания одновременно реализованы в научится связывать

Доказательство. Допустим, что не обучилось установлению этой связи и, следовательно,

Напомним, что получены как неотрицательные комбинации ряда элементарных операторов проектирования. Тогда из (6.6.9) следует, что

Поскольку, однако, Г построен из вкладов типа то должно иметь место

причем здесь внешнее произведение равно нулю только тогда, когда

Отсюда следует, что конъюнкция

Это означает, что не могут быть одновременно справедливы в и, таким образом, предложение доказано.

В этом анализе решающую роль играет оператор а через него — оператор опыта Г. Напомним — обсуждение, проведенное в конце разд. 6.2, показало, что можно ожидать либо почти ортогональности, либо почти пропорциональности входных векторов у. Первый случай соответствует действительно различным объектам, второй — почти «тому же самому» объекту, подвергнутому преобразованиям подобия.

Пусть Г имеет собственные значения с соответствующими нормированными собственными векторами Примем для простоты, что собственные значения простые; в противном случае последующее изложение потребует модификации,

но несущественной. Пусть на вход поступил вектор у, и, следовательно, оператор приращения опыта равен

тогда очевидно, что если то единственное изменение Г состоит в том, что заменяется на Подобным же образом, если у ортогонален всем то Г приобретает некоторый новый собственный вектор у с собственным значением Если ввести пучок векторов у, близких друг к другу и таких, что

где

то мы получаем оператор приращения опыта

здесь мы воспользовались тем фактом, что сумма равна нулю. Если у — это «старый» собственный вектор ортогональны Г, то из (6.6.16) следует, что Г изменяется в двух отношениях. Его собственное значение увеличивается до а также затрагиваются очень малые собственные значения порядка Последнее скажется лишь на «дне» пространства, соответствующем низкому уровню сознания. Иначе говоря, мы приходим к следующему предложению.

Предложение 6.6.4. Если образован из истинно различных объектов, к которым применяются различные преобразования подобия, то приближениями собственных векторов оператора опыта являются где значениями служат неподобные прототипы из

Отметим, что объекты среды (приближенно) представлены как собственные векторы оператора На дне подпространства сознательной сферы можно обнаружить эффект, вызванный применением различных преобразований подобия к объектам. Он будет разделять это пространство с эффектами, вызванными передаточным шумом и шумом основного процессора Соответствующие собственные значения характеризуют энергию входного вектора, продолжительность предъявления и вероятность выбора объектов.

Нетрудно распространить вышеуказанное на случай более точной аппроксимации. В самом деле, если добавить к Г приращение скажем, при то можно воспользоваться

для вычисления изменения стандартным методом возмущений» В результате получаем новое собственное значение

где

и изменение собственного вектора можно вычислить аналогично. Читателю, интересующемуся подробностями, следует обратиться к монографии Рисса и Надя (1952), гл. IX.

Предложение 6.6.4 имеет одно забавное следствие. Пусть объекты предъявляются по одному. Существо обучится соответствующим одноатомным изображениям формируя ортогональные подпространства и строя в них проекции, принадлежащие изображениям. Если эти объекты совершенно различны, то все прекрасно. Если же какие-либо из них сходны друг с другом, то нам известно, что соответствующее подмножество объектов порождает в сознательном подпространстве только один собственный вектор. Так будет происходить по крайней мере в течение некоторого времени, и для того, чтобы обучилось всем объектам, потребуется более длительное предъявление. Итак, сходство объектов будет замедлять процесс обучения.

Предложение 6.6.5. Рассмотрим изображения в состоящие в каждый момент времени из одной образующей так что их векторы у имеют единичную норму. Пусть Т-время, необходимое для обучения всем в том смысле, что все собственных векторов, соответствующих подняты до уровня тогда Т принимает минимальное значение, когда все взаимно ортогональны.

Доказательство. Если ортогональны, то предъявление изображения I в течение Т единиц времени дает

Если ортогональны, выбираем систему координат так, что компонента равна 1, а остальные 0. Тогда суженный на соответствующее -мерное подпространство, представляет собой единичный оператор, взятый раз в этом подпространстве. При этом все собственные значения равны и чтобы обучиться изображению в указанном выше смысле, требуется время предъявления Допустим теперь, что уже не ортогональны, но все еще имеют единичную длину. В таком случае неотрицательно определенный оператор приращения опыта еще удовлетворяет условию означающему, что его наименьшее

собственное значение самое большее равно Следовательно, для обучения требуется время предъявления по крайней мере .

Пусть, например, и два вектора у образуют угол Тогда для двумерного подпространства можно записать, что

и, следовательно,

Непосредственное вычисление дает для наименьшего собственного значения

так что время предъявления должно быть увеличено на коэффициент

В данном разделе мы пренебрегаем экспоненциальным затуханием коэффициентов связи, которое характеризуется временной постоянной Это приближение справедливо лишь, когда интервалы времени существенно короче, чем Следует также выяснить, что происходит в случае более продолжительных временных интервалов, но здесь мы не станем заниматься этим.

Давайте теперь расстанемся с одноатомным случаем. Если в конфигурации имеется несколько образующих, то бблыиая часть изложенного в данном разделе остается в силе лишь с небольшими изменениями. Вклад в оператор опыта можно подсчитать для конфигурации, учитывая то обстоятельство, что образующие имеют когерентную кодировку. Тогда математическое ожидание оператора равно умноженному на V выражению, зависящему от аналогично полученному нами для одноатомной конфигурации и зависящему от Такую линейную композицию входных векторов нельзя было бы получить, если бы кодирование было некогерентным, и тогда представлял бы собой сумму причем каждый определялся бы однъй из образующих конфигурации. В последнем случае, не могло бы обучиться никаким связям между объектами. Таким образом, условие когерентности является критическим.

Следует подчеркнуть, что, поскольку должно быть обеспечено то, следовательно, при (объектов) мы получаем неравенство

таким образом, получено неравенство для числа объектов, которые можно хранить в краткосрочной памяти:

Следовательно, краткосрочная память может содержать самое большее птлх объектов одновременно.

Предложение 6.6.6. Сеть может содержать в своей краткосрочной памяти самое большее объектов; ятах определяется из (6.6.23).

Это обстоятельство повлияет на способности к обучению, так как модификация отображения памяти, построенного оператором осуществляется через равновесное состояние вектора .

Остановимся теперь на некоторых существенных ограничениях способности к обучению. Мы убедились в, том, что оно может обучаться понятиям, соответствующим проекциям в При изучении одноатомных конфигураций мы отметили, что из этого следует также возмож ость обучения фиктивным объектам. Это зависит от того, является ли множество линейно замкнутым или нет. При переходе к многоатомным конфигурациям мы знаем, однако, что векторы у объединяются путем сложения, и в связи с вариацией создается впечатление, как будто бы фиктивные объекты (если таковые имелись) могли быть отождествлены с конфигурациями объектов.

Это не обязательно так. Во-первых, как указывалось в разд. 6.1, понятие образующей включает свойства, которые могут зависеть от других объектов. Две образующие не всегда можно объединять (должны выполняться условия регулярности так что упомянутое множество у не обязано быть линейно замкнутым, и мы не можем пренебрегать фиктивными объектами при любых обстоятельствах. Во-первых, как мы убедились в разд. 6.2, построение линейного замыкания посредством вариации значений предусматривает некогерентное кодирование. Это противоречит аксиоме и, следовательно, фиктивные «объекты» не всегда могут интерпретироваться как конфигурации, состоящие из нескольких объектов.

Другое ограничение возникает в случае неполного уплотнения. Допустим, что одновременно уплотняются лишь из -пространств, где — число сенсорных подпространств Соответствующая иллюстрация приведена на рис. 6.6.1, где линии передачи от представляют собой кабели, каждый из которых содержит несколько отдельных жил, Мы будем называть такое уплотнение дробным .

Тогда мы имеем подпространств Если, например, все имеют размерность то объединенное

пространство будет обладать размерностью

вместо размерности соответствующей случаю полного уплотнения. Это сравнение несколько некорректно, поскольку мы воспользовались в (6.6.24) симметрией с тем, чтобы сократить размерность. Так, например, на рис. 6.6.1 отсутствует, поскольку его обязанности с тем же успехом может выполнить Подобная экономия может быть обеспечена и в случае полного уплотнения, что дает приблизительно половинную размерность. Уменьшение, обеспеченное дробным уплотнением, характеризуется множителем

входящим в выражение, определяющее полную размерность пространства входных сигналов, которая может быть очень велика.

Рис. 6.6.1.

Дробное уплотнение имеет одно интересное следствие. Если воспользоваться в качестве модели конъюнкциями простых высказываний, то одновременно мы можем работать с конъюнкциями самое большее простых высказываний. Обращение к логике признаков, рассмотренной в разд. 6.1, позволяет сформулировать такое предложение.

Предложение 6.6.7. Если дробное уплотнение используется для передачи сенсорной информации в сетьу то может обучиться только тем высказываниям, которые принадлежат логике признаков порядка

Следовательно, могут существовать правильно построенные высказывания в которым, несмотря на их истинность, никогда не сможет обучиться.

В крайнем случае т. е. при уплотнении что на самом деле означает просто отсутствие уплотнения, мы вообще не сможем работать с конъюнктивными высказываниями. Так, например, высказывание, утверждающее, что какая-то

образующая обладает предикатами «БОЛЬШОЙ» и «СИНИЙ» одновременно, недоступно поскольку оно не соответствует ни одному из его проектирующих операторов.

Разумеется, это препятствие можно обойти, рассматривая осознание конъюнктивного высказывания как овладение вначале предикатом «БОЛЬШОЙ» и немедленно после этого предикатом «СИНИЙ». В принципе это отличается от нашего подхода, при котором высказывания, осознаваемые имеют непосредственную интерпретацию как некий единый оператор. Мы стремились к достижению полного соответствия между мышлением и операторами, ассоциированными с сетью. При таком подходе уплотнение необходимо для того, чтобы наделить способностью к нетривиальному выводу структуры образов его среды.

Предложение 6.6.4 показывает, что - отображения различающихся образующих не должны быть вполне ортогональны для того, чтобы обучение описанного типа имело место. Чем больше размерность пространства тем вероятнее, что приближенно ортогональность будет выполняться (см. предложение 6.2.4 и его непосредственные следствия). Для того чтобы установить точнее, чего можно ожидать, рассмотрим некоторое количество векторов у, случайно выбранных из -мерного пространства, и изучим, как влияет размерность на обучение и установление ассоциаций. Обращаем внимание на то, что обозначения, используемые здесь, отличаются от употреблявшихся выше. Справедливо следующее предложение.

Предложение 6.6.8. Если векторы у порождаются статистически независимо, причем каждый из них подчиняется нормальному распределению с нулевым средним и ковариационной матрицей то получаемый в результате оператор опыта обладает свойствами:

здесь обозначает внутреннее произведение и и в соответствии с геометрией, определяемой оператором опыта.

Доказательство. Доказательство элементарно, но требует рассмотрения различных случаев. Для произвольных векторов

Отметим, что в этом предложении речь идет о вариациях в обучении, вызванных вариациями раздражителей о влиянии в долгосрочном смысле.

Доказательство Так как

то в первую очередь необходимо вычислить

Отсюда, однако, разделив диагональные и недиагональные элементы и учитывая, что мы непосредственно получаем

С другой стороны, члены типа

дают вклад

Следовательно,

Доказательство Здесь мы имеем дело с выражением

При суммировании выделяются три случая: и другие значения. При получаем

Поскольку, однако, не зависит от остальных множителей, то эта сумма обращается в нуль. Аналогично при Если же , то необходимо вычислить

что дает просто нуль.

Доказательство Для определения дисперсии нам требуется значение

где

В общем случае имеем разложение

где суммирование проводится по

Чтобы определить математическое ожидание подобных одночленов восьмой степени, мы воспользуемся тем, что для нормально распределенных случайных величин с нулевым средним значением

где суммирование проводится по всем различным комбинациям восьми индексов в пары. Мы рассмотрим четыре разновидности членов, входящих в (6.6.36) (см. табл., 6.6.1, где представлены эти типичные случаи). В частности, случай II заключается в том, что один индекс равен единице, другой — отличается от единицы и т. д.

Таблица 6.6.1 (см. скан)

Случай Здесь, используя (6.6.37), можно записать следующее:

Для того чтобы получить математическое ожидание этой величины, мы снова рассмотрим отдельные случаи. Вклад, соответствующий всем различным определяется так:

Если отличаются соответствующий вклад равен

Аналогичный результат получается при отличающихся Нам не потребуется повторять эту подстановку позже, если порядок составляет или меньшую величину. Если отличаются от то, поскольку мы получаем

Если поскольку мы получаем

Если различные и то мы получаем

и сделано это может быть шестью различными способами. Тогда основной член общего вклада получается путем суммирования (6.6.40) и умножения (6.6.44) на 6, что дает в результате

Очевидно, что ведущие члены будут соответствовать случаю, когда число различающихся максимально велико, так что возникают ненулевые члены

Случай II: и, следовательно,

Если все различны, то математическое ожидание одночлена равно нулю. Если отличаются от то соответствующий вклад в равен

и т. д. Если отличается мы получаем

Если все одинаковы, то мы получаем лишь

Если все разные, то мы имеем

таким образом, этот вклад и является основным членом

Случай и, следовательно,

Когда все различны, мы получаем нуль. Если отличаются мы имеем

Когда все одинаковы, мы получаем Полный вклад в данном случае

Случай IV: и, следовательно,

Прибегая к тем же рассуждениям, убеждаемся, что математическое ожидание равно

Объединяя эти результаты, мы получаем (см. табл. 6.6.1) и пункт предложения 6.6.8):

что и доказывает утверждение предложения 6.6.8.

Доказательство утверждения Рассмотрим пять случаев, указанных в табл. 6.6.2, причем случай V предусматривает, что или

Уравнение (6.6.37) следует теперь заменить следующим уравнением:

Случай следовательно,

и

Случай IV: и, следовательно,

а математическое ожидание

Таблица 6.6.2 (см. скан)

Случай III: и, следовательно,

а математическое ожидание

Случай IV: и, следовательно,

а математическое ожидание Случай и, следовательно,

а математическое ожидание равно Объединяя эти результаты, мы получаем, что

на чем и заканчивается доказательство предложения 6.6.8.

Чтобы обучение имело место, необходимо ввести условие, заключающееся в том, чтобы было существенно больше, чем (вспомним определение 6.6.1 и отношение между ). Мы предполагаем, что фиксировано при но асимптотика сохраняется до тех пор, пока поскольку число членов и равно Это соотношение будет тогда справедливо с весьма высокой вероятностью при условии, что выбирается достаточно большим для того, чтобы выполнялось

(среднее значение средние квадратичные отклонения), т. е. . Если мы хотим добиться, чтобы соотношение между левой и правой частями (6.6.63) было равно по крайней мере, скажем, 10, то должно выбираться порядка 5000 или более;

эта величина очень мала по сравнению с размерами реальных нейронных сетей.

Итак, мы приходим к выводу, что обучение будет иметь место уже при умеренных значениях если число существенно различных объектов в среде пренебрежимо мало по сравнению с размерностью входного пространства.

Полученное нами значение отражает очень пессимистическую оценку. Вероятно, даже меньшие значения достаточны для адекватного обучения, но точнее это сформулировать трудно.

В вычислительном эксперименте, описанном в разд. 6.1 и 6.2, мы имели что совершенно недостаточно для случая высокой размерности, т. е. условий предложения 6.2.4 и 6.6.8, но вполне достаточно для иллюстрации того, каким образом существо может выводить некоторую часть структуры образов в простой ситуации.

Рис. 6.6.2. (см. скан)

Блок-схема модели процесса обучения приведена на рис. 6.6.2. Блок «УСТ» инициализирует оператор сети и устанавливает счетчик Т (число итераций) на нуль. Блок «ПОРОЖД С» порождает, как описано в разд. 6.1, одну регулярную конфигурацию и устанавливает на нуль счетчик образующих в конфигурации). Далее блок «КОД С» кодирует с в целом с уплотнением, как это описано в конце разд. 6.2 (см. (6.2.83)), а блок «ИЗМЕНЕНИЕ» модифицирует в соответствии с правилами, необходимыми для обучения. Сканируя образующие, входящие в конфигурацию, блок «КОД G» кодирует каждую из них и снова модифицирует Это означает, что изучает конфигурацию в целом, а затем каждую из ее образующих. Когда значение Т становится равным общему числу порожденных конфигураций, алгоритм заканчивает работу.

Реализация этого алгоритма на языке АПЛ при различных значениях параметров показала, что обучение происходит довольно быстро: достаточным оказывается изучение от 50 до 150 конфигураций. Норма при этом существенно нарастает, так же как и нормы и соответствующего оператора проектирования Р.

Рассмотрим в качестве примера следующую конфигурацию:

( обозначает пустую образующую) и воспользуемся проекцией, соответствующей высказыванию

Полученная в результате энергия равна 20, 89, в то время как применение этой ее проекции к конфигурации

проводит к энергии, равной Эта энергия не равна строго нулю из-за передаточного шума, наличие которого предполагалось при кодировании.

Проекция высказывания

приводит к энергии, равной 5348 для конфигурации (6.6.64) и всего лишь для

Очевидно также, что -норма 5348 последнего оператора много больше, чем -норма 2,089 первого оператора. Вероятно, это объясняется тем, что структура образов имеет тенденцию чаще удовлетворять (6.6.67), чем (6.6.65).

Результаты моделирования представляют собой как раз то, чего можно было ожидать от нашего анализа. Интереснее, быть может, посмотреть, чему не обучилось. Рассмотрим высказывание, которое не поддалось при обучении:

При неполном уплотнении, которое было использовано в модели, не имеет доступа к проекции, точно соответствующей (6.6.69). Оно не может научиться выводу на этом уровне логики признаков, и аналогичная ситуация наблюдается с многими другими высказываниями типа (6.6.69).

Естественно, имеет доступ к проекции, соответствующей высказыванию «с включает по крайней мере одну образующую» или высказыванию «с имеет образующую, расположенную в в и т. п. Этого, однако, недостаточно, чтобы обеспечить обучение высказыванию (6.6.69): мы настаиваем на том, что операторы точно соответствуют высказываниям. Для достижения этой цели потребовалась бы более высокая степень уплотнения, чем использованная в машинном эксперименте.

Объем вычислений, оказавшийся необходимым в этом эксперименте, умеренный —всего несколько минут работы центрального процессора. Более обширный машинный эксперимент потребовал бы, конечно, больше времени; затраты времени центрального процессора растут быстро, поскольку число коэффициентов связи имеет порядок число нейронов). При использовании вычислительной машины с высоким уровнем параллелизации можно было бы провести моделирование для больших значений однако, и в этом случае создается впечатление, что реальные значения полностью остаются за пределами возможностей реализуемых моделей.

Машинный эксперимент — это ценный, быть может, даже незаменимый инструмент изучения функционирования сети, позволяющий нам устанавливать, что именно происходит в небольших сетях, и помогающий работе нашей интуиции. Но для более

глубокого проникновения в эту проблему следует обратиться к математическому анализу.

Рис. 6.6.3.

Конечно, нет необходимости постулировать для структуру полного графа. Как раз наоборот — можно допускать существование некоторой статистической топологии, как это делалось в разд. 6.2. Это приведет к структурам сети типа приведенной на рис. 6.6.3, где и Нтлх Требования к памяти, а также ко времени работы центрального процессора в этом случае резко снизятся, что позволит работать с большими сетями, быть может, с . Но даже и при этом математический анализ является единственной возможностью добиться лучшего понимания количественных аспектов функционирования подобных идеализированных нейронных сетей, поскольку машинные эксперименты были бы чрезвычайно дороги, если вообще возможны.

<< Предыдущий параграф Следующий параграф >>
Оглавление