В этой статье мы поговорим о модели, которая носит название ограниченная машина Больцмана (Restricted Boltzmann Machines, RBM ).

1 Введение

RBM [2] представляет собой модификацию искусственной нейронной сети машина Больцмана, нейроны были разделены на две группы, и убраны некоторые связи, таким образом был образован второй (скрытый) слой.

2 Алгоритм функционирования

Сеть состоит из стохастических нейронов принимающих значения $0$ или $1$, формула вероятности нейрона выглядит следующим образом. $$ p(h=1|v,W,b_h) = \sigma (W \cdot v + b_h ) $$ где $v$ - вход нейрона, $W$ - вектор весов, $b_h$ - сдвиг нейрона, $\sigma(x)$ - экспоненциальный сигмоид $$ \sigma(x) = \frac{1}{1+\exp(-x)} $$ Это базовый вариант сети для бинарных входов (Bernoulli-Bernoulli RBM), существуют так же модификации для вещественных входов (Gaussian-Bernoulli RBM и др.).

Алгоритм функционирования ограниченной машины Больцмана выглядит следующим образом.

1. устанавливаем начальные значения входного слоя v := x
2. вычислить вероятности p_h изменения нейронов второго слоя
   p_h:=σ(v·W - b_v)

   где W – матрица весов, b_v – вектор сдвигов первого слоя, σ – функция активации (сигмоид)

3. сохранить старые значения входного слоя v′ := v
4. определить состояние второго слоя h, присвоить нейронам состояния 0 или 1 с вероятностями p_h
5. вычислить вероятности p_v изменения нейронов первого слоя
   p_v:=σ(h·W^T - b_h)

   где W – матрица весов, b_h – вектор сдвигов второго слоя, σ – функция активации (сигмоид)

6. определить состояние первого слоя v, присвоить нейронам состояния 1 с вероятностями p_v (или соответсвенно 0 с вероятностями 1-p_v)
7. если v≠v′
   то повторить с п.2
   иначе перейти на следующий пункт
8. выдача результата v
9. конец работы

3 Метод обучения

Алгоритм обучения ограниченной машины Больцмана называется Contrastive Divergence (CD) и представляет собой немного модифицированный метод градиентного спуска.

В качестве функции оценки, которую необходимо оптимизировать, используется функция правдоподобия $L$ (likehood), будем искать её максимум. Функция правдоподобия $L$ для параметров $(W,b_v,b_h)$ и образа $v$ определяется как вероятности видимого слоя $v$ при данных параметрах. $$ L(W,b_v,b_h|v) = p(v|W,b_v,b_h) $$ Для удобства вычислений будем использовать логарифм $$ \ln L(W,b_v,b_h|v) = \ln \sum\limits_h \exp (-E(v,h)) - \ln \sum\limits_{v,h} \exp (-E(v,h)) $$ где $E$ - энергия сети $$ E(v,h) = - ( b_v \cdot v + b_h \cdot h + v\cdot h\cdot W ) $$

Градиент функции оценки выглядит следующим образом \begin{equation} \left\{\begin{array}{ r c l } \frac{\partial \ln L(W,b_v,b_h|v) }{\partial W} = \nabla W & = & (v\cdot h)_{data} - (v\cdot h)_{model} \\ \frac{\partial \ln L(W,b_v,b_h|v) }{\partial b_v} = \nabla b_v & = & (v)_{data} - (v)_{model} \\ \frac{\partial \ln L(W,b_v,b_h|v) }{\partial b_h} = \nabla b_h & = & (h)_{data} - (h)_{model} \end{array} \right. \label{eq:grad} \end{equation} здесь $(\cdot)_{data}$ - значение слоёв в начальном состоянии сети, $(\cdot)_{model}$ - мат.ожидание состояния слоёв.

Мат.ожидание состояния слоёв $(\cdot)_{model}$ вычисляется путём т.н. сэмплирования, т.е. $(\cdot)_{model}$ это стояние слоёв после нескольких итераций сети, на практике (для того, что бы алгоритм работал) бывает достаточно одного шага сэмплирования (одной итераций сети).

Веса изменяются следующим образом. \begin{equation} \left\{\begin{array}{ r c l } W & := & \varepsilon \cdot ( \nabla W + \mu \cdot \Delta W ) \\ b_v & := & \varepsilon \cdot ( \nabla b_v + \mu \cdot \Delta b_v ) \\ b_h & := & \varepsilon \cdot ( \nabla b_h + \mu \cdot \Delta b_h ) \end{array} \right. \label{eq:wgt} \end{equation} где $\mu$ - параметр момента, $\varepsilon $ - скорость обучения, $\Delta W,\Delta b_v,\Delta b_h$ - изменение параметров на предыдущем шаге.

В качестве критерия остановки обучения будем использовать среднеквадратичную ошибку между входом сети и её выходом - $E(v_0,v_k)$, значение ошибки должно уменьшиться до установленного порога $E_{min}$.

Алгоритм обучения выглядит следующим образом.

1. инициализировать (нулями) матрицу весов W и векторы сдвигов b_v, b_h
2. выбрать случайное пакет из всего набора учебных примеров (mini-batch) X
3. для всех примеров пакета: присвоить начальное значение первому слою v := x
4. выполнить k циклов сети, определить начальные и конечные состояния слоёв v₀, h₀, v_k, h_k (где k – параметр)
5. вычислить градиент по (\ref{eq:grad}) и скорректировать веса по (\ref{eq:wgt})
6. вычислить среднеквадратичную ошибку сети E
7. если $E < E_{min}$ то переход п.8
   иначе переход п.2
8. конец работы

4 Реализация ассоциативной памяти

Здесь представлена реализация, описанной выше модели. В начале в память "записываются" несколько разных картинок. Далее - памяти предъявляются другие, похожие картинки, по которым восстанавливаются оригиналы.

Реализация в системе Octave [ здесь ].

Список литературы

При использовании материалов этого сайта, пожалуйста вставляйте в свой текст ссылку на мою статью.