English
!

Доклады

Об обучении нейронных сетей, использующих нейроны МакКаллока - Питса, с помощью избирательного метода Монте-Карло

Мазуров М.Е..

РЭУ им Г.В. Плеханова

Обучение многослойных нейронных сетей, использующих нейроны МакКаллока - Питса, сводится к расчету весовых коэффициентов с помощью рекуррентного преобразования

,

где - входной сигнал -го слоя для последующего ( )-го слоя; - матрица весовых коэффициентов; - функция, характеризующая нелинейное пороговое преобразование; - пороговое значение для i–го слоя. Матрицы вычисляются для каждого -го слоя сети с помощью итерационных процедур:

, ,

где - приращения весовых коэффициентов для итерации с номером t; - ошибка вычислений. При . Известны многочисленные итерационные процедуры разных авторов: процедуры Розенблюта, Уидроу, Хебба, метод обратного распространения ошибки и другие. Вместо итерационного способа определения весовых коэффициентов в данной работе предложено их нахождение с помощью избирательного метода Монте-Карло. Согласно предложенному методу производится избирательное нахождение случайных чисел – весовых коэффициентов в соответствии с кодовыми комбинациями входных сигналов. При этом нулевым значениям кодовой комбинации ставится в соответствие случайные числа в диапазоне около нулевого значения, единице в кодовой комбинации ставится в соответствие значение весового коэффициента в интервале случайных чисел вблизи центра, равного 1.

Для генерации случайных чисел было использовано программное обеспечение Матлаб 7. Для получения случайных чисел из произвольного диапазона [а, b] использовался оператор а+(b-a)*rand. Формирование избирательных свойств датчика случайных чисел производится по кодовым комбинациям входных сигналов, как описано выше. В качестве примера было рассмотрено распознавание 10 цифр 0, 1,…, 9 на экране монитора 4х6. Каждой из 10 цифр соответствует последовательность из 24 нулей и единиц, распознавание реализуется однослойной нейронной сетью с десятью регистрирующими нейронами МакКаллока – Питса. Общее число весовых коэффициентов равно 240. При расчетах число реализаций случайных чисел с равномерным распределением изменялось в пределах (1-200000). При использовании итерационной процедуры расчета весовых коэффициентов длительность вычислений на порядок больше.

© 2004 Дизайн Лицея Информационных технологий №1533