Исследование трехслойных ИНС
Краткое сожержание материала:
Размещено на
Контрольная работа
Исследование трехслойных ИНС
Брест 2007
Введение
Целью контрольной работы является исследование обучения, работы и прогнозирования многослойных ИНС, в данном случае 3-слойной.
Для изучения ИНС нам необходимо разработать программу, моделирующую процессы обучения, работы и прогнозирования ИНС. За основу возьмем программу, написанную в процессе выполнения лабораторной работы №2, с доработками. В результате получили программу с интерфейсом, представленным ниже:
Рисунок 1 - Интерфейс программы
Величину среднеквадратической ошибки примем равной 0,05. Функции активации слоев для простоты работы с ними примем сигмоидные.
В процессе исследования ИНС мы выполним:
· поиск наиболее оптимальных ALFA для каждого слоя при постоянном шаге обучения и непосредственно само обучение;
· прогнозирование на базе результатов обучения с постоянным шагом обучения;
· обучение ИНС с помощь адаптивного шага обучения;
· прогнозирование на базе результатов обучения с адаптивным шагом обучения.
Также мы произведем изменение количества входов и проверим реакцию ИНС данные действия.
1. Обучение ИНС с использованием постоянного шага обучения
Обучение будем производить путем поэтапного изменения величины ALFA для каждого слоя с шагом 0,05. Наиболее оптимальными будут те ALFA, при которых количество шагов обучения (по 30 итераций) будет минимальным.
В следствии того, что нам необходимо менять ALFA для каждого слоя в отдельности, построение графиков зависимости количества шагов обучения от ALFA становится затруднительным. Приведем результат поиска оптимальных ALFA:
ALFA_1 = 0.45 - ALFA для первого слоя
ALFA_2 = 0.50 - ALFA для второго слоя
ALFA_3 = 0.45 - ALFA для третьего слоя
N = 3 - Кол-во шагов обучения
При данных ALFA произведем обучение ИНС:
№ шага |
Yрасч. |
Yэтал |
E |
|
1 |
0.202811 |
0.201410 |
0.001402 |
|
2 |
0.201563 |
0.201541 |
0.000022 |
|
3 |
0.201611 |
0.201670 |
-0.000059 |
|
4 |
0.201734 |
0.201797 |
-0.000063 |
|
5 |
0.201861 |
0.201923 |
-0.000062 |
|
6 |
0.201985 |
0.202047 |
-0.000061 |
|
7 |
0.202108 |
0.202169 |
-0.000060 |
|
8 |
0.202230 |
0.202289 |
-0.000059 |
|
9 |
0.202349 |
0.202407 |
-0.000058 |
|
10 |
0.202466 |
0.202524 |
-0.000057 |
|
11 |
0.202582 |
0.202638 |
-0.000056 |
|
12 |
0.202696 |
0.202751 |
-0.000055 |
|
13 |
0.202808 |
0.202862 |
-0.000054 |
|
14 |
0.202918 |
0.202971 |
-0.000053 |
|
15 |
0.203026 |
0.203079 |
-0.000052 |
|
16 |
0.203133 |
0.203184 |
-0.000051 |
|
17 |
0.203237 |
0.203288 |
-0.000051 |
|
18 |
0.203340 |
0.203390 |
-0.000050 |
|
19 |
0.203441 |
0.203490 |
-0.000049 |
|
20 |
0.203541 |
0.203588 |
-0.000048 |
|
21 |
0.203638 |
0.203684 |
-0.000047 |
|
22 |
0.203733 |
0.203779 |
-0.000046 |
|
23 |
0.203827 |
0.203872 |
-0.000045 |
|
24 |
0.203919 |
0.203963 |
-0.000044 |
|
25 |
0.204009 |
0.204052 |
-0.000043 |
|
26 |
0.204097 |
0.204139 |
-0.000042 |
|
27 |
0.204184 |
0.204224 |
-0.000041 |
|
28 |
0.204268 |
0.204308 |
-0.000040 |
|
29 |
0.204351 |
0.204389 |
-0.000039 |
|
30 |
0.204432 |
0.204469 |
-0.000038 |
E = 0.00000011859
Далее проведем прогнозирование на основании полученных результатов обучения:
№ шага |
Yрасч. |
Yэтал |
E |
|
1 |
0.204511 |
0.204547 |
-0.000037 |
|
2 |
0.204553 |
0.204624 |
-0.000070 |
|
3 |
0.204595 |
0.204698 |
-0.000103 |
|
4 |
0.204635 |
0.204770 |
-0.000135 |
|
5 |
0.204675 |
0.204841 |
-0.000166 |
|
6 |
0.204714 |
0.204910 |
-0.000196 |
|
7 |
0.204752 |
0.204977 |
-0.000225 |
|