Аппроксимация функций и регрессия

5.1 Цель работы: Получить практические навыки создания и использования НС различных типов для решения задач аппроксимации и регрессии.

Изучаемая функция

Функция создания обобщенно-регрессионной НС

net=newgrnn(P, T, spread). Обобщенно-регрессионная НС является вариантом нейронной сети с радиальными базисными элементами. P – матрица входных векторов, T – матрица целевых векторов, spread – отклонение (по умолчанию 1.0). Сеть создается обученной.

Порядок выполнения работы

1. Пример решения задачи аппроксимации функции с использованием обобщенно-регрессионной НС.

>>P=[1 2 3 4 5 6 7 8 9 10];               % Входной вектор

>> T=[0.5 1 1.5 2 1.5 2 2.5 3 2.5 2]; % Целевой вектор

% Строим график опытных данных (см. рисунок 14)

>> plot(P,T, '.', 'markersize', 15);

>> hold on;

>> axis([0 11 0 4]); % Устанавливаем размерность осей по Х и У

% Создаем обобщенно-регрессионную НС

>> net=newgrnn(P,T, 0.6); 

% Проверим качество

аппроксимации на графике              Рисунок 14 – График исходных данных

 (см. рисунок 15)

>> plot(P, sim(net,P),'*','markersize',15,'color',[1 0 0]);

% Построим аппроксимированную функцию в виде сплошной линии

(Предварительно закрыв окно графика) – см. рисунок 16.

>> plot(P,T,'.','markersize',15); hold on;

>> X=1:0.1:10;

 

 

       

 

Рисунок 15 – Исходные (×) и       Рисунок 16 – График аппроксимации

вычисленные сетью (*) значения              функции нейросетью

>> plot(X,sim(net,X),'color',[0 0 0]);

>> p=6.5;          % Используем сеть для вычисления функции в новой точке

>> a=sim(net,p);

% Нанесем вычисленное значение на график (см. рисунок 16)

>> plot(p,a,'*','markersize',15,'color',[1 0 0])

2. Пример аппроксимации функции обычной двухслойной нейронной сетью, обучающейся по алгоритму обратного распространения ошибки.

Информацию об определении количества нейронов в скрытом слое см.:

Demos-Toolboxes-Neural Networks-Generalization

- Используйте нижний ползунок для выбора коэффициента сложности функции.

- Используйте верхний ползунок для определения количества нейронов в скрытом слое НС.

- Нажмите на кнопку "Train" для обучения двухслойной (logsig-линейной) сети решению задачи аппроксимации на данных, показанных слева.

Создадим НС для решения задачи на данных примера 1.

Входной и целевой вектор такие же, как в предыдущем примере.

Создаем двухслойную сеть. Входной слой состоит из одного элемента, значение которого может изменяться в диапазоне от 0 до 10. Внутренний слой состоит из 10 нейронов с логистической сигмоидальной функцией активации, выходной слой состоит из одного нейрона с линейной функцией активации.

>> net = newff([0 10], [10 1], {'logsig' 'purelin'});

% Обучаем созданную НС

>> net= train(net,P,T);

TRAINLM, Epoch 0/100, MSE 6.93038/0, Gradient 45.3963/1e-010

TRAINLM, Epoch 7/100, MSE 2.9267e-026/0, Gradient 2.34925e-013/1e-010

TRAINLM, Minimum gradient reached, performance goal was not met.

% Нанесем опытные данные на график (см. рисунок 17)

>>plot(P,T,'.','markersize',15); hold on;

% Нанесем на график результат работы сети:

>>plot(P,sim(net,P),'*','markesize',15);

% Нанесем на график результат аппроксимации функции в виде сплошной линии:

>> plot(X,sim(net,X),'color',[0 0 0]); Рисунок 17 – Результат аппроксимации функции logsig-линейной нейросетью

Тапсырма Нейронную сеть для получения линии регрессии по опытным данным:

Вариант 1

Х	0,84	0,70	0,50	0,71	0,80	0,83	1,16	0,71	0,59	0,79	0,69	0,58
У	0,51	0,36	0,60	0,34	0,48	0,36	0,43	0,41	0,34	0,37	0,51	0,40
Х	1,42	0,67	0,59	0,93	1,00	1,98	0,66	0,89	0,88	1,11	0,62	1,07
У	0,37	0,39	0,56	0,42	0,42	0,35	0,44	0,37	0,45	0,41	0,42	0,40
Х	1,16	0,93	0,61	0,76	0,44	0,90	0,92	0,99	0,38	0,65	0,83	1,15
У	0,40	0,45	0,45	0,43	0,53	0,45	0,39	0,37	0,56	0,50	0,44	0,39
Х	0,66	0,58	0,79	0,92	0,72	1,26	0,57	0,71	0,73	0,68	0,38	0,91
У	0,54	0,60	0,34	0,34	0,33	0,42	0,52	0,50	0,46	0,45	0,67	0,42
Х	0,65	0,62	0,49	0,11	0,16	0,12	0,71	0,55	0,56	0,55	0,46	0,59
У	0,39	0,31	0,50	1,03	1,03	0,96	0,54	0,42	0,53	0,37	0,37	0,46

Вариант 2

Х	46,70	46,10	43,4	44,60	44,47	44,60	49,20	46,10	44,90	46,90	47,40	48,50
У	4,20	4,18	3,95	4,05	4,09	3,86	4,63	4,30	4,05	4,33	4,15	4,44
Х	48,20	48,10	47,50	46,70	47,20	41,40	45,80	47,00	46,80	51,10	49,20	49,20
У	4,20	4,11	4,39	4,05	4,07	3,65	3,99	4,12	4,12	4,72	4,55	4,61
Х	49,20	47,20	46,10	46,80	45,90	47,20	46,50	45,90	46,90	45,50	47,50	48,90
У	4,46	4,26	4,05	4,33	4,09	4,25	4,05	4,24	4,09	4,09	4,13	4,38
Х	46,80	52,10	51,60	52,80	50,40	49,20	44,50	49,40	50,20	49,40	49,80	49,00
У	4,23	4,68	4,70	4,68	4,61	4,49	3,93	4,35	4,70	4,62	4,29	4,29
Х	53,80	51,8	48,3	49,7	54,50	44,40	47,70	51,70	49,10	49,80	47,90	50,20
У	4,77	4,65	4,53	4,44	4,90	3,95	4,45	4,50	4,23	4,42	4,14	4,57

Вариант 3

Х	0,5	0,56	0,95	0,64	0,59	0,63	0,75	0,53	0,56	0,44	0,57	0,8
У	4,47	4,37	4,69	4,74	4,98	5,15	5,15	4,3	4,05	4,33	4,15	4,76
Х	0,46	0,84	0,72	0,7	0,54	0,65	0,82	0,91	0,56	0,45	0,43	0,6
У	4,09	4,97	4,68	4,77	4,69	5,06	5,25	4,9	4,85	4,78	5,06	4,61
Х	0,56	0,53	0,58	0,58	0,44	0,58	0,58	0,92	0,63	0,63	0,78	0,63
У	4,27	5,17	4,83	4,53	4,66	4,9	4,69	5,21	4,7	4,53	4,8	4,38
Х	0,53	0,86	0,58	0,48	0,59	0,57	0,84	0,35	0,49	0,62	0,54	0,41
У	4,66	4,87	4,84	4,87	4,61	4,74	4,69	4,86	4,7	4,62	4,29	4,29
Х	0,65	0,62	0,49	0,11	0,16	0,12	0,71	0,55	0,56	0,55	0,46	0,59
У	4,48	4,91	4,53	3,39	3,89	3,71	4,45	4,5	4,23	4,42	4,46	4,17

Вариант 4

Х	0,9	0,6	0,62	0,83	1,13	0,69	1,2	0,85	0,73	0,87	0,56	0,65
У	46,7	47,9	49,7	47,7	45,5	49,3	44,5	48,5	47,3	46,9	48,7	48,5
Х	0,89	0,77	0,89	0,95	0,93	1,22	0,98	0,97	0,92	0,92	0,87	0,84
У	48,2	48,1	47,5	47,7	47,2	43,8	45,4	47	47,7	48,1	49,2	45,9
Х	0,81	0,71	0,88	0,88	0,91	0,91	0,94	0,91	0,88	0,88	0,8	0,78
У	49,2	47,2	46,1	46,8	45,9	47,2	46,5	45,9	46,9	45,5	47,5	48,9
Х	0,54	0,95	1,07	1,18	1,05	0,95	0,95	1,03	0,94	1,03	0,88	0,94
У	50,1	47,8	45,2	44,7	44,6	45,8	48,1	46,3	45,9	45,7	48,3	45,1
Х	0,89	0,83	1,05	1,03	1,03	0,96	1	1,08	0,97	0,99	0,37	0,92
У	48,1	47,1	45,6	45,3	45,3	45,5	47,7	46,1	45,3	46,4	50,9	45,3

Вариант 5

Х	0,25	0,34	0,12	0,38	0,42	0,44	0,11	0,24	0,44	0,29	0,48	0,38
У	0,90	0,83	0,91	0,80	0,65	0,65	0,99	0,85	0,60	0,87	0,62	0,77
Х	0,11	0,31	0,16	0,41	0,37	0,17	0,38	0,36	0,19	0,55	0,57	0,59
У	1,03	0,85	1,03	0,64	0,81	0,96	0,83	0,80	0,91	0,8	0,75	0,55
Х	0,53	0,49	0,58	0,49	0,56	0,56	0,50	0,60	0,59	0,63	0,61	0,62
У	0,71	0,71	0,72	0,73	0,77	0,8	0,72	0,62	0,50	0,67	0,55	0,71
Х	0,60	0,84	0,71	0,65	0,71	0,72	0,88	0,73	0,66	0,76	0,79	0,83
У	0,59	0,57	0,45	0,70	0,53	0,42	0,56	0,50	0,67	0,45	0,48	0,56
Х	0,68	0,67	0,68	1,03	0,91	0,83	0,89	0,90	0,92	0,92	0,54	0,55
У	0,66	0,65	0,67	0,34	0,33	0,60	0,54	0,37	0,33	0,39	0,70	0,69

Вариант 6

Х	0,84	0,70	0,50	0,71	0,80	0,83	1,16	0,71	0,59	0,79	0,69	0,58
У	0,51	0,36	0,60	0,34	0,48	0,36	0,43	0,41	0,34	0,37	0,51	0,40
Х	1,42	0,67	0,59	0,93	1,00	1,98	0,66	0,89	0,88	1,11	0,62	1,07
У	0,37	0,39	0,56	0,42	0,42	0,35	0,44	0,37	0,45	0,41	0,42	0,40
Х	1,16	0,93	0,61	0,76	0,44	0,90	0,92	0,99	0,38	0,65	0,83	1,15
У	0,40	0,45	0,45	0,43	0,53	0,45	0,39	0,37	0,56	0,50	0,44	0,39
Х	0,66	0,58	0,79	0,92	0,72	1,26	0,57	0,71	0,73	0,68	0,38	0,91
У	0,54	0,60	0,34	0,34	0,33	0,42	0,52	0,50	0,46	0,45	0,67	0,42
Х	0,65	0,62	0,49	0,11	0,16	0,12	0,71	0,55	0,56	0,55	0,46	0,59
У	0,39	0,31	0,50	1,03	1,03	0,96	0,54	0,42	0,53	0,37	0,37	0,46

Вариант 7

Х	46,70	46,10	43,4	44,60	44,47	44,60	49,20	46,10	44,90	46,90	47,40	48,50
У	4,20	4,18	3,95	4,05	4,09	3,86	4,63	4,30	4,05	4,33	4,15	4,44
Х	48,20	48,10	47,50	46,70	47,20	41,40	45,80	47,00	46,80	51,10	49,20	49,20
У	4,20	4,11	4,39	4,05	4,07	3,65	3,99	4,12	4,12	4,72	4,55	4,61
Х	49,20	47,20	46,10	46,80	45,90	47,20	46,50	45,90	46,90	45,50	47,50	48,90
У	4,46	4,26	4,05	4,33	4,09	4,25	4,05	4,24	4,09	4,09	4,13	4,38
Х	46,80	52,10	51,60	52,80	50,40	49,20	44,50	49,40	50,20	49,40	49,80	49,00
У	4,23	4,68	4,70	4,68	4,61	4,49	3,93	4,35	4,70	4,62	4,29	4,29
Х	53,80	51,8	48,3	49,7	54,50	44,40	47,70	51,70	49,10	49,80	47,90	50,20
У	4,77	4,65	4,53	4,44	4,90	3,95	4,45	4,50	4,23	4,42	4,14	4,57

Вариант 8

Х	0,5	0,56	0,95	0,64	0,59	0,63	0,75	0,53	0,56	0,44	0,57	0,8
У	4,47	4,37	4,69	4,74	4,98	5,15	5,15	4,3	4,05	4,33	4,15	4,76
Х	0,46	0,84	0,72	0,7	0,54	0,65	0,82	0,91	0,56	0,45	0,43	0,6
У	4,09	4,97	4,68	4,77	4,69	5,06	5,25	4,9	4,85	4,78	5,06	4,61
Х	0,56	0,53	0,58	0,58	0,44	0,58	0,58	0,92	0,63	0,63	0,78	0,63
У	4,27	5,17	4,83	4,53	4,66	4,9	4,69	5,21	4,7	4,53	4,8	4,38
Х	0,53	0,86	0,58	0,48	0,59	0,57	0,84	0,35	0,49	0,62	0,54	0,41
У	4,66	4,87	4,84	4,87	4,61	4,74	4,69	4,86	4,7	4,62	4,29	4,29
Х	0,65	0,62	0,49	0,11	0,16	0,12	0,71	0,55	0,56	0,55	0,46	0,59
У	4,48	4,91	4,53	3,39	3,89	3,71	4,45	4,5	4,23	4,42	4,46	4,17

Вариант 9

Х	0,9	0,6	0,62	0,83	1,13	0,69	1,2	0,85	0,73	0,87	0,56	0,65
У	46,7	47,9	49,7	47,7	45,5	49,3	44,5	48,5	47,3	46,9	48,7	48,5
Х	0,89	0,77	0,89	0,95	0,93	1,22	0,98	0,97	0,92	0,92	0,87	0,84
У	48,2	48,1	47,5	47,7	47,2	43,8	45,4	47	47,7	48,1	49,2	45,9
Х	0,81	0,71	0,88	0,88	0,91	0,91	0,94	0,91	0,88	0,88	0,8	0,78
У	49,2	47,2	46,1	46,8	45,9	47,2	46,5	45,9	46,9	45,5	47,5	48,9
Х	0,54	0,95	1,07	1,18	1,05	0,95	0,95	1,03	0,94	1,03	0,88	0,94
У	50,1	47,8	45,2	44,7	44,6	45,8	48,1	46,3	45,9	45,7	48,3	45,1
Х	0,89	0,83	1,05	1,03	1,03	0,96	1	1,08	0,97	0,99	0,37	0,92
У	48,1	47,1	45,6	45,3	45,3	45,5	47,7	46,1	45,3	46,4	50,9	45,3

Вариант 10

Х	4,22	4,00	4,00	4,20	4,05	4,45	4,31	4,32	4,06	4,00	3,76	3,75
У	1,48	1,32	1,39	1,40	1,34	1,78	1,72	1,64	1,35	1,29	1,14	1,19
Х	3,69	4,12	4,34	3,67	3,96	4,23	4,53	4,45	4,17	3,94	4,00	4,04
У	1,09	1,43	1,60	1,15	1,24	1,61	1,99	1,84	1,45	1,36	1,22	1,26
Х	4,23	3,89	4,48	4,05	3,99	3,85	4,05	4,05	4,02	3,54	4,50	4,07
У	1,54	1,14	1,85	1,32	1,14	1,16	1,37	1,20	1,34	1,10	1,91	1,20
Х	3,57	4,21	4,16	3,68	3,33	3,90	3,97	4,13	3,65	3,77	3,72	3,65
У	1,06	1,58	1,56	1,20	1,17	1,35	1,19	1,40	1,25	1,18	1,12	1,13
Х	3,96	3,85	3,98	3,96	3,88	3,80	4,14	3,83	3,95	4,12	3,93	3,83
У	1,13	1,12	1,25	1,22	1,09	1,11	1,49	1,06	1,39	1,32	1,32	1,28

Контрольные вопросы

1. Охарактеризуйте обобщенно-регрессионную нейронную сеть. Приведите функцию создания сети в Matlab.

2. Опишите процесс решения задач аппроксимации и регрессии при помощи классической многослойной нейросети.

 

Лабораторная работа № 6