pl_mlp.pdf

(119 KB) Pobierz
pl_mlp
Wprowadzenie do sztucznej inteligencji
Sieci neuronowe
wielowarstwowe
Instytut Elektroniki, PL, Lódz
Krzysztof Slot © 1999
Wprowadzenie do sztucznej inteligencji
Sieci neuronowe wielowarstwowe
Class B
Problem liniowo nieseparowalny
Poprawna klasyfikacja przy uzyciu
neuronu jest niewykonalna
x 0
Class A
x 1
y
Instytut Elektroniki, PL, Lódz
Krzysztof Slot © 1999
1
5157089.115.png 5157089.126.png 5157089.137.png 5157089.148.png 5157089.001.png 5157089.012.png 5157089.023.png 5157089.034.png 5157089.045.png 5157089.056.png 5157089.067.png 5157089.072.png 5157089.073.png 5157089.074.png 5157089.075.png 5157089.076.png 5157089.077.png 5157089.078.png 5157089.079.png 5157089.080.png 5157089.081.png 5157089.082.png 5157089.083.png 5157089.084.png 5157089.085.png 5157089.086.png 5157089.087.png 5157089.088.png 5157089.089.png 5157089.090.png 5157089.091.png
Wprowadzenie do sztucznej inteligencji
Sieci neuronowe wielowarstwowe
=
+
x 0
x 1
x 1
y 1
0
0
1
x 0
y 0
0
1
1
y 0
y 1
y
Instytut Elektroniki, PL, Lódz
Krzysztof Slot © 1999
Wprowadzenie do sztucznej inteligencji
Sieci neuronowe wielowarstwowe
Regiony decyzyjne sieci w zadaniach klasyfikacji
Instytut Elektroniki, PL, Lódz
Krzysztof Slot © 1999
2
5157089.092.png 5157089.093.png 5157089.094.png 5157089.095.png 5157089.096.png 5157089.097.png 5157089.098.png 5157089.099.png 5157089.100.png 5157089.101.png 5157089.102.png 5157089.103.png 5157089.104.png 5157089.105.png 5157089.106.png 5157089.107.png 5157089.108.png 5157089.109.png 5157089.110.png 5157089.111.png 5157089.112.png 5157089.113.png 5157089.114.png 5157089.116.png 5157089.117.png 5157089.118.png 5157089.119.png 5157089.120.png 5157089.121.png 5157089.122.png 5157089.123.png 5157089.124.png
Wprowadzenie do sztucznej inteligencji
Sieci jednokierunkowe wielowarstwowe
Y 1
.......................
Y M
Warstwa
wyjsciowa
f/l
f/l
-1 y 1
y N
f
f
f
f
Warstwy
ukryte
-1
f
f
f
f
Warstwa
wejsciowa
-1
x 1
....
x
k
......
x O
Instytut Elektroniki, PL, Lódz
Krzysztof Slot © 1999
Wprowadzenie do sztucznej inteligencji
Przetwarzanie sygnalu w sieci wielowarstwowej
Wektor sygnalów wyjsciowych
Y
Neurony warstwy
ostatniej
(wyjsciowej)
? ?
?
M
N
?
?
M
N
?
M
N
?
1
?
?
?
?
y
N
i
?
f
s
?
f
?
?
w
N
ji
y
N
j
?
1
?
?
?
f
?
?
W
f
?
?
w
N
jk
1
f
(
)
?
?
iN
ij
j
?
0
j
?
0
k
?
0
:
Neurony warstwy
pierwszej
y
?
f
? ?
s
?
f
?
?
? ?
M
w
1
x
?
?
,
i
?
1
,
N
1
1
ki
k
1
1
k
1
Wektor sygnalów wejsciowych
X
Instytut Elektroniki, PL, Lódz
Krzysztof Slot © 1999
3
?
?
?
?
?
?
i
i
5157089.125.png 5157089.127.png 5157089.128.png 5157089.129.png 5157089.130.png 5157089.131.png 5157089.132.png 5157089.133.png 5157089.134.png 5157089.135.png 5157089.136.png 5157089.138.png 5157089.139.png 5157089.140.png 5157089.141.png 5157089.142.png 5157089.143.png 5157089.144.png 5157089.145.png 5157089.146.png 5157089.147.png 5157089.149.png 5157089.150.png 5157089.151.png 5157089.152.png 5157089.153.png 5157089.154.png 5157089.155.png 5157089.156.png 5157089.157.png 5157089.158.png 5157089.002.png
Wprowadzenie do sztucznej inteligencji
Uczenie sieci dwuwarstwowej
Oznaczenia
Y 1
.......................
Y M
Warstwa
wyjsciowa
f/l
f/l
Y i
-1 y 1
y N
W ij
Warstwa
wejsciowa
f
f
f
f
y j
w jk
-1
x k
x 1
....
x
k
......
x O
Instytut Elektroniki, PL, Lódz
Krzysztof Slot © 1999
Wprowadzenie do sztucznej inteligencji
Uczenie sieci wielowarstwowej
Zasada doboru wag:
minimalizacja funkcji bledu
E ?
f
(
w
)
?
w
?
?
?
E
ab
ab
?
w
ab
Miara bledu (MSE)
1
M
1
M
1
M
?
N
?
2
?
2
?
?
?
2
?
?
E
(
?
?
?
D
?
Y
?
?
?
D
?
f
(
W
y
)
?
?
2
i
2
i
i
2
i
ij
i
?
1
?
1
i
?
1
j
?
0
i = 1 ... M - indeksy neuronów warstwy wyjsciowej
D i - oczekiwana wartosc wyjscia Y i - uzyskana wartosc wyjscia
j:
0 ... N - wlaczona waga w 0 odpowiadajaca progowi
Instytut Elektroniki, PL, Lódz
Krzysztof Slot © 1999
4
i
i
5157089.003.png 5157089.004.png 5157089.005.png 5157089.006.png 5157089.007.png 5157089.008.png 5157089.009.png 5157089.010.png 5157089.011.png 5157089.013.png 5157089.014.png 5157089.015.png 5157089.016.png 5157089.017.png 5157089.018.png 5157089.019.png 5157089.020.png 5157089.021.png 5157089.022.png 5157089.024.png 5157089.025.png 5157089.026.png 5157089.027.png 5157089.028.png 5157089.029.png 5157089.030.png 5157089.031.png 5157089.032.png 5157089.033.png 5157089.035.png 5157089.036.png 5157089.037.png
Wprowadzenie do sztucznej inteligencji
Uczenie sieci wielowarstwowej
Wagi neuronów
warstwy wyjsciowej
?
W
?
?
?
E
ij
?
W
ij
1
M
1
M
?
N
?
2
?
?
?
?
?
E
(
W
)
?
D
?
Y
2
?
?
?
D
?
f
(
W
y
)
?
?
ij
2
i
i
2
i
ij
j
i
?
1
i
?
1
j
?
0
N
?
E
?
E
?
Y
s ? ?
i
?
W
ij
y
j
?
?
?
?
?
?
i
?
?
??
?
f
'
(
s
)
?
y
j
0
?
W
?
Y
?
W
i
i
j
ij
i
ij
?
?
D i
?
Y
i
?
W ??
ij
?
i
y
j
f
'
(
s
i
)
Regula Delta
Instytut Elektroniki, PL, Lódz
Krzysztof Slot © 1999
Wprowadzenie do sztucznej inteligencji
Uczenie sieci wielowarstwowej
Wagi neuronów
warstwy ukrytej
?
w
?
?
?
E
jk
?
w
jk
1
M
1
M
?
N
O
?
2
?
?
?
?
?
?
E
w
)
?
D
?
Y
2
?
?
?
D
?
f
(
W
?
f
(
w
x
))
?
?
V j
jk
2
i
i
2
i
ij
jk
k
?
1
i
?
1
j
?
0
k
?
0
?
E
?
E
?
Y
?
V
? ?
M
?
?
?
?
?
?
?
j
?
?
?
?
(
?
W
f
'
(
s
))
?
x
f
'
(
s
)
?
w
?
Y
?
V
?
w
i
ij
i
k
j
jk
j
jk
i
1
?
j
?
w
jk
?
??
j
?
x
k
f
'
(
s
j
)
Instytut Elektroniki, PL, Lódz
Krzysztof Slot © 1999
5
(
i
5157089.038.png 5157089.039.png 5157089.040.png 5157089.041.png 5157089.042.png 5157089.043.png 5157089.044.png 5157089.046.png 5157089.047.png 5157089.048.png 5157089.049.png 5157089.050.png 5157089.051.png 5157089.052.png 5157089.053.png 5157089.054.png 5157089.055.png 5157089.057.png 5157089.058.png 5157089.059.png 5157089.060.png 5157089.061.png 5157089.062.png 5157089.063.png 5157089.064.png 5157089.065.png 5157089.066.png 5157089.068.png 5157089.069.png 5157089.070.png 5157089.071.png

Plik z chomika:

Inne pliki z tego folderu:

Inne foldery tego chomika:

Zgłoś jeśli naruszono regulamin