| Form of studies |
Master |
| Title of the study programm |
Business Informatics |
| Title in original language |
Ātrākas apmācības dziļo neironu tīklu izstrāde |
| Title in English |
Development of Deep Neural Networks that Learn Faster |
| Department |
12300 Institute of Applied Computer Systems |
| Scientific advisor |
Ilze Birzniece |
| Reviewer |
Vadošais pētnieks (pēcdok.) Ilze Andersone |
| Abstract |
Maģistra darbā tika pētītas metodes, kas ļauj dziļajiem neironu tīkliem labāk vispārināt ieejas datu kopu, lai uzlabotu apmācības laika efektivitāti. Darbā ir apkopota informācija par mākslīgo neironu tīklu galvenajiem komponentiem, bioloģisko neironu uzvedību un konvolūcijas neironu tīkliem. Pētījumā tika salīdzinātas vairākas metodes, piemēram, sinusoidālo funkciju izmantošana neironu tīkla mezglu operācijās, atpakaļizplatīšanas izslēgšana no konvolūcijas slāņiem. Projektēta sinusoidālā mezgla darbība palielina neironu tīkla vispārināšanas spējas. Parādīts, ka neironu tīkls ar projektētu sinusoidālā mezgla darbību var sasniegt augstas precizitātes rādītājus ar mazāku epohu un apmācības paraugu skaitu nekā neironu tīkli ar lineāru mezgla darbību. Atpakaļizplatīšanas izslēgšana no konvolūcijas slāņiem prasa mazāku aprēķinu skaitu neironu tīkla apmācības procesā, tādējādi samazinot apmācības laiku. Eksperimentu rezultāti rāda, ka atpakaļizplatīšanas izslēgšana no konvolūcijas slāņiem ir efektīvāka , lietojot sinusoidālus mezglus, kā arī to, ka apmācības procesā atpakaļizplatīšana konvolūcijas slāņos ir mazāk efektīva nekā pilnībā savienoti slāņi. Normalizēta savstarpēja korelācija tika izmantota arī kā konvolūcijas operācija konvolūcijas neironu tīklā. Tika secināts, ka piedāvātās metodes sniedz tādas priekšrocības kā ātrāka apmācība, labāka funkciju aproksimācija un labāka vispārināšana. Darbā tika izmantota projektēšanas zinātniskā metode. Maģistra darbs sastāv no 57 lappuses, 16 attēli, 6 tabulas un 45 atsauces avoti. |
| Keywords |
FOURIER SĒRIJA, FOURIER NEURĀLU TĪKLS, PERIODISKAS DARBĪBAS FUNKCIJA, KONVENCIONĀLI NEURĀLIE TĪKLI, ATPAKAĻPROPEKCIJA |
| Keywords in English |
FOURIER SERIES, FOURIER NEURAL NETWORK, PERIODIC ACTIVATION FUNCTION, CONVOLUTIONAL NEURAL NETWORKS, BACKPROPAGATION |
| Language |
eng |
| Year |
2020 |
| Date and time of uploading |
12.06.2020 14:10:54 |
