Graduate papers
  
Description of the graduate paper
Form of studies Master
Title of the study programm Business Informatics
Title in original language Ātrākas apmācības dziļo neironu tīklu izstrāde
Title in English Development of Deep Neural Networks that Learn Faster
Department International Cooperation and Foreign Students Department
Scientific advisor Ilze Birzniece
Reviewer Vadošais pētnieks (pēcdok.) Ilze Andersone
Abstract Maģistra darbā tika pētītas metodes, kas ļauj dziļajiem neironu tīkliem labāk vispārināt ieejas datu kopu, lai uzlabotu apmācības laika efektivitāti. Darbā ir apkopota informācija par mākslīgo neironu tīklu galvenajiem komponentiem, bioloģisko neironu uzvedību un konvolūcijas neironu tīkliem. Pētījumā tika salīdzinātas vairākas metodes, piemēram, sinusoidālo funkciju izmantošana neironu tīkla mezglu operācijās, atpakaļizplatīšanas izslēgšana no konvolūcijas slāņiem. Projektēta sinusoidālā mezgla darbība palielina neironu tīkla vispārināšanas spējas. Parādīts, ka neironu tīkls ar projektētu sinusoidālā mezgla darbību var sasniegt augstas precizitātes rādītājus ar mazāku epohu un apmācības paraugu skaitu nekā neironu tīkli ar lineāru mezgla darbību. Atpakaļizplatīšanas izslēgšana no konvolūcijas slāņiem prasa mazāku aprēķinu skaitu neironu tīkla apmācības procesā, tādējādi samazinot apmācības laiku. Eksperimentu rezultāti rāda, ka atpakaļizplatīšanas izslēgšana no konvolūcijas slāņiem ir efektīvāka , lietojot sinusoidālus mezglus, kā arī to, ka apmācības procesā atpakaļizplatīšana konvolūcijas slāņos ir mazāk efektīva nekā pilnībā savienoti slāņi. Normalizēta savstarpēja korelācija tika izmantota arī kā konvolūcijas operācija konvolūcijas neironu tīklā. Tika secināts, ka piedāvātās metodes sniedz tādas priekšrocības kā ātrāka apmācība, labāka funkciju aproksimācija un labāka vispārināšana. Darbā tika izmantota projektēšanas zinātniskā metode. Maģistra darbs sastāv no 57 lappuses, 16 attēli, 6 tabulas un 45 atsauces avoti.
Keywords FOURIER SĒRIJA, FOURIER NEURĀLU TĪKLS, PERIODISKAS DARBĪBAS FUNKCIJA, KONVENCIONĀLI NEURĀLIE TĪKLI, ATPAKAĻPROPEKCIJA
Keywords in English FOURIER SERIES, FOURIER NEURAL NETWORK, PERIODIC ACTIVATION FUNCTION, CONVOLUTIONAL NEURAL NETWORKS, BACKPROPAGATION
Language eng
Year 2020
Date and time of uploading 12.06.2020 14:10:54