| Form of studies |
Master |
| Title of the study programm |
Business Informatics |
| Title in original language |
Drošības un privātuma risku mazināšana ģeneratīvā mākslīgā intelekta lietošanā organizācijās |
| Title in English |
Minimising Security and Privacy Risks of Generative Artificial Intelligence Use in Organisations |
| Department |
Faculty Of Computer Science Information Tehnology And Energy |
| Scientific advisor |
Ilze Birzniece |
| Reviewer |
Rūta Pirta |
| Abstract |
Maģistra darbā tiek pētīti drošības un privātuma riski, kas saistīti ar ģeneratīvo AI tērzēšanas botu ieviešanu darbavietā, kā arī veidi, kā šos riskus iespējams samazināt. Līdz ar to darbā tiek aplūkoti ģeneratīvā mākslīgā intelekta, dabiskās valodas apstrādes, lielo valodas modeļu un AI tērzēšanas botu koncepti.
Maģistra darba gaitā tiek analizēti vairāki ģeneratīvie AI tērzēšanas boti, kas pašlaik ir pieejami tirgū un ir populāri organizāciju vidē. Papildus tam tiek izpētītas priekšrocības, drošības un privātuma riski, ko var radīt ģeneratīvā AI tērzēšanas bota ieviešana darbavietā. Balstoties uz drošības un privātuma risku analīzi, tiek izveidots drošības funkcionālo prasību saraksts. Šis saraksts tiek izmantots, lai analizētu iepriekš identificētos ģeneratīvos mākslīgā intelekta tērzēšanas botus, kas pašlaik ir populāri darbavietās. Analīzes mērķis ir identificēt drošības un privātuma riskus, kas joprojām nav pilnībā novērsti mūsdienās visvairāk izmantotajos ģeneratīvajos AI tērzēšanas botos darba vidē. Tas palīdz identificēt vājās vietas pašreizējos ģeneratīvajos AI tērzēšanas botos un vēlāk piedāvāt risinājumus iespējamajiem riskiem, kas joprojām nav novērsti.
Maģistra darba ietvaros autors piedāvā divus iespējamos risinājumus, kas vērsti uz datu apstrādi uzņēmuma iekšējā infrastruktūrā un kurus var ieviest un izmantot organizācijās, lai novērstu drošības un privātuma riskus, kas tika identificēti iepriekš un joprojām nav pilnībā risināti pašreizējos visvairāk izmantotajos ģeneratīvajos AI tērzēšanas botos. Pēc iespējamo risinājumu analīzes tiek realizēts viena no risinājumiem prototips, demonstrējot, kā izstrādātais risinājuma prototips potenciāli var mazināt vēl nenovērstās drošības problēmas. Izstrādātais prototips, kas tiek prezentēts maģistra darbā, ir SIR pārlūkprogrammas spraudnis, kas paredzēts, lai palīdzētu lietotājiem identificēt sensitīvas un konfidenciālas informācijas veidnes viņu ievadītajā informācijā ģeneratīvajās mākslīgā intelekta tērzēšanas sistēmās.
Maģistra darbs satur 89 teksta lapas, 22 attēlus, 7 tabulas, 82 informācijas avotus un 3 pielikumus. |
| Keywords |
ĢENERATĪVAIS MĀKSLĪGAIS INTELEKTS, ĢENERATĪVIE AI TĒRZĒŠANAS BOTI, DROŠĪBAS UN PRIVĀTUMA RISKI, SENSITĪVAS INFORMĀCIJAS APSTRĀDE, IEKŠĒJAIS AI TĒRZĒŠANAS BOTS, SENSITĪV AS INFORMĀCIJAS ATPAZĪŠANA |
| Keywords in English |
GENERATIVE AI, GENERATIVE AI CHATBOTS, SECURITY AND PRIVACY RISKS, SENSITIVE INFORMATION HANDLING, INTERNAL AI CHATBOT, SENSITIVE INFORMATION RECOGNITION |
| Language |
eng |
| Year |
2025 |
| Date and time of uploading |
05.01.2025 23:40:00 |
