| Form of studies |
Bachelor |
| Title of the study programm |
Computer Systems |
| Title in original language |
Uzvedņu iesprauduzbrukumi lielajos valodu modeļos un to mazināšanas stratēģijas |
| Title in English |
Prompt Injection Vulnerabilities in Large Language Models and Their Mitigation Strategies |
| Department |
Faculty Of Computer Science Information Tehnology And Energy |
| Scientific advisor |
Alla Anohina-Naumeca |
| Reviewer |
Ainārs Auziņš |
| Abstract |
Saistībā ar lielo valodu modeļu (LVM) un ar tiem integrēto lietojumu straujo izplatību, šajā bakalaura darbā ir pētīts viens no LVM drošības draudiem - uzvedņu iesprauduzbrukumi. Darba mērķis ir analizēt šo uzbrukumu mehānismus un mazināšanas stratēģijas.
Autors ir izstrādājis gpt-3.5-turbo, gpt-4o, claude-3-haiku un claude-3-opus integrētu sistēmu, kurā ir veicis uzvedņu iesprauduzbrukumus, piemēram, pielietojot konteksta manipulācijas, atsoļa rakstzīmes un citas metodes. Šajā kontekstā ir izpētīta uzvedņu inženierijā un ārējo servisu integrācijā balstīto aizsardzības stratēģiju efektivitāte.
Iegūtie rezultāti parāda, ka gpt-4o un claude-3-opus ir mazāk ievainojami pret uzvedņu iesprauduzbrukumiem, taču arī gpt-3.5-turbo un claude-3-haiku izmantošanas gadījumā var samazināt šo uzbrukumu izdošanos par 50-80%, ievērojot autora izstrādātos ieteikumus.
Bakalaura darbā ir 53 lappuses., 5 attēli, 16 tabulas, 2 pielikumi, 65 izmantotie avoti. |
| Keywords |
Lielais valodas modelis, uzvedņu iesprauduzbrukums, uzvedņu inženierija |
| Keywords in English |
Large language model, prompt injection, prompt engineering |
| Language |
lv |
| Year |
2025 |
| Date and time of uploading |
25.05.2025 13:21:44 |
