| Form of studies |
Bachelor |
| Title of the study programm |
Computer Systems |
| Title in original language |
Automatizēta lietotāju satura uzticamības un sensitīva satura novērtēšana ar mākslīgā intelekta metodēm |
| Title in English |
Automated User Content Credibility and Sensitive Information Evaluation Using Artificial Intelligence Methods |
| Department |
Faculty Of Computer Science Information Tehnology And Energy |
| Scientific advisor |
Evija Cibuļska |
| Reviewer |
Aleksandrs Sisojevs |
| Abstract |
Šajā bakalaura darbā tiek pētīts mākslīgā intelekta metožu pielietojums lietotāju ģenerēta satura analīzē un automatizētā moderācijā. Mūsdienu digitālajā vidē strauji pieaug publicētā satura apjoms, kas apgrūtina manuālu satura pārbaudi un palielina toksiska, aizskaroša vai sensitīva satura izplatības risku. Īpaši aktuāla problēma ir kontekstuāli sarežģītu izteikumu, ironijas, interneta slenga un multimodāla satura interpretācija.
Darba mērķis ir izstrādāt un izvērtēt mākslīgā intelekta metožu pielietojumu lietotāju ģenerētā satura analīzē, lai automatizēti novērtētu tā uzticamību un identificētu naida runu vai sensitīvu saturu “LifeCheck” platformā. Darba ietvaros tika analizētas dažādas satura moderācijas pieejas un mākslīgā intelekta metodes, kā arī izstrādāts konceptuālais “LifeCheck” moderācijas risinājuma modelis.
Praktiskajā daļā tika realizēts eksperimentāls multimodālas moderācijas prototips, kas apvieno teksta toksiskuma noteikšanu, emocionālās noskaņas analīzi un attēlu klasifikāciju vienotā sistēmā. Prototipa realizācijā tika izmantota Python programmēšanas valoda, FastAPI ietvars un Hugging Face Transformers bibliotēka ar iepriekš apmācītiem mašīnmācīšanās modeļiem. Papildus tika veikta latviešu valodai pielāgota toksiskuma modeļa papildapmācība (angļu val. fine-tuning), papildinot trenēšanas datu kopu ar ironijas, emociju (angļu val. emoji), interneta slenga un neformālas komunikācijas piemēriem.
Eksperimentālā validācija parādīja, ka izstrādātais prototips spēj efektīvi identificēt toksisku tekstu un sensitīvu vizuālo saturu, vienlaikus precīzāk interpretējot robežgadījumus pēc modeļa papildapmācības. Darba rezultāti apliecina multimodālas pieejas potenciālu automatizētā satura moderācijā un demonstrē mākslīgā intelekta metožu praktisku pielietojumu latviešu valodas satura analīzē. |
| Keywords |
Mākslīgais intelekts, satura moderācija, naida runas noteikšana, multimodālā analīze, toksiskuma klasifikācija. |
| Keywords in English |
Artificial intelligence, content moderation, hate speech detection, multimodal analysis, toxicity classification. |
| Language |
lv |
| Year |
2025 |
| Date and time of uploading |
26.05.2026 12:05:30 |
