| Abstract |
Ģeneratīvās mākslīgās intelektu (GenAI) pakalpojumi arvien biežāk tiek integrēti tīmekļa lietojumprogrammās, radot darba slodzes raksturlielumus, kas atšķiras no tradicionālajām tīmekļa darba slodzēm, jo AI modeļu secinājumu operācijas ir ilgstošas, prasa pastāvīgu savienojumu atbildes ģenerēšanas laikā un ietver daudzpakāpju procesus, kas patērē resursus, kuru apjoms pieaug līdz ar vienlaicīguma līmeni. Šajā bakalaura darbā ir sniegta četru Python tīmekļa satvara: Flask, Django, FastAPI un Tornado salīdzinošā analīze, lai nodrošinātu efektīvu GenAI pakalpojumu integrāciju. Tie tika izvēlēti, lai pārstāvētu sinhronās un asinhronās izpildes modeļus, un tika novērtēti četros efektivitātes aspektos: aizture un savienojuma stabilitāte, vienlaicīguma mērogojamība, resursu izmantošana un procesa koordinācija. Eksperimentālajā metodoloģijā tiek izmantota kontrolēta slodzes testēšana ar identisku GenAI API integrāciju, kas ieviesta katrā satvara prototipā un testēta sešos vienlaicīguma līmeņos. Rezultāti liecina, ka asinhronās platformas sasniedza augstāku caurlaidspēju, vienlaikus saglabājot stabilāku atbildes laiku vienlaicīgas GenAI slodzes apstākļos, nekā sinhronās platformas, kurām atbildes gaidīšanas laiks ievērojami palielinājās, pieaugot vienlaicīgumam. Pīplīna testēšanā asinhronā notikumu cilpas plānošana radīja papildu posma līmeņa aizturi augsta vienlaicīguma apstākļos, kas izraisīja lielāku atmiņas patēriņu. Tika izstrādāta matemātiska procedūra, lai apvienotu trīspadsmit izmērītos rādītājus vienā kopējā vērtējumā katrai sistēmai katrā ieviešanas kontekstā, izmantojot minimālo un maksimālo normalizāciju, harmoniskā vidējā summēšanu un svērto summu lēmuma pieņemšanas noteikumu. Pamatojoties uz šiem secinājumiem, darbā sniegti eksperimentāli pamatoti, uz scenārijiem balstīti ieteikumi Python tīmekļa platformas izvēlei GenAI integrācijai. |
