VU superkompiuteris padeda tyrinėti šneką

Tobulinant girdinčias, suprantančias ir kalbančias technologijas reikalingi didelių skaičiavimo pajėgumų superkompiuteriai – jie leidžia padaryti tai, ko paprastas kompiuteris nepajėgtų arba darytų labai lėtai. „Šnekos signalo kokybės gerinimo svarba didėja, – sako Vilniaus universiteto Matematikos ir informatikos fakulteto Duomenų mokslo ir skaitmeninių technologijų instituto (VU MIF DMSTI) Vaizdų ir signalų analizės grupėje dirbanti doktorantė Justina Ramonaitė. – Technologijų, kurios naudoja balsą, daugėja, svarbu, kad net ir triukšmingose aplinkose jos veiktų tinkamai. Yra ir kitų sričių, kur garso kokybė svarbi, pradedant komunikacijomis, baigiant teismine ekspertize.“

VU MIF studentams suteikiama galimybe išbandyti superkompiuterį J. Ramonaitė pasinaudojo dar studijuodama magistrantūroje: „Buvo smalsu. Vienas iš atliekamo tyrimo žingsnių buvo surasti tinkamiausius modelio hiperparametrus. Nusprendžiau pasitelkti superkompiuterį, kad skaičiavimus atlikčiau greičiau.“

Iš galimybių, kurias mokslininkams suteikia VU superkompiuteris, J. Ramonaitei aktualiausias duomenų analizės modelių kūrimas. 

Superkompiuteris padeda modeliams mokytis sparčiau 

Hiperparametrai – nustatymai, kuriuos tyrėjai parenka prieš apmokydami dirbtinio intelekto modelį. 

Modelis mokosi pats, bet reikalingos iš anksto nustatytos taisyklės, kaip mokymasis vyks. Pavyzdžiui, kiek kartų modelis peržiūrės duomenis – mokslininkai tokį peržiūrėjimą vadina epocha – ir kokiu greičiu mokysis, kiek duomenų analizuos vienu metu, keliasluoksnė bus analizė.

J. Ramonaitės teigimu, modeliai tobulėja, todėl ir skaičiavimai tampa kompleksiškesni. Jiems apmokyti reikia daug duomenų ir didelio kiekio epochų. „Paprastas kompiuteris šiuos skaičiavimus gali atlikti labai lėtai arba išvis neatlikti dėl išteklių trūkumo, o superkompiuteris leidžia įveikti tokius techninius iššūkius ir paspartinti skaičiavimus“, – sako tyrėja.  

Skirtingi mokymosi nustatymai duos skirtingus rezultatus. Nebūtinai didelis mokymosi greitis yra gerai – modelis gali nespėti pagauti dėsningumų. Jei per lėtai – mokymasis tęsis ilgai. Jei sistema bus pernelyg paprasta, mokymasis irgi gali būti neefektyvus, o rezultatas – mažo tikslumo. 

Superkompiuteris. VU nuotr.

Ieškodami geriausio derinio, tyrėjai turi išbandyti daugybę nustatymų. Superkompiuteris gali tai daryti paraleliai, išmėgindamas daug variantų vienu metu. Taip tinkamiausias modelis randamas greičiau.

Gilesni neuronų tinklai – tikslesni rezultatai

Jei bandėte naudotis telefone esančia spartaus vertimo programėle triukšmingoje traukinių stotyje šalyje, kurios kalbos nemokate, tikriausiai susidūrėte su technologijų netobulumu – tikėtina, kad programėlė susipainiojo tarp daugybės erdvėje skambančių garsų bei pokalbių ir išvertė nuotrupų mišinį. 

Šnekos modelių apmokymams reikia daug garso įrašų – priklausomai nuo pritaikymo, reikalingas kiekis gali siekti tūkstančius valandų. Įrašų rinkiniuose garsas suskaidomas į mažus segmentus. „Naudodamas tokius duomenų kiekius paprastas kompiuteris dirbtų savaites ar mėnesius. Superkompiuteris gali apmokyti modelį per kelias dienas. Mokslininkams ir tyrėjams tai leidžia greičiau testuoti idėjas ir gauti rezultatus“, – sako J. Ramonaitė.

Superkompiuteris gali kurti gilesnius neuroninius tinklus ir tikslesnius šnekos atpažinimo ir sintezės modelius. Didėja ne tik greitis – galima kurti tikslesnes, natūraliau kalbančias ir geriau įvairias kalbas suprantančias sistemas. Tai gali būti naudinga tobulinant robotus asistentus, įrašant garso knygas, verčiant.

Kadangi superkompiuteriai leidžia apmokyti modelius daug kalbų vienu metu, jie svarbūs dirbant su mažomis kalbomis. Tai padeda išsaugoti kalbų įvairovę technologinėje aplinkoje ir didina technologijų prieinamumą tomis kalbomis.

„Superkompiuteris leidžia išbandyti sudėtingesnius modelius, ko nepavyktų padaryti paprastu kompiuteriu“, – sako tyrėja.  

Šiuo metu VU MIF DMSTI Vaizdų ir signalų analizės grupėje J. Ramonaitė superkompiuterį naudoja dirbdama su šnekos signalo kokybės gerinimu. Tam ji taiko pažangius giliojo mokymosi metodus, tokius kaip generatyviniai adversariniai tinklai: „Jei tai pavyks padaryti sėkmingai, planuojame tirti, ar informacijos apie patį triukšmą, esantį signale, įtraukimas padėtų gauti geresnius rezultatus.“

Generatyviniai adversariniai tinklai (angl. generative adversarial networks, GAN) – dirbtinio intelekto metodas, padedantis kurti naujus, tikroviškai atrodančius duomenis – ne tik tekstus, bet ir garsus bei vaizdus. 

J. Ramonaitės darbo vadovė – profesorė dr. Gražina Korvel, vadovaujanti didžiojo lietuvių kalbos garsyno LIEPA-3 kūrimui.