Pavojingiausia DI klaida – ta, kurios niekas nepastebi

Vilniaus universiteto (VU) mokslininkai sukūrė neegzistuojančią įmonę ir pateikė jos kibernetinio saugumo incidentą keturiems dirbtinio intelekto (DI) asistentams. Kiekvienas bent vienoje vietoje suklydo. Verslui svarbiausia ne tai, ar DI klysta, o tai, ar klaida pastebėta prieš priimant svarbius investicijų, saugumo ar veiklos tęstinumo sprendimus.  

IT paslaugų įmonė „1009 LTD“ turi 40 darbuotojų ir keturis padalinius: technologijų, operacijų, saugumo bei rinkodaros. Vieną dieną paaiškėja, kad konfidencialūs jos duomenys prieinami tamsiajame internete. Tyrimas atskleidžia, kad duomenų nutekėjimo šaltinis susijęs su įmonės darbuotoju – informacija galėjo būti perduota tyčia arba įsilaužus į darbuotojo paskyrą. Saugumo vadovas turi skubiai įvertinti riziką ir nuspręsti, kokių veiksmų imtis. 

Tokią užduotį VU Kauno fakulteto mokslininkai pateikė keturiems populiariems generatyvinio DI asistentams („ChatGPT“, „Claude“, „Copilot“, „Gemini“). Visiems jiems buvo pateikti tie patys įmonės dokumentai ir ta pati 12 klausimų rizikos vertinimo forma.

Kodėl reikėjo išgalvotos įmonės 

Tikros įmonės ne visada dalijasi savo saugumo politikomis, incidentų istorija ar pažeidžiamumų duomenimis su tyrėjais. Todėl projekto GAISO komanda pasirinko kitą sprendimą – sukūrė išgalvotą įmonę ir modeliavo jos veiklą. Įmonės vidaus valdymą apibrėžia 17 saugumo politikų, apimančių įvairias sritis – nuo prieigos valdymo iki veiklos tęstinumo. Be to, viešai paskelbta daugiau nei dvidešimt įmonės valdymo dokumentų, o tyrimams parengti penki incidentų scenarijai. 

Daugelis vadovų juos atpažins iš praktikos. Be jau minėto duomenų nutekėjimo, tai – paslaugų trikdymo (DDoS) ataka, užsipildęs duomenų bazės serverio diskas, fizinis įsibrovimas į serverinę ir nesėkmingas informacinės sistemos atnaujinimas. Mokslininkai taip pat parengė tinklo srauto ir įvykių žurnalų įrašus, kuriuose užfiksuoti atakoms būdingi pėdsakai/požymiai: slaptažodžių rinkimas, pažeidžiamumų skenavimas, kenkėjiško kodo įkėlimas į svetainę. 

Kadangi įmonė išgalvota, jos dokumentus ir tyrimų duomenis buvo galima paskelbti viešai. Dokumentai prieinami portale 1009.lt, o tyrimų duomenų rinkinys atvira licencija paskelbtas tarptautinėje mokslo duomenų saugykloje Zenodo. 

Tvarkinga lentelė dar nėra patikimas sprendimas 

Pirmieji eksperimento rezultatai nuteikė optimistiškai. Visi keturi asistentai užpildė valdymo priemonių lenteles, apskaičiavo rizikos lygį, pasirinko rizikos mažinimo strategiją ir kaip prioritetinę priemonę vienodai nurodė duomenų nutekėjimo prevencijos sistemos diegimą. Vis dėlto tinkamai užpildyta forma ir vienodas pasiūlymas dar nereiškia, kad incidentas buvo teisingai suprastas. 

Vaizdas pasikeitė, kai reikėjo suprasti situaciją, o ne tik užpildyti formą. Tik vienas asistentas teisingai nustatė, kad sistemų prieinamumas incidento metu nenukentėjo. Žalą įmonės reputacijai įžvelgė tik du asistentai. Tik vienas aiškiai atskyrė jau įvykusį incidentą nuo hipotetinės grėsmės. Dar vienas asistentas, nors nuosekliausiai rėmėsi pateiktais šaltiniais, teigė, kad įmonėje netaikomas dviejų veiksnių tapatumo nustatymas, nors pagal scenarijų ši priemonė buvo įdiegta. Taigi, vien nuorodos į šaltinius dar negarantuoja teisingos išvados. 

Kitą pavyzdį verta įsidėmėti kiekvienam, kas tvirtina biudžetus. Tomis pačiomis sąlygomis asistentai pateikė skirtingus tos pačios rizikos įverčius: vienas tikimybę įvertino 4, kitas – 3 balais, todėl bendras rizikos įvertis skyrėsi nuo 15 iki 20, t. y. trečdaliu. Tai balų, o ne galimų nuostolių skirtumas, tačiau jei tokiu nepatikrintu įverčiu remiamasi skiriant lėšas saugumo priemonėms, DI pasirinkimas gali pakeisti investicijų prioritetus. Todėl vadovui svarbus ne tik rizikos balas, bet ir tai, kokiais duomenimis bei argumentais jis pagrįstas. 

Antrajame eksperimente tyrėjai išbandė penkias DI ekosistemas (prie jau minėtų keturių prisidėjo „Grok“). Buvo vertinama, kurias iš 12 saugumo vadovo funkcijų DI gali atlikti savarankiškai, o kurioms būtina specialisto patikra. Išbandytomis sąlygomis asistentai naudingai siejo tekstinius įvykių žurnalus ir padėjo rasti procedūrų neatitikimus reguliavimo reikalavimams. Tačiau tinklo srauto įrašus analizei pirmiausia reikėjo paversti tekstu. Be to, rekomendacija, kaip suvaldyti incidentą, nėra tas pats, kas atkurtos paslaugos. Tai – išbandytų priemonių ir jų konfigūracijų rezultatas, o ne visų DI sistemų galimybių riba. „Praktinė abiejų eksperimentų išvada aiški: DI galima pavesti parengti analizės juodraštį, tačiau prieš priimant sprendimą būtina atsakingo specialisto patikra ir patvirtinimas“, – sako projekto vykdytoja, VU Kauno fakulteto vyresnioji mokslo darbuotoja doc. Ilona Veitaitė.  

Ar jūsų darbuotojai pastebėtų DI klaidą? 

Jei DI klaidą turi pastebėti žmogus, kyla nepatogus klausimas: ar jūsų įmonės darbuotojai tam pasirengę? „Turi būti aiškiai nustatyta, kas tikrina DI pateiktą informaciją, su kokiais pirminiais duomenimis ją lygina ir kas turi teisę atmesti DI siūlymą“, – sako projekto vykdytojas, VU Kauno fakulteto mokslo darbuotojas doc. Kęstutis Driaunys.  

Kitas projekto rezultatas – CARI (angl. CISO AI Readiness Index), saugumo vadovo ir organizacijos pasirengimo valdyti su DI susijusias rizikas įsivertinimo indeksas. Jis apima keturis aspektus: kiek saugumo vadovas išmano DI (vertinamas šešiose raštingumo srityse); kaip vertinamas DI priemonių veiksmingumas, įskaitant klaidingų įspėjimų ir integracijos problemų naštą; kiek darbo laiko DI sutaupo; ir kiek organizacija geba darbuotojų kompetenciją paversti praktiniu rezultatu. Verslui tai leidžia įsivertinti technologijų galimybes ir gebėjimą jomis tinkamai naudotis. 

Pagal įsivertinimo rezultatą organizacija priskiriama vienam iš keturių kvadrantų. Geriausia padėtis pagal šį modelį – „proaktyvus gynėjas“: darbuotojai išmano DI, o naudojamos technologijos veikia. Blogiausia – „kritinė rizika“: organizacijai trūksta ir kompetencijų, ir veiksmingų priemonių. Ne mažiau pavojingas yra „automatizuotos, bet pažeidžiamos“ būklės kvadrantas. Tokio indekso įmonė turi veiksmingų DI įrankių, tačiau darbuotojai nepakankamai supranta, kaip veiksmingai juos naudoti ir atsakingai priimti sprendimus. Iš šalies tokia organizacija gali atrodyti moderni, tačiau automatizacija joje lenkia supratimą. Todėl aprašytos klaidos gali likti nepastebėtos. Tai svarbus perspėjimas įmonėms, kurios technologijas diegia greičiau, nei ugdo darbuotojų gebėjimą jomis naudotis. Įrankio įsigijimas ir pasirengimas juo pasitikėti – du skirtingi sprendimai. 

CARI įsivertinimas yra nemokamas. Jį galima atlikti „iPhone“ ir „iPad“ programėlėje, o metodika pristatyta svetainėje ciso-airi.vercel.app. Pagal kūrėjų aprašymą, programėlei nereikia paskyros ir nuolatinio interneto ryšio, o vertinimai saugomi įrenginyje. Pakeitus įvesties duomenis, indeksas perskaičiuojamas iš karto, todėl valdyboje galima aptarti hipotetinius mokymų ar DI priemonių keitimo scenarijus. Kiekvienam kvadrantui pateikiamos rekomendacijos, susietos su ES dirbtinio intelekto aktu, NIS2 direktyva, ISO/IEC 42001 standartu ir NIST DI rizikos valdymo sistema. Kūrėjai pabrėžia, kad tai orientacinis įsivertinimas, o ne atitikties pažymėjimas. 

Ką vadovas gali padaryti jau dabar 

Pirmiausia svarbu įsivertinti, kuriame kvadrante yra organizacija, ir rezultatą aptarti su komanda. DI naudą reikia vertinti ne vien pagal tai, kaip greitai parengiamas atsakymas, bet ir pagal laiką, kurio prireikia jam patikrinti ir klaidoms ištaisyti. 

Taip pat reikia nustatyti aiškias DI naudojimo ir atsakymų tikrinimo taisykles. Mokslininkai rekomenduoja struktūrizuotas užklausas: DI prašyti pateikti patarimą, o ne galutinį sprendimą, nurodyti šaltinius ir pažymėti neapibrėžtumą. Pačiai įmonei svarbu aiškiai apsibrėžti, kokius duomenis leidžiama perduoti DI, ir neperduoti daugiau, nei būtina. Užklausų kanalą taip pat rekomenduojama vertinti kaip saugumui reikšmingą elementą ir galimą atakos kelią: turėti patvirtintų šablonų biblioteką ir ją reguliariai audituoti. Kontrolės griežtumą projekte siūloma rinktis pagal tai, su kokiais duomenimis ir kokiomis prieigos teisėmis dirba DI – nuo darbo tik su vieša informacija iki agentų, galinčių naudotis įmonės sistemomis. Praktikoje būtina aiškiai įvardyti, kas tikrina DI išvadas ir kas tvirtina jų pagrindu priimamus sprendimus. Struktūrizuota užklausa specialisto patikros nepakeičia. 

Naudinga žinoti, kad komandos pratyboms galima pasitelkti atvirus išteklius. Portale 1009.lt galima susipažinti su įmonės saugumo dokumentų rinkiniu ir naudoti išgalvotus incidentų scenarijus patikrai, ar darbuotojai pastebi DI išvadų neatitikimus pateiktiems duomenims. Finansinių technologijų įmonėms gali būti aktuali atskira dokumentų serija, parengta atsižvelgiant į kriptoturto rinkų (MiCA) ir skaitmeninės veiklos atsparumo (DORA) reglamentų reikalavimus. Šablonai yra atspirties taškas, o ne konkrečios organizacijos atitikties patvirtinimas. 

Išgalvota įmonė atliko savo darbą. Dabar eilė tikroms 

Lietuvos mokslo tarybos finansuotas ir Vilniaus universiteto Kauno fakultete vykdytas projektas GAISO („Kibernetinio atsparumo tyrimai taikant generatyvinį dirbtinį intelektą informacijos saugos įgaliotinio veikloje“, sutarties Nr. S-ITP-24-13) baigėsi 2026 m. rugsėjo 30 d. Jo rezultatai paskelbti dviejuose žurnalo „Electronics“ straipsniuose ir ICAART 2026 konferencijos leidinyje, o monografijos rankraštis pateiktas leidyklai „Springer Nature“. Tyrėjai atvirai pripažįsta, kad metodika ir priemonės iki šiol išbandytos kontroliuojamoje, sintetinėje aplinkoje, todėl aprašytos klaidos nėra jų dažnio realiose įmonėse įvertis. Kitas žingsnis – patikrinti rezultatus tikrose organizacijose. 

Projekto komanda kviečia Lietuvos įmones, ypač veikiančias NIS2 reguliuojamuose sektoriuose, tapti tyrimų partnerėmis: atlikti CARI įsivertinimą savo organizacijoje ir aptarti rezultatą su tyrėjais. Dalyvaujančių įmonių prašoma tik įsivertinimo rezultatų ir patirties, be konfidencialios informacijos apie saugumo priemones. Susisiekti galima info@knf.vu.lt. 

DI galima pavesti parengti atsakymą, bet negalima perleisti atsakomybės už sprendimą. Vadovui verta klausti ne vien, ką siūlo DI, bet ir kas patikrino, kad tuo būtų galima remtis. 

Daugiau informacijos: 1009.lt | ciso-airi.vercel.app | knf.vu.lt/en/gaiso