Atmaskots. Mākslīgo intelektu trenē misijai pret dezinformāciju

Latvijas Universitātes (LU) vadībā norisinās ambiciozs četru gadu pētniecisks projekts "Mākslīgais intelekts dezinformācijas atmaskošanai" jeb "AI4Debunk". Tajā iesaistīti 14 partneri no astoņām valstīm. Par projekta mērķiem un pirmajā gadā paveikto "Latvijas Avīzei" stāsta projekta vadītāja Inna Šteinbuka, kura ilgu laiku darbojusies Eiropas Savienības institūcijās, bet pašlaik vada Fiskālās disciplīnas padomi.

Kā jūs pati sargājaties no dezinformācijas un viltus ziņu plūdiem?

Inna Šteinbuka: Varētu teikt, ka man jau no padomju laikiem pret to veidojusies dabiskā imunitāte, jo tolaik dzīvojām propagandas laikmetā. Līdz ar to šajā jomā man jau ir nostiprinājusies izjūta, turklāt esmu pieradusi kritiski domāt par visu, ko izlasu vai dzirdu. Ja man rodas aizdomas par informācijas patiesumu, pati mēģinu pārbaudīt ziņu avotus. Savulaik darbs "Eurostat" man nostiprināja ieradumu paļauties uz oficiālo informāciju, nevis baumām vai nepārliecinošiem avotiem. Visbeidzot, laikam esmu vecmodīga – sociālo tīklu burbuļos neuzturos, bet man ir noteikti informācijas avoti, kam daudzmaz uzticos, to vidū ir gan mediji, gan oficiālās informācijas avoti. Līdz ar to, godīgi sakot, pati varu arī iztikt bez kādiem dezinformācijas atpazīšanas rīkiem.

Kā jūs vērtējat, cik mūsu sabiedrība kopumā ir noturīga pret maldināšanu un dažādām informatīvām manipulācijām?

Ne tikai Latvijā, bet kopumā pasaulē, manuprāt, īpaša uzmanība ir jāpievērš jaunajai paaudzei. Ir ļoti daudz jauniešu, kas vispār neko nelasa un dzīvo savos burbuļos. Ir elki, kam viņi seko un visai bieži absolūti nekritiski uzticas. Ja runājam par manu paaudzi, ļaudis ir dažādi. Daļai liekas, ka ideālais modelis ir tas, ko viņi piedzīvoja savā jaunībā, citi varbūt tā neuzskata. Piemēram, pie mums tagad ļoti izplatīts ir mīts par to, ka Latvijai ir milzīgs valsts parāds, lai gan patiesībā tā nav. Esmu to skaidrojusi, bet aizvien satieku cilvēkus, kas jautā, kāpēc Latvijai ir tik milzīgs ārējais parāds. 

Cits mīts, ar ko esmu saskārusies, – sakarā ar to, ka Latvijā nekas netiekot ražots, mūsu budžetu finansējot Eiropas Savienība. Un cilvēki tam tic, lai cik tas būtu aplami.

Informācijas plūsma mūsdienās ir tik milzīga, ka tajā patiešām ir grūti orientēties, un cilvēki sāk zaudēt uzticības enkurus. Nereti intuitīvi tiek atrasts kaut kas, kas uzrunā, piesaista vai šķiet simpātisks, necenšoties analizēt, vai tā informācija atbilst patiesībai un vai tas ir uzticams avots.

Ziņu izvēli jau bieži vien ietekmē arī sociālo mediju algoritmi.

Tā ir, tomēr cilvēkam pašam vienmēr ir izvēles iespēja. Ja tevi uzrunā un tev patīk kāds vēstījums, un tas saskan ar tavu noskaņojumu vai pārliecību, tu to arī klausies un skaties, un seko attiecīgai satura plūsmai. 

Patiesībā šodien tu vari atrast jebkuru informāciju, ja tikai gribi to meklēt un ja vispār gribi kritiski domāt vai vismaz salīdzināt, ko saka dažādas puses.

Pandēmijas laikā piedzīvojām izteiktu sazvērestības teoriju popularitāti. Vai tas iezīmē kādu robežšķirtni kopējā informatīvajā laukā?

Robežšķirtne iestājās jau agrāk. Man šķiet, ka Rietumu pasaulē ilgu laiku bija uzskats, ka mums ir citas vērtības un mēs dzīvojam citādi nekā tie, kas savu mērķu sasniegšanā kā ieročus izmanto informatīvas manipulācijas un dezinformāciju.

Kad strādāju Eiropas Komisijas (EK) Komunikācijas departamentā, mēs – īpaši Baltijas valstu un citu Austrumeiropas valstu pārstāvji – cēlām trauksmi par to, ka dezinformācijas plūdi no Krievijas pastiprinās, ka arī no EK puses vajadzētu pretsoļus. Bet tolaik tā atbilde bija, ka mēs to nedarīsim – mēs esam citādi un spēlējam ar atklātām kārtīm.

Breksita laikā tā brīža EK prezidenta Žana Kloda Junkera nostāja bija, ka mēs vispār nekomentēsim un neizteiksim viedokli par to, tajā skaitā nereaģēsim uz šajā jomā izplatītajiem mītiem un dezinformāciju, lai tikai "neietekmētu" Lielbritānijas vēlētāju izvēli. Bet, kā redzam, citi to ietekmēja, un mēs saņēmām to, ko saņēmām.

Tā bija diezgan naiva pozīcija.

Tas ir tikai viens piemērs. Bet kopumā nebija izpratnes par to, ka vajag vismaz censties atspēkot klaju dezinformāciju. Pat pēc Krimas aneksijas EK informācijas manipulācijas atspēkošanas jomā darīja minimāli. Cīņa ar dezinformāciju bija pašu dalībvalstu ziņā. Izpratne veidojās vēlāk, kad aktualizējās sazvērestības teorijas ap pandēmiju, kā arī iepriekš plaši izplatījās dezinformācija par klimata pārmaiņām, ka tas viss ir tikai izdomājumi, lai izspiestu naudu no valdībām, un ka mums patiesībā nekas nedraud. Tāpēc arī mūsu projektā viens no virzieniem ir ar klimata pārmaiņām saistītā dezinformācija. 

Otrs projekta fokuss ir uz Krievijas izplatītajiem vēstījumiem, viltus ziņām, propagandu un dezinformācijas kampaņām saistībā ar karu Ukrainā.

Dezinformācijas graujošās sekas ir skaidri redzamas, vērojot notikumus Gruzijā un Moldovā, par Ukrainu nemaz nerunājot. Tā ietekme jūtama arī ES valstīs, un arī Latvija nav izņēmums.

Tagad Briselē aizvien cītīgāk tiek meklēti veidi, kā turēties pretī sabiedrības maldināšanai un informatīvām operācijām. Tostarp ir jūsu vadītais projekts "AI4Debunk" ar mērķi cīņai pret dezinformāciju uztrenēt Mākslīgo intelektu (MI). Kā jūs vērtējat MI iespējas šajā laukā?

Tas potenciāls ir ļoti jaudīgs un plašs. Viena no mūsu projekta idejām ir eiropiešiem piedāvāt praktiskus rīkus, piemēram, lietotni viedtālrunī, kas šaubu gadījumā ļautu ērti pārbaudīt informācijas patiesumu. Protams, nevienu nevar piespiest to darīt – ja cilvēks nevēlēsies pārbaudīt informāciju, viņš to nedarīs. Bet tā būtu iespēja tiem, kas to vēlas.

Beidzot EK ir skaidra izpratne par to, ka ir nepieciešami atbildes soļi, lai ierobežotu dezinformācijas izplatību un tās radīto kaitējumu, pašlaik tiek diezgan dāsni finansēti pētījumi, kas ir vērsti uz šādu rīku izstrādi.

Neesam vienīgais projekts, kurš saņēma atbalstu šim mērķim. Būtībā šajā jomā varam runāt par klasteru, un tajā iesaistītie atrodas savstarpējā saziņā, īpaši MI speciālisti, lai viņu izstrādātais produkts būtu unikāls un neatkārtotu to, ko dara citi.

Projekta "AI4Debunk" ietvaros pagājušā gada pavasarī Saeimā norisinājās starptautiska konference "Mākslīgais intelekts dezinformācijas atmaskošanai".

Foto: Reinis Inkēns/Saeima

Kādam jābūt jūsu projekta rezultātam, uz ko liekat uzsvaru?

Mana loma kā projekta koordinatorei ir sekot tam, lai mūsu izstrādātajiem rīkiem piemīt ne tikai zinātniska novitāte, par ko absolūti nešaubos, bet lai galarezultātā tiktu radīti arī parocīgi, lietotājam draudzīgi produkti. Tāpēc mans uzstādījums arī ir, lai mūsu projekta MI guru veidotu uz cilvēku orientētu komunikāciju, vienkāršā valodā izstāstot, ko mēs piedāvāsim kā gala produktu un kā tas būs lietojams. Mūsu priekšrocība ir, ka strādājam divos virzienos, kas "saplūst" mūsu projektā. No vienas puses, tā ir politoloģija, socioloģija, publiskā komunikācija, medijpratība, no otras – MI speciālisti, kuri ikdienā vairāk dzīvo savā tehniskajā burbulī.

Pastāstiet vairāk par "AI4Debunk" ietvaros topošajiem produktiem!

Mēs izmantosim dažādus paņēmienus, lai uzrunātu un izglītotu dažādas sabiedrības grupas. Un ļoti ceram, ka tas patiešām palīdzēs cilvēkiem orientēties mūsdienu informācijas plūdos. Kā jau teicu, man ļoti gribētos, lai mūsu pētījumam būtu ne tikai pētnieciska nozīme, bet tiktu radīti arī praktiski izmantojami rīki.

Piemēram, Dezinfopēdija būs ar Mākslīgā intelekta palīdzību darbināts tīmekļa resurss, kur cilvēki varēs rast atbildes uz jautājumiem, kas saistīti ar dezinformāciju un tās izplatību. 

Tostarp, šaubu gadījumā šeit būs iespēja ziņot par viltus ziņām un pārbaudīt to patiesumu. Cita starpā tajā plānojam ietvert arī komiksu, lai bērniem un jauniešiem draudzīgā veidā skaidrotu, kādā informatīvā vidē mēs pašlaik dzīvojam un ka uzticēties visam nevar.

Konkrētus produktus plānots pabeigt projekta noslēdzošajā etapā, kas būs pēc trīs gadiem. Bet par progresu plānojam ziņot jau ātrāk. Mani ļoti iepriecina, ka mēs – daudzie projektā iesaistītie partneri – esam jau sākuši runāt vienā valodā. Ir izveidojusies sapratne par to, pie kā kopā strādājam.

Politoloģijas zinātnieki un sociologi jau izstrādāja metodoloģiju informācijas manipulācijas atpazīšanai Eiropas informatīvajā telpā. Un paralēli notiek darbs pie MI rīku izstrādes. Lai MI uztrenētu tam paredzētajai misijai cīņā pret dezinformāciju, vispirms to vajag ekipēt ar nepieciešamo informāciju, lai tas spētu atšķirt patiesību no melīgiem apgalvojumiem.

Viens no gaidāmajiem rīkiem ir viedtālruņa lietotne. Vai tā darbosies kā burvju nūjiņa, atverot cilvēkiem acis un atklājot, kas ir meli un puspatiesības?

Jāņem vērā, ka tehniskais progress notiek ārkārtīgi strauji. Un mūsu pētījuma projekts, kas sākās pērn un kopumā norisinās četrus gadus, tika izstrādāts gandrīz pirms pusotra gada. Kas notiks vēl pēc trim gadiem? Vai mēs vēl būsim aktuāli ar saviem rīkiem? Tie ir būtiski jautājumi, kas mums pašiem sev ir jāuzdod. 

Līdz ar to mūsu izaicinājums ir apsteigt laiku, paredzot, kā virzīsies tehnoloģiju attīstība. Tas ir ļoti sarežģīti, un, godīgi sakot, nezinu, vai mums tas izdosies, bet tas ir izaicinoši.

Dezinformāciju mēs neapstādināsim, tas ir skaidrs. Tā attīstīsies, kā saka, atbilstoši ideoloģiskiem uzstādījumiem, kādi būs tiem, kas aiz tā visa stāv. Kā gan tu vari apstādināt visus tos botus un botu fermas, kas ir radītas diezgan profesionāli? Ar to tagad ir jāsadzīvo, bet ir arī jāmēģina rast veidus un atbalsta rīkus cilvēkiem, kas palīdz to visu atmaskot.

Vai tiešām MI spēs cilvēka vietā izsijāt, kas ir uzticama informācija un kas tāda nav?

Cilvēka zināšanas ir ierobežotas, līdz ar to viņš var vienkārši kaut kam uzticēties vai arī tomēr informāciju pārbaudīt un pārliecināties par tās patiesumu. Vismaz pagaidām Mākslīgais intelekts nevar pilnībā aizvietot cilvēku, bet tas var kalpot viņam kā atbalsta instruments.

MI potenciāls patiešām ir prātam neaptverams, un grēks būtu to neizmantot labiem mērķiem. Vienlaikus cilvēku jau nevar piespiest ne pašam domāt kritiski, ne, piemēram, izmantot MI atbalstu. Jebkurā gadījumā ir nepieciešama arī paša vēlme.

Dzīvojam laikmetā, kad būtībā pret visu informāciju ir jāizturas piesardzīgi un tā ir kritiski jāpārdomā. Ja pats ar to nevari tikt galā, izmanto kādus rīkus vai citas iespējas. Tā ir kritiskā domāšana. 

Informācijas gūzma šobrīd ir milzīga, cilvēks tajos labirintos var apmaldīties, bet Mākslīgais intelekts var nākt talkā.

Vai informācijas izvērtēšanā, pārāk paļaujoties uz tehnoloģijām, cilvēks neizslēgs pats savu kritisko domāšanu?

Jau tagad varam novērot šādu procesu ar vai bez Mākslīgā intelekta, proti, kad cilvēks vienkārši paļaujas uz kaut kādām sazvērestības teorijām un tām tic. Vai viņš gribēs izmantot MI kā palīgu objektīvās informācijas noskaidrošanā vai negribēs, tas paliek katra paša ziņā. Piekrītu, ka galvenais ir izkopt cilvēkā vēlmi kaut ko apstrīdēt un mēģināt iegūt apstiprinājumu informācijai arī citos avotos. Kā tas tiek paveikts – lasot grāmatas vai, piemēram, izmantojot MI rīkus –, tas jau ir pakārtots jautājums. Mākslīgais intelekts tomēr ir tikai palīgs, tas nevar aizvietot cilvēka prātu. Šobrīd nevar. Un paldies dievam, ka tā.

Žurnālists: Diemžēl bulgāri ir pieraduši pie "infoizklaides"

"Dezinformācija Bulgārijā ir plaši izplatīta, pieļauju, ka šajā ziņā esam Eiropas Savienībā ievainojamākie, īpaši, ja runājam par Krievijas propagandu," atzīst Beļģijā dzīvojošais bulgāru žurnālists, platformas "Euractiv Bulgaria" dibinātājs Georgijs Gotevs. Viņa vadītais medijs ir viens no "AI4Debunk" projekta dalībniekiem.

Skaidrojot apstākļus, kas Bulgārijā veido auglīgu augsni Kremļa naratīviem, Gotevs atzīmē, ka daļa valsts iedzīvotāju jauc tradicionālās prokrieviskās jūtas, kam ir vēsturiskas saknes, ar atbalstu Maskavas politikai. 

Taču tas nav vienīgais iemesls.

Georgijs Gotevs: "Domāju, ka nav slikti, ja "sarkanā lampiņa" iedegas ikreiz, kad mēs tiešsaistē sastopamies ar saturu, ko MI atpazīst kā iespējamu viltus ziņu."

Foto: No Georgija Goteva personiskā arhīva

Krievu nauda un bezmaksas idioti

Georgijs Gotevs: "Krievija tērē daudz naudas Bulgārijas medijiem gan oficiāli, gan neoficiāli. Turklāt Maskava paļaujas arī uz "noderīgiem idiotiem", kas bez maksas atkārto tās vēstījumus. Bet politiķu, mediju un blogeru vidū ir pietiekami daudz noderīgu idiotu."

Salīdzinot Bulgāriju un Beļģiju, kur Georgijs dzīvo jau 17 gadus, viņš uzsver milzīgo atšķirību, cik lielā mērā Krievijas propaganda ir iespraukusies publiskajā sfērā: "Bulgārijā – ļoti daudz, Beļģijā – ļoti maz. Beļģijā viltus ziņas var atrast sociālajos medijos, bet Bulgārijā tās ir plaši izplatītas ziņu vietnēs." Žurnālists skaidro, ka partija "Vazraždane" (Atdzimšana), kam Bulgārijas parlamentā pašlaik ir 35 no 240 vietām, veidojās, balstoties gan uz antivakseru kustību, gan uz proputiniskiem noskaņojumiem. 

Bet ultranacionālistiskā spēka "Veličie" (Diženums) panākumi 2024. gada vēlēšanās lielā mērā tiek skaidroti ar partijas izveidotajām "sēņu lapām", kas internetā izplatīja viltus ziņas un pret ES vērstus naratīvus.

Lamatās arī žurnālisti

"Diemžēl bulgāri ir pieraduši pie "infoizklaides" – ziņām, kas vairāk balstītas uz izklaidi, nevis uz nepieciešamību būt informētiem," piebilst Gotevs. "Kā žurnālistam man vienmēr ir bijis reflekss izmantot tikai uzticamus informācijas avotus. Tāpēc šajā jomā nekad nezaudēju modrību. Vienlaikus esmu novērojis, ka citi cilvēki – pat kolēģi – iekrīt plaši sastopamu viltus ziņu un dezinformācijas lamatās."

Viņš stāsta, ka savulaik "Facebook" pamanījis, cik neaizsargāti ir cilvēki, saskaroties ar viltus ziņām: "Man pazīstami cilvēki publicēja acīmredzamas melu ziņas, un es sāku uz to reaģēt, atzīmējot, ka tas ir viltojums. Daži cilvēki uz to reaģēja pozitīvi un saturu dzēsa, bet citi mani "izmeta" no draugiem. Reiz saiti uz viltus ziņu man atsūtīja kāds žurnālists, kuru profesionāli pazinu. Es viņam jautāju: "Kāpēc jūs izplatāt viltus ziņas?" Viņš atbildēja: "Nezināju, ka tā ir viltus ziņa, man tas šķita interesanti."."

Ja pat žurnālistiem viltus ziņas šķiet "interesantas" un viņi tās izplata sociālajos medijos, tas nozīmē, ka medijpratības līmeņa celšanā vēl daudz darāmā, 

uzskata "Euractiv Bulgaria" vadītājs. Viņš arī kritizē, ka bulgāru žurnālisti politiķu izteikumus lielākoties neskata plašākā kontekstā: "Viņi vienkārši citē politiķi, piemēram, neatgādinot, ka pirms vairākām nedēļām viņš runājis kaut ko gluži citu vai ka pieejamie dati liecina par pretējo."

Vienlaikus kā pozitīvu lietu Bulgārijā Gotevs izceļ žurnālistikas projektus, kas atmasko viltus ziņas. Lai gan lēni, tomēr lietas virzoties pozitīvā gultnē.

Ja iedegas "sarkanā lampiņa"

Runājot par "Euractiv Bulgaria" lomu "AI4Debunk" projektā, Gotevs uzsver, ka liks lietā platformas uzkrāto pieredzi faktu pārbaudē un viltus ziņu atklāšanā Bulgārijā, lai stiprinātu cīņu pret dezinformāciju visā Eiropā.

"Projekta ietvaros mēs atklājam dezinformācijas naratīvus un apkopojam datus par viltotu multimediju saturu. Šie dati palīdzēs veidot plašākas zināšanu kopas, veidojot pamatu mākslīgā intelekta darbinātiem rīkiem, kas būs projekta galvenais rezultāts," skaidro žurnālists.

Pret "draudzības" ieročiem cilvēku ietekmēšanai

Karls Millers, Lielbritānijas domnīcas "DEMOS" pētnieks, grāmatas "Dievu nāve: jaunā pasaules varas sagrābšana" ("The Death of the Gods: The New Global Power Grab"): "Mākslīgais intelekts (MI) jau ilgāku laiku pastāvīgi tiek izmantots informatīvās telpas aizsardzībai, galvenokārt, lai atklātu informācijas operācijas. Darbojos pētniecības grupā, kuras mērķis ir informatīvās telpas un vēlēšanu aizsardzība no ārējas iejaukšanās. Mūsu komandu lielā mērā veido MI pētnieki un inženieri.

Karls Millers, Lielbritānijas domnīcas "DEMOS" pētnieks, grāmatas "Dievu nāve: jaunā pasaules varas sagrābšana" ("The Death of the Gods: The New Global Power Grab").

Foto: Publicitātes

Cilvēki, kas apdraud informācijas telpu, parasti izmanto dažādus ģeneratīvus MI modeļus tekstu, attēlu, video un citu materiālu gatavošanai un izplatīšanai. Mūsu gadījumā MI izmantošana vairāk ir saistīta tieši ar informācijas operāciju atklāšanu.

Domājot par MI attīstību, uzskatu, ka galvenie izaicinājumi ir saistīti ar veidiem, kā mākslīgais intelekts iekļausies sarežģītākās sociālajās un psiholoģiskajās teorijās par ietekmi un ietekmēšanu. 

Mani patiešām ne tik daudz uztrauc tas, ka cilvēki varētu spamot, izmantojot dziļviltojumus, kā tas, ka mākslīgo intelektu varētu izmantot, lai radītu "iedraudzēšanās" vai "draudzības" ieročus. Proti, izmantojot šīs tehnoloģijas, iespējams noteiktā laikā uzturēt tūkstošiem sarunu viens pret vienu ar cilvēkiem, kuru uztverē tas aizvien vairāk un vairāk var izskatīties kā draudzība. Un caur to arī veidojas ietekme.

Domāju, ka galvenā problēma ir, kā uzlikt papildu šķēršļus un ierobežojumus cilvēkiem, kas izmanto šos modeļus minētajiem mērķiem. Tāpēc, ka pašlaik, šķiet, nepastāv nekādas īpašas barjeras, lai šādas darbības ierobežotu."

Par projektu "AI4Debunk"

• Norises laiks: 2024.–2027. gads
• Budžets: 4,9 miljoni eiro
• Partneri: LU (projekta koordinators); platforma "Euractiv.bg" (Beļģija/Bulgārija); domnīca "Pilot4DEV" (Beļģija); Monsas Universitāte (Beļģija); aģentūra "Internews Ukraine" (Ukraina); Itālijas Nacionālā pētniecības padome; Florences Universitāte (Itālija); Nacionālais starpuniversitāšu telekomunikāciju konsorcijs (Itālija); Barselonas Superskaitļošanas centrs (Spānija); IT kompānija "DOTSOFT" (Grieķija); Golvejas Universitāte (Īrija); Globālais jaunuzņēmumu tīkls "F6S Innovation" (Īrija); Utrehtas Lietišķo zinātņu universitāte (Nīderlande); Inovāciju fonds "INNoVaTiVe POWER" (Nīderlande).
• Mērķis: izstrādāt lietotājam draudzīgus MI dezinformācijas atpazīšanas rīkus, tajā skaitā:

* tīmekļa spraudni (integrēts ar tīmekļa pārlūkprogrammām un sociālo mediju platformām, nodrošinot tūlītējus paziņojumus lietotājiem par nepatiesu saturu);

* sadarbības platformu "Disinfopedia" (iespēja ziņot par aizdomīgu saturu);

* viedtālruņa lietotni (atklāj dezinformāciju tālrunī);

* paplašinātās realitātes/virtuālās realitātes (AR/VR) saskarni (sniedz padomus, kā rīkoties ar dezinformāciju sociālajos medijos).

Atmaskots

Foto: Latvijas Mediji

Mediju atbalsta fonda ieguldījums no Latvijas valsts budžeta līdzekļiem. Par publikācijas saturu atbild "Latvijas Mediji".