Viltus ziņas nav svešs jēdziens pasaulē, kurā lielākā daļa cilvēku jaunumiem seko interneta vidē. Tajā ir viegli būt anonīmam, viegli ātri un bez pēdām mainīt saturu un nu jau arī viegli mainīt cilvēka balsi un seju. Interneta vidē nu jau cirkulē ne tikai viltus ziņas, bet arī viltus balsis un sejas. Viltotās sejas un viltotās balsis nav tikai bērnu spēlītes viedtālruņos. Tie ir arī augstas kvalitātes video un audio, kuru kvalitāti noteikt ir krietni sarežģītāk. Mākslīgais intelekts palīdz šo viltus saturu radīt un arī atklāt. Vai šāda mānīšanās ir nevainīga izklaide, kas vienkārši ļauj pašbildītei uzlikt cita cilvēka sejas vaibstus, vai reāls drauds demokrātijai, ar ko viegli mulsināt sabiedrību?  Un ko labu mums sniedz šāda mākslīgā intelekta tehnoloģija, raidījumā Zināmais nezināmajā skaidro un vērtē IT speciālists un tehnoloģiju eksperts Reinis Zitmanis un Elektronikas un datorzinātņu institūta vadošais pētnieks Roberts Kadiķis.

"Jo plašāks un pazīstams būs politiķis, jo vairāk viņš figurējis medijos, jo lielākas ir iespējās uztaisīt vizuāli ticamu un ar cilvēka aci maz atšķiramu video, kas nav īsts, kurā šis cilvēks runā, kustās," vērtē Reinis Zitmanis. "Ja video būs salīmēts, bērniem rotaļājoties viedtālrunī vai ar kādas maziņas programmas palīdzību mēģināts zoom apmānīt skatītāju, visticamāk mēs to pamanīsim. Bilde būs krietni mazkustīgāka, mīmika ierobežota."

"Ja video būs labs un cilvēki, kas gribējuši panākt sabiedriskās domas ietekmēšanu, būs tur investējuši vairākas darba dienas un pēcapstrādi, tikai algoritmi jeb citas programmas spēs noteikt ar pilnīgu pārliecību, vai video ir īsts vai ne," skaidro Reinis Zitmanis.

"Mēs internetā esam pat pieraduši pie tādiem nekvalitatīviem video, jo bieži vien ir kompresijas algoritms, kas ļauj mobilo internetu daudz vairāk skatīties. Ja pats video jau ir nekvalitatīvs, tur ir pat vieglāk paslēpt kaut kādus trūkumus, ko varētu gūt ģenerējis dators pats. Tāpēc

es ļoti nepaļaujos uz savu spēju pateikt, vai video ir īsts vai neīsts. Vairāk sāku domāt par to, no kurienes ir tas video, kas viņu licis, cik tas ir oficiāli - neoficiāli," atzīst Roberts Kadiķis. "Un no kurienes tas video pie manis ir atnācis, ja tas ir atnācis, jo mans kaimiņš ir kaut kādā soctīklā to kopīgojis, vai viņš ir domājis, no kurienes tas ir?  Visticamāk, ka nē. Tāpēc vairāk skatos uz to, nevis mēģinu saprast pēc pikseļiem, vai tas ir īsts vai nē."

Vieglāk ģenerēt mazas izšķirtspējas video, bet tas ir resursu dēļ.

Jo jaudīgāks cilvēkam, kas veido šādus video, būs dators, un jo kvalitatīvāks izejmateriāls viņa rokās ir, jo gala rezultāts būs kvalitatīvāks un mazāk atšķiramas cilvēka acij. Lai ieliktu sociālajos tīklos kaut ko daudzmaz ticamu, kur cilvēki tomēr pieraduši pie kvalitātes, nepietiks ar mazas izšķirtspējas attēliem vai bildēm.

"Pats cilvēka slinkums un izlutinātība būtībā viņu pasargās no tā, jo cilvēks ir pieradis, ka viss smuki - "Facebbok" smuki, "youtube" smuki. Ja kāds tur ieliks kaut kādu baisas kvalitātes video, tad cilvēki vienkārši spiedīs nākamo, jo viņi negribēs tērēt savu laiku, skatīties kaut ko tādu," atzīst Reinis Zitmanis.

Tehnoloģijas ļauj veidot gan viltus video, gan imitēt balsi, un balsi ir vieglāk imitēt nekā attēlu. Un it sevišķi pa tālruni ir viegli pārliecināt cilvēku, ka zvanītājs ir cits.

"Šobrīd tas viss ļoti labi strādā angļu valodā, latviešu valodā kā mazajā valodā, tas mūs šobrīd varbūt pasargā no šādiem pārsteigumiem, bet gan jau arī latviešu valodā tas ienāks arvien vairāk," norāda Reinis Zitmanis.

Viņš ari atzīst, ka tas ir bīstami, jo ārzemēs jau notiek naudas izkrāpšanas mēģinājumi, gan kompānijām, gan cilvēkiem, uzdodoties par to, kas tu neesi.

"Latvijā ir cilvēki, kas uzskata, ka likumdošanai beidzot šim vajadzētu pievērsties ar noteikumu, ka visas šīs tehnoloģijas tiktu atļauts lietot tikai izklaides industrijā. Mēs nevaram noliegt to, ko tas dod kino industrijai, atdzīvinot visādus mākslas priekšmetus un atdzīvinot sen mirušus aktierus un tā tālāk. Tur ir arī milzīgs potenciāls, bet problēma ir tajā, ka to izmanto ne tā, kā vajag," vērtē Reinis Zitmanis.

Roberts Kadiķis bilst, ka "deepfake" video ar balss imitāciju var ļaut nākotnē veidot krāpnieciskas shēmasnākotnē.

"Cilvēkam pašam nebūs jāzvana uz simts numuriem, kamēr viens no tiem simts vai divi uzķersies, varēs sarakstīt jau gatavus tekstus no mērķa cilvēka un varēs arī ģenerēt reālā laikā tajā pašā balsī arī atbildes. Izklausīsies, ka runājat ar reālu cilvēku," atzīst Roberts Kadiķis.

Protams, tehnoloģiju attīstībai ir savo plusi un mīnusi

"Jau šobrīd mēs nevaram būt droši par to, vai kaut kādas pēkšņi uzpeldējušas politiķu sarunas ierakstītas it kā kaut kādās viesnīcās un tamlīdzīgi, vai tas ir īsts materiāls, vai nē. Žurnālistiem būs ārkārtīgi grūti pieņem lēmumu uzticēties un balstoties uz šādu informāciju, veidot kaut kādus sižetus. Mēs esam piecas minūtes līdz tam, kad Latvijas un ne tikai Latvijas tiesu sistēmā būs precedenti, kad tiesnesim būs jāpieņem lēmums, vai jebkāda veida balss ieraksts vairs vispār var būt materiāls," norāda Reinis Zitmanis.

Labās lietas, ko sniedz šī tehnoloģiju attīstība: iespēja klausīties kādu audio grāmatu iemīļotā aktiera izpildījumā. Iespējas redzēt vecus, labus aktierus, kas kādreiz bija melnbalti, jaunā, krāsainā filmā pilnīgi jaunā, kvalitatīvā izpildījumā.

"Ir iespēja uzģenerēt sev avatāru, kas tavā vietā atbildēs uz kaut kādiem video tālruņa zvaniem vai, balstoties uz transkribētu materiālu, novadīt attālināti lekcija vjetnamiešu bērniem vjetnamiešu valodā, kaut arī īstenībā vjetnamiski tu nerunā, bet runā latviski. Reālā laika algoritms tev gan sejas mīmiku, mutes kustības un tā tālāk sinhronizē, lai to, ko tikko stāstīji latviešu bērniem, varētu izstāstīt vjetnamiešu bērniem, un viņi to saprastu," atklāj Reinis Zitmanis.

 Tur ļoti daudzi labumi, bet ir ļoti daudz arī bīstamības.

Reinis Zitmanis skaidro, kā top viltus video.

• Vajadzīgs, kvalitatīvs mērķa jeb atdarināmā cilvēka videomateriāls. Tam jābūt diezgan daudzpusīgam. Tāpēc politiķi šinī ziņā ir mazliet vieglāk imitēt, jo ir ļoti daudz internetā jau pieejami video ar šo konkrēto politiķi no dažādiem rakursiem.
• Ir nepieciešams "aktieris", kam ir jābūt ar daudzmaz līdzīgu sejas konstrukciju. Ir jābūt apmēram līdzīgai sejas formai.
• Lai to visu padarītu ticamu, šis "aktieris" ir jāsafilmē kaut kādos līdzīgos emocionālos rakursos, žestos, sejas mīmikā, sejas kustībās, kā to dara īstais cilvēks, kuru tu vēlies atdarināt. Jāsafilmē salīdzinoši līdzīgs materiāls. 
• Pēc tam dators šos video, kurus viņam iedod, sadalīs tūkstošiem fragmentiņos vai ekrāniņos. Katra video sekunde tiks sadalīta bija vismaz kaut kādās 7-8  bildītēs. Algoritms, kas mācīsies cilvēka mīmiku, viņš mācīsies no bildītēm, ne reālā laika video.
• Pēc tam programma, mākslīgais intelekts sameklēs tūkstošos bildīšu, kas radies no viena video, maksimāli līdzīgas "aktiera" tūkstošos bildītes un mēģinās salikt līdzības - kur grimase ir līdzīga vai žests, vai galvas izliekums. 
• Cilvēks, kas video veido, var vēl iziet cauri datorā un un izdzēst tos, kas nav sanākuši, jo algoritms ļoti daudz kļūdās.
• Pēc tam mākslīgais intelekts veidos pilnīgi jaunu video, "aktierim" virsū līmējot šos izgrieztos noteiktos sejas fragmentus. Tāpēc arī nepieciešams līdzīgs "aktieris". Darbs jāiegulda, lai būtu ticami.
• Kad jau seja ir uzlikta citam cilvēkam, tad vajadzīga kvalitatīva pēcapstrāde, jo visticamāk sejas toņi nedaudz , nesakritīs ar kakla krāsas toni, apgaismojuma intensitāti, utt. Tā ir pēcapstrāde, ar ko nodarbojas video montieri.

Lai izveidotu salīdzinoši kvalitatīvu video ar jaudīgiem datoriem ir jāņemas līdz pat trim dienām.

Roberts Kadiķis norāda, ka šobrīd ir jau labi izstrādāta seju aizvietošana, bet ar laiku varēs visu galvu aizvietot, ir arī eksperimenti, kur tiek pārnestas visas kustības. 

Tumšais internets

Paralēlā pasaule, kur daudzi procesi līdzinātos mūsējai, nav tikai iedomas vai zinātniskā fantastika. Ja runājam par interneta pasauli, tad patiešām eksistē paralēla vide, kurā iespējams apmeklēt tradicionālas mājas lapas, gan rast iespēju citiem, ne tiem godīgākajiem darījumiem. Šīs iezīmes ir attiecināmas uz tumšo tīmekli jeb "dārkvebu". Latvijas IT drošības incidentu novēršanas institūcijas “CERT.LV” vadītājas vietnieks Varis Teivāns sarunā norāda, ka nelabprāt lieto apzīmējumu “tumšais tīmeklis”, jo ar to dažkārt tiek asociētas arī citas parādības, un jēdziens tiek lietots nevietā. Taču mūsu sarunā ar to saprotam tīmekli, kura lietošanai ir nepieciešama atslēga - īpaša programmatūra, jo ne viss saturs tīmeklī būtu tiesiski atzīstams.