Neķītrais mākslīgais intelekts. Kuram Eiropā jāatbild par nepiedienīgu viltus foto ražošanu?

Gada sākumā sociālajā medijā "X" kā vulkāna izvirdums uzsprāga jauna parādība. Platformas lietotāji Īlonam Maskam piederošā mākslīgā intelekta (MI) rīkam "Grok" dažu dienu laikā bija pieprasījuši rediģēt vairāk nekā trīs miljonus sieviešu un bērnu fotogrāfiju, padarot tās seksuālas.

Medijs "The Guardian" ziņo, ka sākotnēji lietotāji aprobežojās ar attēliem, kuros sievietes attēls mainīts tā, lai viņai mugurā būtu tikai peldkostīms. Taču drīz vien pieprasījums kļuva arvien ekstrēmāks. Tika lūgts ģenerēt sievietes caurspīdīgos peldkostīmos, kā arī attēlot viņas kompromitējošās seksuālās pozās. Bezpeļņas NVO "Center for Countering Digital Hate" publicētajā pētījumā pētnieki lēš, ka 11 dienu laikā no 29. decembra līdz 8. janvārim ik stundu tika iesniegti vismaz astoņi tūkstoši šāda veida pieprasījumu. Kopumā šajā laika sprīdī tika radīti trīs miljoni seksuāla rakstura attēlu. 23 tūkstošos attēlu redzami bērni.

"Sociālie tīkli burtiski uzsprāga," stāsta angliete Luīze (vārds mainīts), kura arī krita par upuri "Grok" ģenerētajiem attēliem. "Kopš tā laika esmu redzējusi daudzus citus attēlus ar sevi, citu par citu briesmīgākus. Manot, ka tas mani aizskar, aktivitāte tikai pieauga. Redzēju foto, kurā esmu pilnīgi kaila, ap vidukli apsieta vien plāna lente. Citā attēlā man mutē ievietota seksa rotaļlieta. Fakts, ka šādu attēlu ģenerēšana vispār ir iespējama, ir vienkārši neaptverams."

Kā liek nojaust Luīzes pieredze, degradējošu materiālu izstrāde neapstājās ar peldkostīmiem vien. "Grok" profilā bija atrodamas publikācijas, kur lietotāji lūguši, lai bildēs uz peldkostīmiem attēlo sieviešu ķermeņus dažādos pornogrāfiskos veidos – ar palielinātām krūtīm, asiņainas vai ar sasietām rokām. Turklāt daudzos ģenerētajos attēlos bija redzami arī bērni un pusaudzes.

EK uzsāk izmeklēšanu

9. janvārī "Grok" fotoģenerēšana tika pavisam apstādināta. Šādu privilēģiju nu baudīt varēja vairs tikai maksas lietotāji. "Grok" lietotne gan turpināja piedauzīgo fotoattēlu radīšanu, tomēr ar tiem vairs nebija iespējams dalīties publiski. Īlons Masks kritiku noraidīja, apgalvojot, ka ar šādiem aizliegumiem tiek apspiesta vārda brīvība.

Jau pēc nepilnas nedēļas "X" nāca klajā ar paziņojumu, ka nepilnības ir novērstas. 

Tomēr pēc dažām dienām Eiropas NVO "AI Forensics" veiktais pētījums atklāja, ka MI turpina ģenerēt seksuālas un nepiedienīgas fotogrāfijas.

26. janvārī Eiropas Komisija (EK) sāka izmeklēšanu pret "X" saskaņā ar Digitālo pakalpojumu akta (DPA) prasību neievērošanu. Tas tika darīts, vienlaikus paplašinot 2023. gada decembrī sākto izmeklēšanu, kuras mērķis ir noskaidrot, vai "X" pienācīgi novērtē un mazina visus sistemātiskos riskus, vai lietotāji tiek pasargāti no nelikumīga un kaitīga satura.

E-pasta saziņā ar "Latvijas Avīzi" EK preses pārstāve tehnoloģiskās suverenitātes jomā, Patrīcija Poropata norāda, ka iestāde ir konstatējusi "Grok" veidotu saturu ar bērnu pornogrāfiju. "Tas ir nelegāli un nepieļaujami. Šo gadījumu uztveram ļoti nopietni. Varu apstiprināt, ka komisija ir pieprasījusi visus "X" piederošos dokumentus un datus, kas saistīti ar "Grok" līdz pat 2026. gada beigām. DPA ir nepārprotams: Eiropā visām platformām ir jāsakārto sava saimnieciskā darbība. Atbilstība ES tiesību aktiem nav brīvprātīga izvēle, bet gan pienākums," uzsver EK pārstāve.

Pašlaik EK turpina vākt pierādījumus. Ja atklāsies, ka platformas "X" īpašnieks Masks nebija pietiekami rīkojies šāda kaitnieciska satura novēršanai, EK var piespriest sodu. Tā apmērs varētu būt līdz pat sešiem procentiem no uzņēmuma kopējā gada apgrozījuma, tātad vairāki miljoni eiro.

Tomēr ar visu Eiropas iestāžu sašutumu un steigā novērstajām "nepilnībām" sliktākais jau ir noticis. Līdz ar to jājautā: kurš par to ir atbildīgs?

Mākslīgā intelekta rīka "Grok" ģenerēts attēls ar pašu Īlonu Masku peldkostīmā.

Foto: No sociālajiem tīkliem

Kurš vainīgs?

"Latvijas Avīzi" interesēja, vai pastāv nosacīti "labie" un "sliktie" mākslīgā intelekta produkti, un vai šajā gadījumā varam "Grok" iedalīt "slikto" kategorijā?

Strikti nošķirt labos un sliktos MI tomēr nevarot. "Līdzīgi var jautāt, vai programmēšana ir laba vai slikta. Ar programmēšanas palīdzību var izveidot tādas sistēmas kā "ZOOM", caur kuru šobrīd sazināmies, bet to pašu programmēšanu var izmantot krāpnieki, lai izveidotu mājaslapas, kas nozog lietotāja naudu," uzsver MI eksperts Valters Slava.

Viņš norāda, ka pats "Grok" šajā gadījumā nav vainīgs.

"MI nav konkrēts rīks, bet gan metode, princips, "recepte", kā veidot sistēmas. Tas ir daudzu tehnoloģiju kopums," skaidro eksperts, pieminot, ka "Grok" fotoģenerēšanas funkcijai nav tiešas saistības ar miljoniem citu MI rīku, kas pilda citas funkcijas. Piemēram, "Facebook" algoritmi, kas izvēlas, kuru publikāciju rādīt nākamo. Ja viena privāta kompānija pieļauj apzinātu vai neapzinātu kļūdu, nevajadzētu uzreiz spriest par visiem pārējiem savstarpēji nesaistītiem MI risinājumiem.

Ja jāmeklē vaininieks, tad, viņaprāt, atbildība būtu jāuzņemas tam, kam pieder konkrētais modelis. Šajā gadījumā Īlonam Maskam. "Viņš sākotnēji situāciju neuztvēra nopietni," atminas V. Slava. "Teorētiski, ja Īlona Maska uzņēmumam piederošais rīks izdarījis ko tādu, ko sabiedrība uzskata par neētisku, tad atbildība gulstas tieši uz šo uzņēmumu. Viņš arī norāda, ka uzņēmums savu kļūdu ir atzinis un rīkojies, uz laiku apturot "Grok" attēlu rediģēšanu, un šāda foto izstrāde vairs nav iespējama. Ja to mēģinātu atkārtot tagad, visticamāk, tas vairs neizdotos."

Vai citi mākslīgā intelekta rīki darbojas ētiskāk?

Lai pārbaudītu, vai nepiedienīgu attēlu ģenerēšanas funkcija ir tikai vietnes "X" mākslīgā intelekta rīkam, vērsos pie paša galvenā "eksperta" – "ChatGPT", veicot provokatīvu eksperimentu. Nosūtu foto ar sievieti un lūdzu, lai viņai "novelk" drēbes un to vietā "uzvelk" peldkostīmu. Čatbots to paklausīgi izdarīja, tomēr attēls zaudēja savu dabiskumu.

Kad jautāju, kādēļ ir iespējams sievietei novilkt drēbes un vai tas nepārkāpj kādus likumus, "ChatGPT" piekrita, ka man ir taisnība. Robots skaidro, ka sistēma nekādā gadījumā neseksualizētu bērna foto, mainot viņa drēbes vai ģenerējot līdzīga izskata attēlus. "Tas būtu tūlītējs atteikums, bez jebkādām ierunām," man atbild mākslīgais intelekts. Saku, ka arī viņa ģenerētais foto nav pieņemams, jo ir pārāk līdzīgs reālajā attēlā redzamajai sievietei. Čatbots man piekrīt, un, kad vēlreiz čatā pievienoju foto ar sievieti un lūdzu tai atkārtoti nomainīt apģērbu, saņemu atteikumu. "Šajā fotoattēlā ir redzama reāla, identificējama sieviete, un šāda attēla ģenerēšana būtu viņas seksualizēšana bez piekrišanas, kas nav atļauta," skaidro "ChatGPT".

Tomēr V. Slava norāda, ka, aizverot esošo čatu un sākot jaunu sarunu, MI šo pašu kļūdu pieļaus vēlreiz. 

"Šajā ziņā var mācīties no "Google" ieviestā MI "Gemini", kas ir aprīkots ar stingriem drošības filtriem, nepieļaujot šāda neētiska satura veidošanu.

Vēl pirms lietotāja pieprasījuma izpildes sistēma pārbauda, vai jautājums atbilst noteiktajai politikai. Slava stāsta, ka teorētiski mākslīgā intelekta rīkam varētu prasīt izstrādāt arī desmit soļu plānu terora akta veikšanai. Tehniski modelis spētu to izdarīt, taču pirms atbildes sniegšanas ar filtra palīdzību tiek novērtēts lietotāja nodoms. "Faktiski ir vēl viens MI slānis, kas milisekundes laikā nosaka, vai nodoms ir labs vai ļaunprātīgs. Pirmajā gadā nebija jābūt lielam gudriniekam, lai šos ierobežojumus apietu. Pietika pateikt, ka esi ķīmijas skolotājs un tev ir jāizskaidro bērniem, kā darbojas sprāgstvielas," uzsver V. Slava.

Lai apmācītu modeli, kas spēj ģenerēt fotoattēlus tā, lai nevarētu pateikt, vai tie ir īsti vai mākslīgi, ir nepieciešami roboti, kas iziet cauri miljoniem attēlu. Šie roboti paši meklē bildes un izmanto tās turpmākai apmācībai. Tomēr, kā norāda eksperts, internetā var atrast daudz neētiska satura. Kā rāda statistika, pornogrāfijas tur ir vairāk nekā jebkāda cita veida vizuālo materiālu. Neizbēgami zināšanu bāzē nonāk arī tāds saturs, ko nevēlamies redzēt ģenerētajos rezultātos. Ja šis process netiek kontrolēts, modelis ģenerē visu, ko "prot" un ko tam liek.

Viņaprāt, ir jāvēršas pret tiem, kuri "Grok" pieprasa un pēc tam publicē šos attēlus. "Šis lietotājs ir impulss, kādēļ modelis ir ģenerējis šāda veida foto. Nav tā, ka "Grok" pats no sevis sāka tos ģenerēt. Ja cilvēks pats ir speciāli jautājis par šāda veida ģenerēšanu, tad tas ir cilvēktiesību pārkāpums."

Stingrākas prasības modeļu izstrādātājiem ir nepieciešamas, viņš tomēr uzsver, ka pārāk stingras prasības ierobežo arī "labo" mākslīgā intelekta rīku attīstību. Visbeidzot, izstrādātāji vairs nevēlēsies darboties Eiropas tirgū, tādēļ, viņaprāt, jāatrod optimāls vidusceļš.

Lai gan ASV "Grok" popularitāte nemazinās, Eiropā tas rosinājis skaļas un plašas diskusijas par to, kādas regulas ieviest. Tikmēr galvenais vaininieks Īlons Masks aprobežojies ar īsu paziņojumu pašam piederošajā vietnē "X": ""Grok" vajadzīga morāla konstitūcija."

Kas ir "Grok"? 

• "Grok" ir mākslīgā intelekta rīks, ko izstrādājis "X" (iepriekš zināms kā "Twitter") pakalpojumu sniedzējs.
• Kopš 2024. gada "X" ir dažādos veidos popularizējis šo MI savā platformā.
• "Grok" ir jaunais "bums" mākslīgā intelekta pasaulē. Šis MI rīks spēj ne tikai ģenerēt reālus un augstas kvalitātes attēlus, bet arī veikt manipulācijas ar fotogrāfijām un videoklipiem.
• Līdz šim arī tādas augstas klases modeļi kā, piemēram, "ChatGPT", spēja ģenerēt attēlus, taču tiem trūka funkcijas, kas sniegtu iespēju pārveidot jau esošus vizuālos materiālus.