Nav cerību kontrolēt mākslīgo intelektu

Zinātnieki turpina mašīnas padarīt aizvien gudrākas, tostarp daudzi bažīgi aizdomājas, kas notiks tajā gadījumā, ja datori kļūs pārlieku viedi. Vai nenotiks tā, ka mašīnas sāks visu darīt tikai savās interesēs?

Saistībā ar to starptautiska pētnieku grupa sarīkoja vērienīgu pētījumu, secinot, ka vispirms jau nav itin nekāda veida, kā vispār varētu apturēt mašīnu attīstību. Viņuprāt, cilvēki vairs nekad nespēs pat patraucēt mākslīgajam intelektam (MI) nonākt līdz līmenim, kad tas pats lems par to, ko un kā darīt.

Vienlaikus pētnieki arī izvirzījuši savu vīziju par to, kā varētu izskatīties tāda ārpus cilvēka kontroles pārliecinoši izgājusi mašīna. Vispirms jāiedomājas tāda MI sistēma, kuras intelekts patiešām ievērojami pārsniedz cilvēka intelektu, proti, tik lielā mērā, ka šī sistēma spēj pašapmācīties, iztiekot bez speciālas papildu programmēšanas. Pētnieki pauduši, ka tajā gadījumā, ja šādu mašīnu pieslēdz tīmeklim, MI acumirklī gūst piekļuvi visiem cilvēces rīcībā esošajiem datiem un faktiski gūst jaudu, lai varētu pārņemt savā kontrolē visas citas mašīnas visā pasaulē!

Protams, pēc tādām atziņām tad arī rodas virkne būtiski bažīgu jautājumu. Ko tāds mašīnas saprāts patiesībā darīs ar visu šo spēku? Vai tas darbosies tikai un vienīgi cilvēces interesēs? Kurā virzienā turpmāk būs vērstas visas skaitļošanas jaudas? Un varbūt tāda mašīna par savu pirmo un galveno uzdevumu uzskatīs cilvēku pakļaušanu un turpmāku stingru kontrolēšanu un pārvaldīšanu? Un tamlīdzīgi.

Gan datortehnikas speciālisti, gan filozofi jau centušies izpētīt, vai vispār ir kāds veids, kā varētu neļaut īpaši viedajām mašīnām savu potenciālu novirzīt uzbrukumā saviem radītājiem un garantēt, ka nākotnes superjaudīgie datori saviem saimniekiem nenodarīs nekādu ļaunumu. Lūk, un tieši iepriekšminētais jaunais pētījums tad arī apliecinājis, ka diemžēl vairs nav nekādu variantu, kā varētu iegrožot ar MI apveltītās mašīnas.

Viens no pētījuma līdzautoriem Manuels Sebrians paudis, ka ideja par pasauli pārvaldošu superintelektuālo mašīnu joprojām izklausās kā fantastika, lai gan jau tagad esot tādas mašīnas, kas spēj pilnībā patstāvīgi risināt dažādus uzdevumus, bet to programmētāji paši jau vairs lāgā nesaprot, kā tas tā īsti sanāk. Līdz ar to jautājums par to, vai tas kaut kādā veidā varētu izrādīties arī bīstami cilvēkiem, kļūst aizvien aktuālāks. Tāpat vēstīts, ka minētā pētījuma gaitā speciālisti radījuši arī teorētisko savaldīšanas algoritmu, kas neļautu MI nekādos apstākļos nodarīt jebkādu kaitējumu cilvēkiem. Šajā modelējumā MI pārstāj funkcionēt, tiklīdz programmētājiem rodas pamats uzskatīt, ka tā darbības kļūst bīstamas un kaitīgas. Tiesa, paši pētnieki uzsvēruši, ka realitātē tāds algoritms var arī vienkārši nenostrādāt...