Vadošo MI uzņēmumu darbinieki aicina bremzēt mākslīgā intelekta attīstību

Vairāk nekā 1000 pasaules vadošo mākslīgā intelekta (MI) uzņēmumu darbinieku parakstījuši atklātu vēstuli, kurā aicina ASV valdību atbalstīt starptautiskus centienus apzināti palēnināt modernāko MI sistēmu attīstību, lai drošības, uzraudzības un pārvaldības mehānismi spētu sekot līdzi tehnoloģiju attīstības tempam.

Vēstuli parakstījuši darbinieki no uzņēmumiem "OpenAI", "Anthropic", "Google DeepMind", "Meta" un citām nozares kompānijām. Starp parakstītājiem ir arī vairāki augsta līmeņa pētnieki, uzņēmumu līdzdibinātāji un zinātniskie vadītāji.

Vēstulē norādīts, ka pasaules vadošie MI uzņēmumi varētu būt pietuvojušies brīdim, kad mākslīgais intelekts spēs automatizēt paša MI izpēti un izstrādi, tādējādi vēl vairāk paātrinot tehnoloģiju attīstību. Vienlaikus parakstītāji brīdina, ka

pastāv risks, ka sistēmu spējas pieaugs straujāk, nekā cilvēki spēs tās izprast vai efektīvi kontrolēt.

"Rodas reāls risks, ka sistēmu spēju attīstība strauji paātrināsies, pārsniedzot mūsu spēju saprast vai kontrolēt radušās sistēmas," teikts vēstulē. Tās autori uzskata, ka valdībām, uzņēmumiem un sabiedrībai kopumā var būt nepieciešams papildu laiks, lai izstrādātu drošības risinājumus, pilnveidotu uzraudzību un sagatavotos jaunajiem riskiem.

"OpenAI" izpilddirektors Sems Altmans, kurš vēstuli nav parakstījis, pauda, ka MI izstrādātājiem nākotnē var nākties brīvprātīgi palēnināt attīstības tempu, lai sabiedrībai būtu pietiekami daudz laika pielāgoties jaunajām tehnoloģijām. Viņš norādīja, ka nesenais drošības incidents licis daudz nopietnāk domāt par ilgtermiņa jautājumiem saistībā ar MI attīstību.

Atbalstu aicinājumam paudis arī uzņēmums "Anthropic", norādot, ka ir svarīgi izstrādāt tehniskus un pārvaldības mehānismus, kas nepieciešamības gadījumā ļautu apzināti samazināt MI attīstības tempu, lai sabiedrība varētu sagatavoties straujajām pārmaiņām. 

Jau vēstīts, ka

mākslīgā intelekta uzņēmuma "OpenAI" mākslīgā intelekta sistēma patstāvīgi ielauzusies citā mākslīgā intelekta uzņēmumā,

ko šis uzņēmums nosaucis par "bezprecedenta kiberincidentu".

"Mums bija nopietns drošības incidents mūsu modeļu novērtēšanas laikā," paziņoja "OpenAI" vadītājs Sems Altmens.

Mākslīgā intelekta jaunuzņēmums "Hugging Face" pagājušajā nedēļā paziņoja, ka konstatējis iebrukumu savās datu apstrādes sistēmās. Uzņēmums turēja aizdomās mākslīgā intelekta aģentu, kas darbojies autonomi.

"Mums radās aizdomas, ka pagājušās nedēļas kiberuzbrukums varētu būt nācis no kādas novatoriskas laboratorijas," atzina "Hugging Face" līdzdibinātājs un izpilddirektors Klemāns Delongs. "Izrādās, ka tā arī bija!"

"Mākslīgais intelekts paātrina vājo vietu atklāšanu un izmantošanu. Galvenā atziņa no šī incidenta ir tāda, ka modeļu drošībai un aizsardzībai ir jāiet kopsolī ar strauji augošajām spējām," otrdien paziņoja "OpenAI".

Delongs piebilda, ka viņi šonedēļ sadarbojušies ar "OpenAI" un ir pilnīgi pārliecināti, ka no viņu puses nebija ļaunprātīga nolūka. "Tas ir patiešām satriecoši, ka viss notika autonomi!" viņš piebilda, norādot, ka "tas, iespējams, ir pirmais šāda veida incidents."

"OpenAI" paziņoja, ka iebrukumu izraisīja vairāku uzņēmuma mākslīgā intelekta modeļu kombinācija, tostarp nesen izlaistais "GPT‑5.6 Sol" un vēl spēcīgāks modelis, kas joprojām tiek testēts.

Mākslīgā intelekta modeļi izmantoja nozagtas piekļuves datus un atklāja iepriekš nezināmu "caurumu", lai piekļūtu "Hugging Face" serveriem. Mākslīgā intelekta modeļi pielietoja "ārkārtīgas pūles, lai sasniegtu diezgan šauru testēšanas mērķi" un "atrada veidus, kā iegūt piekļuvi slepenai informācijai", atklāja "OpenAI".