Nihče ne more zanikati, da zadnjih nekaj let živimo v zelo aktivni »sezoni« razvoja umetne inteligence (UI). To ni bilo vselej tako. UI je imela izrazite sezonske vzpone in padce. Sezonam napredka in navdušenja so sledile sezone zatišja, včasih tudi razočaranja. Toda zadnje leto, zlasti odkar so v OpenAI dovršili generativno UI ter jo v obliki klepetalnega robota (ChatGPT) poslali v splošno javnost za čim širšo komercialno rabo, pa je navdušenje nad tehnološkim prebojem UI na vrhuncu. Z njim pa tudi potreba po regulaciji. V tej kolumni si zato poglejmo, zakaj, kdo in kako, če že, naj regulira UI.
Ali je UI sploh treba regulirati? Niso redki tisti, ki na to vprašanje odgovarjajo negativno. Po njihovem bo regulacija zaustavila tehnološki napredek ali pa se bo ta selil v tiste jurisdikcije, kjer bo regulacija milejša, oziroma tja, kjer je sploh ne bo. Spet drugi v zvezi z regulacijo UI opozarjajo na nevarnost t. i. regulatorne ugrabitve, v skladu s katero si bodo obstoječi glavni igralci pravila napisali tako, da bodo onemogočili dostop na trg novim ekonomskim pobudam in akterjem.
Predstavljeni pomisleki seveda niso povsem odveč, vendar po mojem prepričanju ne morejo prevladati nad razlogi, ki govorijo v prid regulacije UI. Za tak zaključek zadošča že razumevanje, kdaj je pravna regulacija česarkoli sploh potrebna. In že od nekdaj velja, da je pravno urejanje nekega področja primerno ali celo nujno, ko subjekt ali objekt potencialne regulacije povzroča precejšnje negativne eksternalije, ki sprožajo konflikte ali ogrožajo pomembne vrednote, kot so pravna varnost, predvidljivost ter varovanje človekovih pravic in temeljnih svoboščin.
V primeru UI so ti pogoji nedvomno izpolnjeni. UI je tehnologija, ki za svoje uporabnike lahko predstavlja ne le visoko, temveč tudi nesprejemljivo tveganje. Še več, UI se od vseh drugih tehnologij, ki jih je človeštvo razvilo doslej, razlikuje po tem, da ni samo orodje, temveč je to tehnologija s potencialom biti agens: akter družbenih razmerij. Zlasti t. i. superinteligentna UI, ki bi delovala avtonomno, neodvisno od človeka, ki jo je izumil, bi lahko nastopala kot nova vrsta živega bitja. Ta bi slednjič človeka, ker bi bila pametnejša od njega, lahko tudi izrinila in izkoreninila.
Po tej logiki, ki že zdavnaj ni več samo predmet znanstvenofantastičnih filmov, torej ne more biti dvoma o primernosti, zares nujnosti pravne regulacije UI. Ampak, kdo pa naj to stori? Odgovor na to vprašanje je odvisen od razsežnosti tveganja, ki ga UI prinaša. Ta niti v ekonomskem niti v varnostnem smislu nikakor ni omejen samo na države. Izzivi UI so globalni, zato bi bila potrebna globalna regulacija UI. Toda ob neobstoju globalnega prava, ki je šele v nastajanju, je najbolj realno in smiselno pričakovati regulacijo UI po regionalnih ekonomskih blokih z nekaj nacionalnimi in vse več mednarodnopravnimi iniciativami.
Z vidika prostora, kjer se nahajamo mi, je naravni regulator UI problematike Evropska unija. Njene države članice bodo, sledeč načelu subsidiarnosti, lahko sprejemale tudi drugačne, bolj temeljite standarde za delovanje UI, toda jedro regulacije bo na EU. To ni nujno le za nemoteno delovanje skupnega trga, temveč tudi za učinkovanje t. i. bruseljskega efekta, s katerim EU zaradi svoje ekonomske in demografske moči svoj regulatorni okvir in vrednote, ki ga podčrtujejo, izvaža tudi v druge dele sveta. S tem EU krepi svojo politično, pa tudi ekonomsko moč.
Če naj torej EU regulira UI, kako pa naj to počne? Podlaga za to je že vzpostavljena v predlogu akta o umetni inteligenci, ki je tik pred sprejetjem. Ta temelji na dveh načelih. Po vsebini se k regulaciji UI pristopa horizontalno, sledeč uravnavanju tveganj. Večje ko je tveganje, bolj temeljita bo regulacija ali pa uporaba UI celo prepovedana. Po organizacijski plati pa bo izvedba nadzora nad implementacijo akta o umetni inteligenci kot nad večino stvari v EU podvržena deljenemu upravljanju.
Ta predstavlja delitev dela med EU in državami članicami. EU je regulator, Evropska komisija vrhovni koordinator, nova nadnacionalna strokovna agencija je svetovalno telo, dejansko pa se akt o umetni inteligenci izvaja na nacionalni ravni prek nacionalnih nadzornih agencij. Tako na nacionalni kot na nadnacionalni ravni pa so v upravljavski proces vpeti tudi zasebni akterji, ki lahko postavljajo avtonomne tehnološke standarde, ki se pozneje prevajajo v zavezujoč regulatorni okvir. Na tistem področju, kjer pravno zavezujoča regulacija ni potrebna, pa bo prostor še naprej odprt za avtonomne prakse dobrega ravnanja, področne etične kodekse in za prostovoljne zaveze k prisilnim predpisom.
Regulacija UI je torej nujno potrebna. V našem geografskem okolju se bo ta logično zgodila na ravni EU, ne gre pa izključevati mednarodnopravnih iniciativ. Razlogov za lastne slovenske predpise za regulacijo UI praktično ni. Evropski regulatorni pristop na podlagi uravnavanja tveganj je prav tako prepričljiv, njegova učinkovitost, tako v smislu preprečevanja res nevarnih praks kakor nepotrebnega birokratskega zaviranja dobrih praks proizvodnje in rabe UI, pa je odvisen od njegove dejanske izvedbe. S tega vidika je obstoječi decentralizirani pristop, ki ga je predlagala Evropska komisija, nemara preveč zapleten in utegne zlasti v manjših jurisdikcijah delovati suboptimalno.
Že na kratki rok tako lahko pričakujemo večjo centralizacijo regulacije in nadzora proizvodnje ter uporabe UI. K slednji bo nujno treba prišteti tudi UI, namenjeno zagotavljanju varnosti in obrambe. V nasprotnem primeru bomo trčili na paradoks, ko bo civilna sfera, ki je manj nevarna, z vidika UI smela manj kot represivni organi. To ne bi bilo samo nelogično, temveč tudi zelo nevarno. Podobno pa velja za tiste predloge, ki bi regulacijo UI vezali samo na oblastvene organe, torej brez horizontalnega učinka. Ker so prav velike transnacionalne korporacije tiste, ki so največje proizvajalke UI in z njo povezanega tveganja, bi bila regulacija UI brez horizontalnega učinka kot strah. Znotraj prazna, okrog pa je nič ni.
Članki izražajo stališča avtorjev, in ne nujno organizacij, v katerih so zaposleni, ali uredništva portala EDUS.
