Naj se uvodoma še nekoliko zadržim pri ukrajinski vojni. Mnogi danes ugotavljajo, kako razgalja pomehkuženost in dvoličnost Evrope in zahodne civilizacije na eni strani, ter večno avtoritarnost ruskih samodržcev na drugi. Človeštvo se v zvezi s to vojno postavlja bolj na eno ali bolj na drugo stran. Ali krivimo za to morijo predvsem Putina in njegove podpornike, ali pa vsaj delno tudi nenačelno politiko zahoda, ki naj bi Ukrajino prikrito politično usmerjala zoper Rusijo in »zapeljala« v nerealne sanje o članstvu v paktu Nato. Ali se zgolj upravičeno zgražamo nad tistimi Putinovimi Rusi, ki Ukrajince očitno štejejo za manjvredno nacijo, ali pa samokritično uperimo prst tudi v Evropo, ZDA in druga zahodnjaška okolja, ki življenje Evropejca (Ukrajinca) cenijo bolj kot življenja prebivalcev iz geografsko, rasno in kulturno bolj oddaljenih delov sveta, npr. iz Sirije, Jemna, Sudana, Libije, Afganistana, Venezuele itd., da religioznih, rasnih in drugih diskriminacij niti ne omenjam. In še bi lahko našteval. No, v zvezi s to in drugimi vojnami naj le še enkrat na kratko rečem, da za rusko in vse ostale tovrstne vojaške agresije ni opravičila. Zaslužijo si vso obsodbo. Pika.
Zakaj spet govorim o vojni, čeprav sem o tem v zadnjem času že napisal nekaj prispevkov in me naslov te kolumne usmerja drugam? Zato, ker nas vojna kot skrajnost človeške ne-umnosti in nerazumevanja bistva našega življenja na Zemlji najbolj nazorno opozarja na pomanjkljivosti človeške inteligence. Pri tem naj takoj povem, da sem pristaš teorije o večrazsežnosti človeške inteligence, ki le-to notranje členi na racionalno (npr. matematično, logično), čustveno, socialno, jezikovno, glasbeno, orientacijsko in druge dimenzije. Toda tudi nobena od teh dimenzij sama zase ni in ne more biti popolna, kot celota pa je povprečna inteligenca človeka in človeštva še precej nerazvita in predvsem neuravnotežena. To lepo dokazuje prav vojna. V njej in ob njej se v ljudeh prebudijo najbolj in najmanj človečna (humana) čustva, misli in dejanja. Od nesebične pomoči ranjenim in beguncem ter pripravljenosti žrtvovanja lastnega življenja za skupno dobro, do povzročanja grozovitega mučenja, ubijanja ljudi, živali in uničevanja narave.
Za človeško inteligenco na (do)sedanji stopnji razvoja je značilna neka zelo zastrašujoča lastnost. Karkoli se močno usidra v naše misli in občutja, prej ali slej postane tudi beseda in dejanje. In karkoli materialno ustvarimo, prej ali slej tudi uporabimo. Tudi jedrsko orožje. Uporabili smo ga že ničkolikokrat v različnih vojaških poskusih, dvakrat pa v veliki količini že tudi na ljudeh (Hirošima in Nagasaki). Da seveda o nevarnostih, ki jih sprožajo možnosti resnejših poškodb ali okvar jedrskih elektrarn niti ne govorim. Kot rečeno, zastrašujoča lastnost naše inteligence je, da kljub svoji humani, dobri, koristni strani, vsebuje tudi to negativno, uničevalno, včasih celi zverinsko plat. Seveda z vidika večnosti vse to ni tako zastrašujoče, kajti vesolje premore dovolj prostora za nadaljnjo evolucijo in vse revolucije, ki se medtem v njem nenehno dogajajo. Toda z vidika obstoja človeštva in vsakega od nas, ki si kot nekakšne male in prizadevne mravljice v tem vesolju želimo živeti, se učiti, zabavati, dosegati svoje cilje itd., je taka distancirana in objektivizirana večnostna perspektiva le slaba ali nikakršna tolažba. Morda podzavestno tudi zato hrepenimo po neki novi, višji inteligenci, ki naj bi nam omogočila boljše življenje.
V tem času tovrstna pričakovanja mnogi usmerjajo v umetno inteligenco, ki naj bi človeku pomagala k bolj kakovostnemu življenju. Toda ali so ta pričakovanja realna? In kaj je bolj kakovostno življenje? Večje materialno udobje? Več prostega časa? Manj psihofizičnega naprezanja? Več pravičnosti? Več pomoči ubogim? Manjše razlike med ljudmi v bogastvu? Učinkovitejši pregon kriminala? Misli in vprašanj na to temo je seveda nešteto. Ima pa vsaka takšna »pridobitev« seveda tudi svoj naravni antipod. Več materialnega udobja lahko pomeni tudi več lenobe in nezdravega življenja. Več prostega časa lahko za marsikoga pomeni izgubljenost v smislu, kaj naj počnem. Manj psihofizičnega naprezanja lahko pomeni slabšo telesno kondicijo in manj psihofizičnih sposobnosti. Več pravičnosti nas takoj sooči z vprašanjem, katere pravičnosti in za koga. Več pomoči ubogim in večja enakost v bogastvu se slišita odlično, toda ali si tega večina ljudi resnično želi? Prav tako smo seveda vsi za učinkovitejši pregon kriminala, toda ali tudi za ceno naše zasebnosti ter drugih pravic in svoboščin, ostrejših policijskih pooblastil ali celo totalitarnega režima?
V nekem krajšem priročniku o umetni inteligenci (The essential AI Handbook for Leaders, ur. Anton Modin, Jacob Andren) je v uvodu zapisano, da je bil vsak pozitiven premik za človeštvo spodbujen z inteligenco: od tehnoloških revolucij, do dosežkov na področju trajnostnega razvoja, gospodarstva ali demokracije. Ker gre za priročnik, ki predvsem promovira dobre in koristne plati umetne inteligence, k prejšnji misli seveda ni dodano, da je človeška inteligenca doslej botrovala tudi vsem negativnim vidikom človeškega razvoja – diskriminacijam, tiranijam in nenazadnje vojnam, s katerimi sem tu uvodoma ponazoril najbolj drastične primanjkljaje človeške inteligence. Seveda pa kljub temu držijo nadaljnje ugotovitve iz priročnika, ki poudarjajo fundamentalnost sprememb, ki jih v družbo prinaša umetna inteligenca ter njene nepredstavljive potenciale na vseh področjih življenja, tudi na pravnem.
Naj na tem mestu zelo jasno povem, da nisem nasprotnik tehnološkega razvoja. Ko so me še kot premierja na Svetovnem ekonomskem forumu v Davosu in na nekaterih drugih mednarodnih srečanjih spraševali o umetni inteligenci, sem vedno dejal, da podpiram tudi razvijanje umetne inteligence, vendar le s človeškim obrazom in smotrom. Danes vedno bolj razumem, da je (bilo) takšno moje stališče notranje protislovno in izraz nekakšne zadrege. Umetna inteligenca namreč ni človeška, zato je lahko njen »človeški obraz« le nekaj navideznega, lažnega. Kaj vse se lahko skriva za njim, pa je še precejšnja neznanka.
Osebno sem del generacije, ki doživlja doslej največji in najhitrejši tehnološki napredek v zgodovini in sem temu napredku v marsičem nadvse hvaležen. Zaradi njega vem o ljudeh, našem planetu in vesolju več kot so ljudje o vsem tem kadarkoli vedeli v (nam znani) preteklosti. Zaradi tega napredka je moje življenje tudi v marsičem lažje od življenja naših prednikov. Seveda ima, kot rečeno, ta napredek tudi številne negativne plati. Vendar tega ne bom ponavljal. Tu želim predvsem povedati, da se ob soočenju z vprašanjem umetne inteligence vedno bolj zavedam, da tu več ne gre za tehnološki razvoj, kot smo ga imeli v preteklosti. Gre za nekaj bistveno drugačnega. Umetna inteligenca namreč ni več človeška inteligenca, pač pa inteligenca, ki jo lahko pripišemo le strojem ali drugim ne-človeškim entitetam (v nadaljevanju bom govoril kar o strojih). Tu ne gre več za to, da človek s pomočjo stroja nekaj proizvaja, predeluje, ugotavlja itd. Tu gre že po definiciji za to, da se stroj inteligenčno osamosvoji od človeka in povsem sam sprejema odločitve, ki se nanašajo tudi na človeka in družbo.
V čem je torej moja zadrega? Kot človek in pravnik sem predvsem humanist. Verjamem, da mora človek, kljub vsem svojim pomanjkljivostim, biti in ostati osrednji člen in bistvo človeške družbe. Verjamem v Stvarnika, vendar – poenostavljeno povedano – verjamem tudi v vsaj toliko človeške svobodne volje, da ne pristajam na to, da bi človeške odločitve smeli povsem prepustiti strojem. Umetna inteligenca na dosedanjih začetnih ali nižjih stopnjah svojega razvoja seveda v tem smislu človeka še ne ogroža, saj je še vedno podvržena človeškemu inputu in nadzoru. Toda če idejo umetne inteligence izpeljemo do logične skrajnosti, to pomeni, da bodo politične, pravne, etične, tehnološke in druge odločitve sprejemali izključno stroji. In v tem se skriva nov paradoks: zakaj bi se stroji, če bi razvili lastno inteligenco, sploh še ukvarjali z ljudmi? Kako lahko pričakujemo, da bo inteligenca, ki bo izven-človeška sploh še želela svojo temeljno pozornost namenjati ljudem in družbenim vrednotam kot so pravičnost, dobrota, poštenost, solidarnost itd. Ali ne bodo ljudje v tem primeru kot inteligenčno inferiorna bitja primerni le še za nekakšne podložnike ali celo sužnje tej novi inteligenci?
Na vse to nas je že leta 1968 preroško opozoril film Stanleya Kubricka »2001: Vesoljska Odiseja«. V tej futuristični zgodbi računalnik Hal 9000 prevzame nadzor nad vesoljsko misijo in ubije vse ljudi na krovu plovila. Pri tem računalnik ravna na podlagi lastne inteligence, povsem racionalno, kajti po njegovi oceni ljudje na krovu vesoljskega plovila ogrožajo uspeh misije. Takšen scenarij ima lahko dva temeljna vzroka. Prvi je spoznanje višje (umetne) inteligence, da je človek kot manj inteligentno bitje bodisi grožnja »višjim ciljem«, ali pa je že zaradi svoje primitivne narave za umetno inteligenco povsem pogrešljiv. Drugi pa je dejstvo, da v tem materialnem vesolju ni nič popolnega, zato se tudi še tako razvita umetna inteligenca tudi moti, dela napake. Poleg tega je lahko s strani zunanjih dejavnikov (druge umetne inteligence ali vesoljnih pojavov kot so trki, magnetizmi, viharji, temperaturne skrajnosti, črne luknje itd.) napadena ter poškodovana ali uničena. Vse to pomeni, da tudi umetna inteligenca nikoli ne bo mogla zagotoviti sebi in človeku (če ga bo sploh še hotela varovati in zanj skrbeti) popolne varnosti in predvidljivosti. Tudi najbolj avtonomen avto, računalnik ali gradbeni stroj se bo še vedno lahko pokvaril, bil kibernetsko ali fizično napaden, poškodovan ali uničen, ali pa bo enostavno zagrešil neko napako, ki bo posledica notranje nepopolnosti sistema.
Na tem mestu seveda ne morem niti približno nasloviti številnih vprašanj in dilem, ki jih sproža vprašanje umetne inteligence. Če se zdaj osredotočim na pravo, se glede umetne inteligence predvsem sprašujem, kje so njene dopustne meje. V vsej dosedanji zgodovini je pravo veljalo za človeško področje, tj. področje, ki je kot stroka in znanost razpeto med družboslovje in humanistiko. Pravo je vrednotno usmerjeno normiranje razmerij med ljudmi z namenom preprečevanja in reševanja medčloveških konfliktov. Seveda se pravo nanaša tudi na stvari, toda te so le predmet pravnih razmerij. Tudi ko si prizadevamo za širitev prava s pravicami živali, nas razlike med živalmi in ljudmi ter razlike med tigrom, mačko, slonom in komarjem opozarjajo, da živali v pravu nikoli ne bomo mogli obravnavati na enak način kot ljudi, tj. kot polnopravne in samostojne nosilce pravic in dolžnosti. Seveda so tu še umetne pravne subjektivitetne tvorbe, predvsem t.i. pravne osebe. Tuda tudi za njimi vedno stoji kot bistveni soopredelilni subjekt človek, npr. kot (so)lastnik, član ali upravljavec. Brez človeka tudi ni ne pravodajalca, ne pravnega izvrševalca in ne sodnika. Človek je torej osrednji dejavnik prava.
Temeljno vprašanje umetne inteligence v pravu je, ali lahko ta inteligenca v celoti nadomesti človeka. Vsi razumemo, da lahko tehnologija in začetne oblike umetne inteligence močno pripomorejo k lažjemu in boljšemu sprejemanju in izvrševanju pravnih norm. Danes smo že vsi pravniki in državljani deležni številnih oblik pomoči, ki nam jih v pravu ponuja tehnologija. Od različnih baz podatkov in drugih informacijskih pripomočkov, do umetno-inteligenčnih osnutkov pravnih vlog in odločb. Toda ali bo nekoč človeški sodnik v celoti nadomeščen s strojem (računalniškim sodnikom)? Ali bo stroj nastopal celo kot zakonodajalec? Ali se bo marksistična ideologija o odmiranju prava nekoč v prihodnosti uresničila na povsem nepredstavljiv in bizaren način, tj. kot odmrtje človeške vloge v pravnih poklicih?
Ko si je v prejšnjem stoletju Indija prizadevala za državno neodvisnost od angleške nadvlade, so Angleži na neki konferenci svojega gosta Mahatmo Gandhija provokativno vprašali, kako si predstavlja Indijo kot samostojno državo, ko pa je v Indiji toliko različnih religij, narodnosti, sekt in drugih skupin, ki so v stalnih medsebojnih kofliktih in težavah. Gandhi jim je na to odgovoril, da naj za to oni ne skrbijo. To so res težave, je dejal, vendar so to naše in na vaše težave, zato nam pustite, da jih rešujemo sami. Ali ne bo treba na določeni točki razvoja na podoben način odgovoriti tudi na vprašanje o vlogi umetne inteligence v pravu? Ali ne bomo morali nekoč ljudje reči, da morebiti celo verjamemo, da lahko inteligentni stroji po svojem lastnem naziranju odločajo o medčloveških težavah bolje in učinkoviteje, toda da si ljudje ne pustimo odvzeti svojih težav, pač pa jih želimo pravno še naprej reševati sami? Nenazadnje, ali ni ravno soočanje s težavami tisti razvojni moment, ki se ga človek ne sme odreči ali pustiti odvzeti, saj se le tako resnično uči in napreduje v svojem večrazsežnostnem inteligenčnem (racionalnem, čustvenem, socialnem in drugačnem) razvoju?
Kakorkoli že, razumem, da bo šel razvoj umetne inteligence naprej in da nam bo prinesel tako dobro kot slabo. Toda že zdaj sem prepričan, da ne smemo dopustiti, da bi na pravnem ali kateremkoli drugem družbenem področju prevladali (in posledično zavladali) stroji. Kako v takšni perspektivi definirati in postavljati meje umetni inteligenci, pa je seveda izziv za vse nas in še posebej za bodoče generacije pravnikov in drugih ljudi. Človeštvo bo namreč moralo pravočasno dojeti, da se lahko človeštvu še bolj nevarni »putini« in drugi samodržci skrivajo v tistem delu umetne inteligence, ki morda nekega dne v človeku in človeštvu več ne bo videl ciljne vrednote, pač pa le še potrošno ali celo zanemarljivo sredstvo.
Članki izražajo stališča avtorjev, in ne nujno organizacij, v katerih so zaposleni, ali uredništva portala EDUS.
