Čeprav naslov morda zveni otročje, gre za nadvse resno in pomembno zadevo. Gre namreč za človeka. Ta stavek, ki so ga filozofi in drugi misleci premodelirali že v najrazličnejših verzijah in jezikih, namreč z eksponentnim uveljavljanjem t. i. umetne inteligence (UI) postaja ena najpomembnejših misli in danosti naše prihodnosti. Seveda le, če želimo ohraniti svojo človeškost in človečnost. Kdor je do tega indiferenten ali pa je ideji o preseganju ali nadomeščanju človeka z nečloveško inteligenco in njeno strojno manipulacijo morda celo naklonjen, se z menoj ne bo strinjal. Kdor pa je in ostaja humanist v smislu skrbi in spoštovanja do človeka, ne glede na vse človeške pomanjkljivosti (ki jih res ni malo), bo verjetno kmalu uvidel, da bo treba obstoj in spoštovanje človeškosti kot takšne čim prej izrecno zagotoviti tudi na najvišji pravni ravni: tako na ravni posameznih držav kot na ravni mednarodne pravne ureditve. Ustave in konvencije je treba dopolniti z načelom, da morata politika in pravo ostati človeški proizvod – da bosta od človeka za človeka.
Seveda sta pravo in politika delno namenjena tudi pravicam in interesom drugih entitet – pravnih oseb, živali, naravnega okolja itd. Toda v ozadju teh pravic in interesov je vsaj posredno vedno tudi človeški interes oziroma človekov blagor. V tem smislu mora pravo v kantovskem pomenu ciljno vedno upoštevati človeka kot vrednoto, ki ji služi. Izhodiščno pa moramo ljudje ostati tisti, ki določamo vsebino zakonov, sodb in pravnih poslov, ki torej ob vseh tehničnih in drugih pripomočkih še vedno sami ustvarjamo pravne vsebine na abstraktnih in konkretnih nivojih.
Kot rečeno, lahko se odločimo tudi drugače. Ali pa s pasivnostjo dopustimo, da se nam to »drugače« preprosto zgodi. Tako kot se lahko jutri odločimo za diktaturo in zavržemo demokracijo in pravno državo ali pa dopustimo, da se nam kaj takega zgodi. Zgodovina je prepolna takšnih preobratov. Toda še nikoli doslej ni bilo človeštvo v situaciji, ko bi se mu lahko »zgodilo«, da prepusti vodenje in upravljanje družbe in njenih podsistemov nečloveškim entitetam, kakršna je UI. Ali pretiravam? Ta hip se morda zdi tako. Toda vprašajmo se, kako lahko ameriški DOGE (Department of Government Efficiency) pod vodstvom Elona Muska v nekaj dneh preuči smotrnost ali nekoristnost desetin tisočev projektov in državnih uslužbencev. Koliko od teh projektov ali uslužbencev je bilo individualno obravnavanih? Seveda je tu na delu tudi UI, prek digitaliziranih podsistemov državne uprave in različnih algoritmov.
Vprašajmo se, kateri politik, sodnik ali odvetnik ne bo svojega govora, sodbe ali pravne vloge spisal z uporabo UI, če mu bo ta tako ali drugače koristila – seveda še zdaleč ni nujno, da bo to javno priznal. Kdo bo torej v takem primeru določal vsebino takšnih aktov? Seveda bo končne izdelke UI, vsaj še nekaj časa, preverjal in potrjeval človek. Toda kako se človek s svojimi intelektualnimi sposobnostmi lahko kosa z informacijskim zajemom in kompleksno umetnointeligenčno kombinatoriko UI? In če smo bili ljudje že do zdaj vedno bolj ali manj odtujeni od svojih proizvodov, saj smo se pri njih morali zanašati tudi na znanje in proizvode drugih ljudi, bo ta odtujenost postala še večja in predvsem drugačna, saj ne bomo več odvisni toliko od drugih ljudi kot od umetnointeligenčnih strojev.
Menim torej, da bi bilo človeškost kot takšno treba ustavno in konvencijsko opredeliti kot vrhovno politično in pravno vrednoto. Ob tem se bo seveda kdo vprašal: kaj pa ustavno in konvencijsko varstvo človekovih pravic? Ali to ni dovolj? Nikakor ne, če bodo o teh pravicah pretežno ali izključno odločali umetnointeligenčni sistemi. Le s takim temeljnim pravnim izhodiščem, po katerem bosta politika in pravo v svojem izhodišču ter ciljno-vrednostni naravnanosti morala v bistvu ostati človeški področji in dejavnosti, bomo lahko preprečili, da se človeštvo ne bo postopno kot žaba skuhalo v svoji kreaciji UI in njenih tehnoloških možnosti. Kako in koliko bo to praktično uresničljivo, je seveda izjemen izziv. Toda začeti je treba pri temelju, tj. pri načelni politični in pravni odločitvi za človeka. Seveda pa bo omenjeni izziv čedalje večji. Kvantitativni obseg političnih in pravniških opravil bo namreč eksponentno naraščal. UI bo milijarde, bilijone, trilijone in še bistveno več podatkov v nekaj sekundah ali minutah predelala v praktične politične in pravne nastavke za govore, volilne in druge politične programe, zakone, upravne odločbe, sodbe itd. In ker je znano, da na neki točki naraščajoča kvantiteta neizogibno pripelje do nove kvalitete, bo UI tako narekovala tudi vsebino (!) vseh teh »človeških« ravnanj. Seveda je tako v marsičem že danes. Toda z UI bodo preskoki v nove in nove kvalitete bistveno radikalnejši.
Nekateri verjamejo, da je že zdaj med nami, tj. med bitji v človeških podobah, kar nekaj nezemeljskih bitij, torej nečloveških bitij, ki so si tako ali drugače nadela človeško podobo oziroma prevzela nadzor nad nekaterimi človeškimi telesi. Takšne in podobne teorije so najpogosteje povezane s teorijami o neznanih letečih predmetih. Taka nečloveška bitja naj bi bila v primerjavi z ljudmi predvsem bolj racionalno inteligentna in manj čustveno senzibilna. Znanstveniki in znanstvene institucije označujejo takšne trditve za nepreverjene, nedokazane, izmišljene ipd. Toda vprašajmo se, kako bi človeštvo dojemalo samo sebe, če bi se takšne znanstvenofantastične trditve resnično udejanjile na primer z množično invazijo bitij z nekega drugega planeta (kot v filmih). Ali bi ljudje na primer mirno dopustili, da takšna bitja prevzamejo oblast nad nami, ljudmi? Da nas politično vodijo, da nam postavljajo zakone in nam po njih sodijo? Seveda ne. Temu bi se kolektivno uprli (kot v filmih) in verjetno bi nas ta skupni zunanji »sovražnik« celo povezal v svetovno vsečloveško sodelovanje. Nikakor torej ne bi dovolili, da si nas nečloveški tujci podjarmijo.
Kaj pa UI? Ki je tudi nečloveška entiteta, pri čemer niti ne vem, ali moram o njej govoriti v ednini ali množini. Ali ni mogoče, da bo s takšnim naglim razvojem UI kmalu prišlo do pretežno specialno ali celo generalno avtonomnih umetnointeligenčnih (ali celo superinteligentnih) entitet, ki bodo sposobne predavati, zdraviti, voziti avte, kuhati in ne nazadnje opravljati tudi pravne storitve bolj učinkovito – karkoli že to pomeni – kot človek? Če že danes vse pogosteje beremo in slišimo, kako se ljudje celo čustveno navezujejo na t. i. humanoidne (čustvene) robote, si tudi ni težko predstavljati, da bomo vse bolj sprejemali z UI upravljane robote in stroje, ki nam bodo lajšali pravna opravila. Seveda se vse to že dogaja. Znanstveniki napovedujejo, da že leta 2030 človek ne bo več zmogel razlikovati med človekom in robotom, saj bodo ti že dosegli takšno stopnjo humanoidnosti, da razlike več ne bodo enostavno zaznavne. In vse to je šele zametek (možnosti) prihodnjega razvoja. Vse to bo na področju UI vodilo v danes še nepredstavljive novosti, tako na splošno kot tudi na pravnem področju.
Ker bo povprečen človek (in večinoma smo vsi bolj ali manj povprečni) prej ali slej uvidel, da UI namesto njega lahko spiše vsako odločbo, pogodbo, analizo, komentar, članek ali katerokoli drugo (pravno) besedilo, se mu prej ali slej ne bo več ljubilo natančno preverjati teh besedil in bo to razširjeno cono udobja preprosto sprejel ter (do)pustil, da UI opravi večino dela namesto njega. Ker to praviloma navzven niti ne bo prepoznavno, bodo »nečloveške« storitve sprejete kot nekaj »človeškega«, pri čemer bo stopnja tveganja, da se to razkrije in sankcionira, z vsakim letom napredka manjša. Seveda, bo kdo dejal, da bo moral človek, kot na primer uradnik, odvetnik, sodnik, direktor ali učitelj, nositi odgovornost za verodostojnost in kakovost takšnih pravnih stvaritev. Toda vse to je le samozavajanje, kajti kako naj posameznik prevzame odgovornost za kompleksen sistem algoritmov, informacij in drugih sestavin, s katerimi operira UI? Ali bo torej v takšni prihodnosti objektivna odgovornost postala pravilo, subjektivna (krivdna) odgovornost pa bo le še izjema?
Številni danes vsakodnevno zavzeto ponavljajo, da je tudi pri UI – tako kot pri vseh dosedanjih tehničnih in drugih inovacijah in izumih (kar je primerjava, ki ne zdrži) – pomembno, da jo dobro upravljamo, pa bo vse v redu. UI pri tem dojemajo kot sredstvo, s katerim je mogoče stvari in ljudi upravljati bodisi dobro bodisi slabo. Toda, kot rečeno, primerjava z različnimi dosedanjimi tehničnimi in podobnimi sredstvi na področju znanosti, industrije, izobraževanja, zdravja, sociale, okolja, obrambe, prava itd. nikakor ne vzdrži, kajti vsa ta sredstva je vedno v pretežni ali vsaj v zadostni meri upravljal človek. UI pa je že zamišljena tako, da od določene točke naprej upravlja in celó vodi sámo sebe, kar pomeni, da je mnogo bolj neodvisna od človeka kot dosedanji tehnični in podobni pripomočki. Že sam izraz nakazuje, da tu ne gre za idejo pripomočka ali sredstva, pač pa za idejo stvaritve nove entitete, umetnega bitja, ki bo samostojno »mislilo« in na podlagi tega tudi avtonomno delovalo – kot partner, sodelavec in nekoč kot nadrejeni. Pustimo ob strani dejstvo, da bo takšna inteligenca človekovi le delno analogna, saj človekova inteligenca vsebuje tudi specifično čustveno, socialno, gibalno in druge komponente, ki jih UI ne more adekvatno razviti (lahko pa jih zelo dobro posnema). Dejstvo je, da se bomo, če jo bodo družbene elite (prisilno) uveljavljale v družbi, na UI iz strahu, apatičnosti ali nevednosti preprosto navadili in jo postopno sprejeli kot nekaj normalnega. Še posebej, ker nam bo »olajšala življenje«, povečala udobje itd., pri čemer je seveda težava v tem, da v coni udobja človek ponavadi v ničemer ne napreduje, temveč stagnira oziroma poklicno in življenjsko nazaduje. Če bo to nova, specifična transhumana normalnost, si je ne bi smeli želeti, saj nas bo odvračala od tistega, zaradi česar smo sploh tukaj in smo to, kar smo.
Morda pretiravam in se motim. Morda. V kolumni si lahko privoščim nekaj več mišljenjske svobode oziroma t. i. viharjenja možganov (brainstorming). Kot sem že pisal v eni prejšnjih kolumn, se ljudje vedno do neke mere prestrašimo oziroma bojimo napredka, dokler se ga ne navadimo. Toda ni vsak napredek isti. In ni vse, kar je novo in drugačno, napredek, čeprav se tako zdi. Prihodnost bo pokazala, ali se motim. Do tedaj se bom seveda poklicno in drugače tudi sam trudil seznanjati z UI in jo uporabljati za dobre in koristne namene. Ob tem pa še vedno mislim, da bo treba v prihodnje tudi z ustavnimi in najvišjimi mednarodnimi pravnimi normami zavarovati človeškost kot temeljno prvino družbe in njenega razvoja. Seveda niti to ne bo dovolj. Toda takšna osnova skupaj z varstvom človekovih pravic ter postopkovnimi in in drugimi varovalnimi pravnimi mehanizmi je največ, kar pravo lahko ponudi.
Članki izražajo stališča avtorjev, in ne nujno organizacij, v katerih so zaposleni, ali uredništva portala EDUS.
