Med večje sodobne in prihodnje izzive človeštva sodi tudi razmerje med človekom in strojem. Gre za izredno kompleksno področje znanstvenih, tehnoloških, etičnih, pravnih, socioloških in drugih vprašanj, ki ga je seveda nemogoče na kratko povzeti in komentirati. Na tem mestu se predvsem sprašujem, ali je mogoče s stroji in umetno inteligenco nadomestiti človeka. Odgovorov na to vprašanje je seveda veliko in zato je pričujoča kolumna, kljub nekaterim izraženim stališčem, predvsem povabilo k razmišljanju.
Človeku je uporaba orodij in strojev v zgodovinskem razvoju omogočila (lažje) preživetje, nadvlado velikega dela nevarne narave (npr. obrambo pred divjimi zvermi in vremenskimi grožnjami) ter prehod iz prvinske skupnosti v t.i. civilizirano in kultivirano družbo. Človek je torej v vsem dosedanjem razvoju uporabljal sredstva, ki jih je oblikoval s pripomočki iz narave oziroma okolja. Ob tem je že prvotno izdelovanje orodja in orožja v povezavi z vedno boljšim razumevanjem in obvladovanjem naravnih pojavov in zakonitosti (npr. ognja, vetra, vode, težnosti ali magnetizma) hkrati pomenilo razvijanje človekove inteligence. Ko je človek zakuril ogenj, izumil jadrnico, pri iskanju poti uporabljal zvezdne konstelacije ali kompas ter izdeloval različne oblike delovnega orodja ter orožja, je s tem vedno znova nadgrajeval svoje znanje, svojo pamet. Danes se to dogaja v interakciji človekove inteligence ter izdelave in uporabe najmodernejših strojev, robotov, računalniških programov itd. To pomeni, da se naša pamet, inteligenca, razvija sosledno z vso to moderno tehnologijo. Znanost se opira na stare inovacije, izume in podobne dosežke ter ustvarja nove, vse to pa sproti omogoča tudi nova znanstveno odkritja.
Vprašanje je, ali se z vsem tem napredkom ne bližamo neki skrajni točki, ki lahko pomeni tudi točko preloma, saj utegne še bolj bistveno, kot si to lahko danes predstavljamo, spremeniti način življenja človeka in družbe. Tako npr. Peter G. Kirchschlaeger v svoji pravkar izdani knjigi o digitalni trasformaciji (Digital Transformation and Ethics, Ethical Considerations on the Robotization and Automation of Society and the Economy and the Use of Artificial Inteligence, Nomos 2021, 537 strani) povzema opozorila, da se za razliko od prejšnjih tehnološko opredeljenih obdobij družbenih sprememb, sodobna digitalna transformacija ne ukvarja le z vprašanjem, kako ljudem olajšati delo, pač pa predvsem z vprašanjem, kako nadomestiti ljudi s samoučečimi (avtonomnimi) sistemi v verigi vrednosti. Takšna sprememba vodi v družbo, v kateri naj bi vedno manj ljudi direktno sodelovalo (participiralo) v vedno bolj učinkoviti oziroma produktivni verigi vrednosti. Tehnologija naj bi s tem omogočila višjo kakovost življenja, seveda pa le pod pogojem, da bo takšen tehnološki preobrat pospremljen z uresničevanjem načel in vrednot človekovega dostojanstva, mirne koeksistence, človekovih pravic, varnosti, enakih možnosti, nediskriminacije itd.
Navedeno Kirchschlaegerjevo delo obsežno in natančno obravnava številna vprašanja, ki se zastavljajo v zvezi z razvojem digitalne transformacije, robotizacije, umetne inteligence ipd. ter dokazuje, da je človeštvo vedno znova pred mnogimi istimi izzivi. Tudi če namreč še tako množimo in nadgrajujemo naše tehnične pripomočke in ustvarjamo celo avtonomne tehnološke sisteme (npr. avtonomna vozila), s tem ljudje še nikakor bistveno ne napredujemo na drugih področjih, kot so npr. področja politike, etike ali prava. Četudi nam seveda sodobna tehnologija (internet, zmožnosti računalnikov, robotov in drugih strojev) pomaga olajšati delo na vseh področjih, tudi na področju prava, nam ta tehnologija ne more ponuditi človeških odgovorov na tista vprašanja, v katere so bistveno vpletene naše emocije, občutja, intuicija, vrednostne sodbe in še marsikaj.
Da ne bo nesporazuma ali dvoma. Ne nasprotujem razvoju tehnologije. Biti proti temu bi bilo kot preusmerjati reko, da bo tekla navzgor. Ali pa kot pljuvanje v lastno skledo, saj tudi sam vsakodnevno uživam mnoge dobrobiti moderne tehnologije. Le-te pa ne bi bilo, če se razvoj ne bi že tisočletja razvijal tudi v smeri tehnološkega napredeka in znanosti.
Toda ves ta napredek nima nobene prave vrednosti, če ga resnično ne znamo usmeriti v dobro človeka in družbe. Tu pa nam inteligenca izrazito šepa, zaostaja. Inteligenca namreč nima le razumske dimenzije, pač pa tudi emocionalno, socialno, duhovno, glasbeno, prostorsko-orientacijsko in še katero drugo (o tem je napisano kar nekaj znanstvene in strokovne literature). Že nekaj enostavnih dejstev nam lepo pokaže, da kakovost življenja na našem planetu ne raste sorazmerno z razvitejšo tehnologijo, ki je predvsem proizvod racionalne dimenzije človekove inteligence. Manj kot en odstotek ljudi ima v rokah več kot polovico celotnega svetovnega materialnega bogastva, nepredstavljive vsote denarja se v svetu vlagajo v oboroževanje in uničevanje narave, razlike med bogatimi in revnimi se v svetu povečujejo in dosegajo marsikje vrtoglava nesorazmerja, veliko ljudi živi v strahu in revščini in zato tudi migrira, kljub dobri informiranosti smo ljudje večinoma še vedno brezčutni do mnogih humanitarnih katastrof, ki niso v naši geografski bližini (npr. Jemen, Sirija, Afganistan, Venezuela, Sudan, Etiopija...), huda kriminalna dejanja zoper človekovo dostojanstvo ter zdravje in telo se intenzivirajo itd. Vse to in še marsikaj je odraz pomanjkanja naše čustvene, socialne in duhovne inteligence. Zato je iluzorična kakršnakoli vera v to, da bomo lahko ljudje zgolj s še sodobnejšo tehnologijo in umetno inteligenco izboljšali kakovost našega življenja na individualni ali družbeni ravni. Zato močno soglašam tudi s ključnimi Kirchschlaegerjevimi ugotovitvami iz navedene knjige, v kateri avtor poudarja, da mora človek zavestno in v skladu z etičnimi načeli vplivati na procese digitalne preobrazbe, robotizacije in umetne inteligence ter se zavzemati za človekovo dostojanstvo, zaupanje, solidarnost in druge pomembne humanistične vrednote. Avtor razume pomen in neizogibnost tehnološkega razvoja, pri čemer pa je prepričan, da mora imeti homo dignitatis prednost pred homo digitalis.
Kadarkoli se sprašujemo o čemerkoli, bi morali imeti z ozadju vedno v zavesti temeljno eksistenčno vprašanje: V čem je smisel (mojega) človeškega življenja? Vsako svojo dejavnost bi morali osmišljati tudi tako, da jo vsaj deloma namenimo tudi uresničevanju tega smisla. Naj na tem mestu ponudim naslednji odgovor: Smisel človekovega življenja je najti resničnega samega sebe (Sebe). To pomeni, da se moramo do svojega jedra prebiti preko številnih plasti, ki soopredeljujejo našo človeškost. Nekako tako, kot da bi samega sebe kot čebulo (o)lupili do samega jedra, ki ga v resnici sploh ne poznamo, saj je prekrito s preveč ovoji. Kdor lahko (pa četudi le začasno) sprejme takšen odgovor na vprašanje o smislu življenja, lahko svoj odnos do strojev, tehnologije, digitalizacije ali umetne inteligence razvije v zelo produktivni smeri. Tehnologija nas namreč opozarja na naše lastne skrite potenciale. Na tisto, kar je neozaveščeno in neaktivirano pod številnimi plastmi naše lupine. Ker sami nečesa psiho-fizično ne zmoremo, smo ljudje z lastno pametjo izumili orodja in stroje, ki to storijo za nas. Toda ali vsega tega res ne bi zmogli delati tudi sami, brez strojev, če bi v sebi povsem razvili vse svoje potenciale?
Nekateri ljudje imajo daleč nadpovprečno razvit fotografski ali glasbeni spomin, nekateri v sanjah doživljajo spoznanja, ki jih vodijo k znanstvenim odkritjem, nekateri imajo izjemne talente za jezike, matematiko ali umetnost, nekateri imajo izvenčutna izkustva ali sposobnosti itd. Kje so tu meje, če bi se človek znal bolje poglobiti vase in razviti svoje speče potenciale? Četudi danes mnogi problematizirajo trditve, da je aktivnih le okoli 10% človekovih možganov, pa je vsekakor dejstvo, da velik del naših možganov ni povsem aktiviran. Ali ni torej (sodobna) tehnologija najboljša spodbuda, da začnemo tudi v svoji zavesti in podzavesti prebujati njej podobne procese?
Še posebej v drugi polovici 20. stoletja so se pojavile mnoge primerjave vesolja in računalnika. Vesolje so začeli tudi nekateri znanstveniki primerjati z velikanskim računalnikom oziroma njegovim programom. John A. Wheeler (1911-2008), častni fizik z ameriške univerze Princeton in sodelavec Alberta Einsteina, je denimo celo dejal, da živimo v »participatornem vesolju«, v katerem sta opazovalec (človek) in objekt opazovanja (vesolje) v součinkovanju (kar so filozofi ugotovili že prej, različni duhovni učitelji pa še mnogo pred njimi). Tudi človekov (raz)um in računalnik imata mnoge podobnosti iz katerih lahko človek analogno prepoznava nekatere svoje notranje procese. Če bi se hoteli in znali več ukvarjati sami s seboj, raziskovati in aktivirati svoje neizkoriščene potenciale, bi lahko razvili marsikatero novo sposobnost ali sedanje izboljšali. Toda šolsko in drugo učenje je pretežno usmerjeno v svet izven nas, zato je naša introspektiva sorazmerno šibka.
Po drugi strani so ideje o umetni inteligenci in avtonomnih vozilih, robotih in drugih strojih poskus prenašanja nekakšne idealne, nezmotljive človeškosti na stroj. Ne gre več le za to, da nam stroj pomaga, pač pa za to, da stroj prevzame človeku podobno (antropomorfno) vlogo kot misleči in po možnosti tudi čuteči subjekt. Tisto, kar ljudje pogrešamo pri sebi, bi radi tudi na ta način prenesli na stroj, ki naj bi nato kot samostojni nosilec odločanja sprejemal celo etične in podobne odločitve. Tako bi avtonomno vozilo v primeru grozeče nesreče kar samo – seveda v stotinki sekunde – presodilo, ali naj v neizogibni težki situaciji raje povozi mimoidočega otroka ali starejšo osebo ali pa naj se trčenju z njima raje izogne s trčenjem v nasproti vozeče vozilo ali s trčenjem v betonsko ograjo, pri čemer bo v slednjem primeru hudo poškodovan le potnik avtonomnega vozila. Ali bo avtonomno vozilo npr. raje poškodovalo svojega potnika, da bi rešilo pešca (npr. otroka)? Ali bo potnik za možnost takšne rešitve vnaprej vedel in ali bo z njo soglašal? Ali bo takšno vozilo na podlagi lastne (umetne) inteligence izbralo boljšo rešitev kot bi jo človek-voznik? No, vsekakor gre za resnično težka vprašanja. Toda temeljno vprašanje je pravzaprav naslednje: Ali bomo kot ljudje pristali na to, da o nas etično, pravno ali politično odloča stroj, ne glede na svojo visokorazvito umetno inteligenco? Ali bomo nekoč ljudje celo pristali, da nam namesto človeka v kazenskem, pravdnem, dednem ali družinskopravnem postopku sodi sodnik-robot?
Ob neštetih vrstah premislekov in pomislekov o teh in drugih vprašanjih, ki zadevajo tehnologijo naše prihodnosti, se moramo zavedati temeljnega vesoljnega dejstva: nič, kar biva v tem svetu ni in ne more biti popolno. Povedano nekoliko širše: niti človek, niti narava, niti stroji niso brez pomanjkljivosti. Niso nezmotljivi. Niso brez napak. In niso popolnoma odporni na škodljive zunanje vplive in namerne napade. Kdor morda o tem še ni poglobljeno razmišljal, naj to stori. Prej ali slej bo prišel do tega zaključka. In zdaj se (ponovno) vprašajmo: Ali imamo raje, da nam v kazenskem ali drugem pravnem postopku sodi nepopolni človek ali nepopolni robot? Ali lahko pristanemo tudi na to, da robot postane pravni subjekt (kot sodnik, državni tožilec, odvetnik ali celo kot stranka), morda celo nosilec »človekovih« pravic?
Tehnologija je za sodnika in druge udeležence v pravnem postopku nedvomno zelo dobrodošla in vedno bolj nepogrešljiva, ko gre za zbiranje in selekcioniranje podatkov, njihovo primerjanje, analiziranje, sintetiziranje ter v smislu umetne inteligence že tudi za predlaganje možnih (optimalnih) odločitev. Ta tehnologija bo še napredovala in pravnikom v marsičem olajšala delo. Toda, ali nam bo olajšala tudi odločanje? Ali bomo svoje odločitve prav tako prepustili strojem? Ali niso nekatere lastnosti človeškega odločanja neprenosljive na stroje? Ali ima lahko stroj intuicijo, čustvo, pravni občutek, socialni občutek, občutek za pravičnost? Vse to so sicer iracionalne prvine, ki jih v pravu bolj ali manj izganjamo iz sfere racionaliziranega odločanja. Toda kljub temu, da so in morajo biti v pravu odločitve in njihove obrazložitve pretežno racionalne, so neizogibno pogojene z iracionalnimi dejavniki. Tudi s takšnimi, ki niso zaželeni. Npr. z rasnimi, verskimi, spolnimi ali drugimi predsodki. Toda popolna izločitev intuicije, čustev ali socialnega občutka pri (človeškem) pravnem odločanju ni niti mogoča niti zaželena oziroma primerna, kajti (psihološka) občutja so del človečnosti, empatije, ki se ji sodnik ne sme apriorno in povsem odreči. Nepristranskost pri sojenju pomeni seveda tudi precejšnjo racionalno hladnost in objektivnost pri presojanju dejstev in pravnih vprašanj, toda če se sodnika posledice protipravnih ravnanj, ki prizadenejo ljudi, sploh čustveno in intuitivno ne dotaknejo, potem v okviru zakonskega razpona verjetno marsikdaj ni sposoben dosoditi zares ustrezne sankcije (npr. sorazmerne oziroma ustrezne denarne ali zaporne kazni ali pravične odškodnine za nepremoženjsko škodo). Ali je tu lahko robot boljši? Ali se da intuicijo ali socialni čut digitalizirati?
Naj končam takole. Na navedena in druga vprašanja dandanes mnogi postavljajo različne odgovore. Kakšna bo prihodnost, ne vemo. Verjetno bomo vsi presenečeni nad novimi dosežki znanosti in tehnike in marsičemu se bomo hoteli ali morali prilagoditi. Toda osebno menim, da stroj ali umetna inteligenca nikoli ne moreta v celoti nadomestiti človeka. Kaj takega niti ne smemo poskušati doseči. Tudi ne v pravu, kjer bosta tehnologija in umetna inteligenca prinesla še mnoge koristne novosti.
Ob vsem tem tudi ne pozabimo, kako nam je zadnji dve leti pandemija koronavirusa nazorno pokazala, da je človek človeku v resnici nenadomestljiv. Ob vsej sreči v nesreči, ki so nam jo nudile različne tehnične možnosti komunikacije na daljavo, ter ob številnih psiho-socialnih težavah, smo po drugi strani neposredno doživeli, da človeške bližine, dotika, žive besede, smeha in joka ter nasploh druženja in še marsikaj človeškega enostavno ni mogoče nadomestiti.Članki izražajo stališča avtorjev, in ne nujno organizacij, v katerih so zaposleni, ali uredništva portala EDUS.
